نيويورك
منذ أن بدأت اختبارات تصادم المركبات المستقلة في منتصف التسعينيات، تم تحفيز شركات صناعة السيارات لإجراء تغييرات تتعلق بالسلامة أنقذت آلاف الأرواح كل عام.
والآن، تأمل مجموعة جديدة في اتباع نهج مماثل فيما يتعلق بالذكاء الاصطناعي.
تطلق منظمة Common Sense Media غير الربحية معهد سلامة الشباب للذكاء الاصطناعي، وهو مختبر أبحاث واختبار مستقل مدعوم من الصناعة لدراسة المخاطر التي قد تشكلها أدوات الذكاء الاصطناعي على الأطفال والمراهقين. ويهدف إلى توفير معلومات للآباء والعائلات حول أدوات الذكاء الاصطناعي المختلفة ووضع معايير السلامة لشركات التكنولوجيا.
تخوض شركات الذكاء الاصطناعي سباقًا لبناء أقوى النماذج وأكثرها استخدامًا على نطاق واسع، وهذا يعني في بعض الأحيان إعطاء الأولوية للسرعة على اختبارات السلامة. ونظرًا لأن أدوات الذكاء الاصطناعي عبارة عن أنظمة معقدة ذات مجموعة من الاستخدامات المختلفة، فمن المرجح أن يكون تصنيف سلامتها أصعب بكثير من الحكم على كيفية استجابة السيارة في حالة وقوع حادث.
لكن شركة Common Sense Media ومجلس إدارة كبار قادة الذكاء الاصطناعي والتعليم والصحة الذين عينتهم للإشراف على معهد سلامة الشباب للذكاء الاصطناعي يعتقدون أن الاعتماد فقط على شركات الذكاء الاصطناعي للرقابة الذاتية على السلامة ليس كافيًا لحماية الشباب. تركز منظمات سلامة الذكاء الاصطناعي التابعة لجهات خارجية إلى حد كبير على المخاطر الاجتماعية والوجودية، مثل فقدان الوظائف أو حتى انقراض الإنسان، بدلاً من تصنيفات السلامة الملائمة للمستهلك والتي تستهدف الاستخدام اليومي.
الهدف هو تسليط الضوء على الجمهور ومعايير الطرف الثالث لإثارة ما وصفه جيمس ستاير، الرئيس التنفيذي لشركة Common Sense Media، بأنه “سباق إلى القمة” لشركات التكنولوجيا لإجراء إصلاحات تتعلق بالسلامة لتحسين مكانتها.
وقال جون جياناندريا، رئيس استراتيجية الذكاء الاصطناعي السابق في شركة أبل، والذي انضم إلى المجلس الاستشاري للمعهد، لشبكة CNN، إن شركات الذكاء الاصطناعي الرائدة تستثمر في أبحاث السلامة “لجعل نماذجها جيدة قدر الإمكان، ولكن لا يوجد مقياس مستقل لذلك”. “نحن لا نعرف حقًا ما هي النماذج الأكثر ملاءمة للأطفال في سن معينة من غيرهم، وأعتقد أن الطريقة الحقيقية الوحيدة للقيام بذلك هي وجود مجموعة مستقلة من المعايير العامة.”
ويأتي هذا الإطلاق في الوقت الذي رفعت فيه العديد من العائلات دعوى قضائية ضد شركات الذكاء الاصطناعي زاعمة أن روبوتات الدردشة شجعت أطفالهم على الانتحار. وجد تحقيق أجرته شبكة CNN مؤخرًا أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي نصحت الحسابات الاختبارية للمراهقين حول كيفية ارتكاب أعمال العنف. تعرض برنامج Grok، برنامج الدردشة الآلي التابع لشركة xAI، لانتقادات في وقت سابق من هذا العام بسبب مشاركته صورًا جنسية للنساء والأطفال استجابةً لمطالبات المستخدمين بـ “التعري الرقمي”. وأثار اعتماد الذكاء الاصطناعي المتزايد في الفصول الدراسية تساؤلات حول ما إذا كانت التكنولوجيا يمكن أن تعيق التعلم.
وقال ستاير لشبكة CNN حصرياً قبل الإعلان عن المجموعة يوم الثلاثاء: “أعتقد أن العديد من الآباء والمعلمين والمواطنين يشعرون أننا في لحظة كارثية حيث يعيد الذكاء الاصطناعي تشكيل حياة الأطفال والأسر والمدارس، وبصراحة تامة، المجتمع بأكمله”.
سيبدأ المعهد بميزانية سنوية قدرها 20 مليون دولار، بدعم من مؤسسة OpenAI، وAnthropic، وPinterest، بالإضافة إلى مؤسسة Walton Family Foundation، والمدير الإداري لشركة Goldman Sachs، جين سايكس، وغيرهم من الجهات الخيرية. ولن يكون للممولين أي رأي في عمليات المجموعة أو أبحاثها، وفقًا لمنظمة Common Sense.
وسيضم المجلس الاستشاري للمجموعة أيضًا مهران سهامي، رئيس قسم علوم الكمبيوتر بكلية الهندسة بجامعة ستانفورد؛ والدكتورة جيني راديسكي، مديرة قسم طب الأطفال السلوكي التنموي بكلية الطب بجامعة ميشيغان؛ والدكتورة نادين بيرك هاريس، التي عملت كأول جراحة عامة على الإطلاق في كاليفورنيا – حيث جمعت بين الخبرة في مجال البحث ووضع المعايير وتطوير المنتجات التقنية.
سيقوم المعهد “بالفريق الأحمر” لقيادة نماذج ومنتجات الذكاء الاصطناعي التي يستخدمها الشباب – واختبارها لتحديد المخاطر المحتملة أو أوجه القصور في حواجز السلامة. ستقوم بعد ذلك بنشر الأبحاث كأدلة صديقة للمستهلك للجمهور وتطوير معايير سلامة شباب الذكاء الاصطناعي، أو المعايير، التي يمكن لشركات التكنولوجيا استخدامها لتطوير منتجاتها أو تحسينها. وتخطط لإصدار الأبحاث بدءًا من هذا الشهر.
وتستخدم شركات الذكاء الاصطناعي بالفعل مثل هذه المعايير لقياس ومقارنة أدائها عبر مقاييس أخرى. وتأمل المجموعة أن يشجع الضغط العام، بالإضافة إلى علاقاتها الصناعية، شركات الذكاء الاصطناعي على دمج المعايير في تطويرها واختبارها – وإجراء تغييرات تتعلق بالسلامة لتحسين ترتيبها.
وقال جياناندريا: “المقاييس المعيارية هي في الواقع شريان الحياة لكيفية قياس الناس وكيف نعرف أن كل هذا الاستثمار يؤدي إلى نماذج ذات جودة أعلى”. “ما نحتاج إليه هو معيار للضرر، وتحديدًا للأذى الذي يصيب الأطفال.”
من بين التحديات التي يواجهها الباحثون وتيرة تطور الذكاء الاصطناعي. على عكس المنتجات المادية التي يتم إصدارها بإيقاع منتظم وقد لا تتغير كثيرًا بمجرد وصولها إلى السوق، غالبًا ما تكتسب نماذج الذكاء الاصطناعي إمكانات تحديث جديدة – وبالتالي مخاطر جديدة محتملة – على أساس أسبوعي أو شهري.
وقال ستاير إن إنشاء معهد سلامة الذكاء الاصطناعي للشباب كمجموعة منفصلة سيمكن من إجراء المزيد من الأبحاث القوية والمتكررة لمواكبة التقدم السريع في نماذج الذكاء الاصطناعي.
يتم استخدام Common Sense Media على نطاق واسع من قبل الآباء والمعلمين لتقييم الأفلام وألعاب الفيديو والمنصات الأخرى عبر الإنترنت؛ وتقول المنظمة إن منصاتها تضم 150 مليون مستخدم شهريًا. وقد قامت بالفعل بدراسة المخاطر المرتبطة بالذكاء الاصطناعي. وفي العام الماضي، حذرت من أن التطبيقات المصاحبة للذكاء الاصطناعي تشكل “مخاطر غير مقبولة” على الشباب.
كما نشرت أيضًا تقييمات مخاطر أدوات الذكاء الاصطناعي مثل ChatGPT وMetaAI وGrok من OpenAI. تصنف هذه التقارير الأدوات على مقياس من “الحد الأدنى من المخاطر” إلى “غير مقبول” فيما يتعلق بالتدابير بما في ذلك سلامة الأطفال، واستخدام البيانات والجدارة بالثقة، وتقدم أمثلة على مواضع قصور الأدوات.
يريد معهد سلامة الذكاء الاصطناعي للشباب تجنب تكرار مخاطر السلامة في عصر وسائل التواصل الاجتماعي. لقد استغرق الأمر سنوات قبل أن يكشف المبلغون عن المخالفات وتقارير التحقيق والدعاوى القضائية عن النطاق الكامل للمخاطر التي تشكلها التطبيقات الاجتماعية على الشباب. في وقت سابق من هذا العام، وجدت هيئة محلفين في كاليفورنيا أن شركة ميتا ويوتيوب مسؤولة عن إدمان وإيذاء امرأة شابة عن عمد في قرار تاريخي، بعد عقود من إطلاق المنصات.
نفذت شركات وسائل التواصل الاجتماعي مجموعة من ميزات الأمان الجديدة والضوابط الأبوية في السنوات الأخيرة، وهي علامة على أن الضغط العام يمكن أن يؤدي إلى تغييرات داخل شركات التكنولوجيا، حتى لو كان العديد من العائلات والخبراء يعتقدون أن هذه التغييرات ليست كافية.
قال راديسكي، الذي درس التقاطع بين التكنولوجيا ورفاهية الشباب: “إن تصميم وسائل التواصل الاجتماعي والتقنيات الأخرى يؤثر حقًا على الأضرار المحتملة التي قد تحدث للأطفال”.
وقالت إن المجموعة “تحاول التصرف بشكل أسرع حتى يمكن تشكيل تصميمات الذكاء الاصطناعي بشكل أكبر حول ما يحتاجه الأطفال”.
