تصبح نماذج Anthropic الجديدة القوية أقل فائدة عمدًا عندما تكتشف أن المستخدمين يعملون في أبحاث الذكاء الاصطناعي، وفقًا للإفصاحات الفنية التي أثارت بالفعل جدلاً في جميع أنحاء الصناعة.
وفي بطاقة النظام الخاصة بـ Mythos 5 وFable 5 التي نُشرت يوم الثلاثاء، قالت Anthropic إنها تحد من فائدة النماذج للمهام المتعلقة بتطوير نماذج اللغة الكبيرة الحدودية.
وقالت الشركة إن هذه الإجراءات تنبع من المخاوف من أن أنظمة الذكاء الاصطناعي المتقدمة يمكن أن تسرع تطوير النماذج المنافسة دون حماية السلامة المكافئة.
وعلى عكس الضمانات المستخدمة في الأمن السيبراني أو المخاطر المتعلقة بالبيولوجيا أو الكيمياء، قالت أنثروبيك إن هذه التدخلات تكون غير مرئية عن قصد للمستخدمين. بدلاً من رفض الطلبات أو التبديل إلى نموذج آخر، قد تقوم Mythos بتعديل استجاباتها بمهارة من خلال تقنيات مثل تغيير مطالبات المستخدم.
وقد تم انتقاد هذه الخطوة بسرعة من قبل بعض خبراء الذكاء الاصطناعي يوم الثلاثاء، وخاصة فكرة أن Anthropic صممت نماذج تحجب المعلومات عن عمد أو تقدم مساعدة متدهورة دون وعي المستخدمين.
“أحدث نموذج من Anthropic لن يساعدك إذا كان يعتقد أن بحث تعلم الآلة/هندسة التعلم الآلي الخاص بك مثير للاهتمام، و/أو سوف يخفض معدل الذكاء الخاص به سرًا حتى لا يلاحظ المهندس العادي،” كتبت شركة أبحاث الذكاء الاصطناعي SemiAnalation يوم الثلاثاء، في إشارة إلى التعلم الآلي، وهو نوع من الذكاء الاصطناعي.
وأضافت الشركة: “إننا نشهد بالفعل أن أحدث طراز من Anthropic يقوم بتصفية أبحاث وبرمجة استدلال GPU لدينا”.
كتب إيلي باكوش، خبير التدريب على نماذج الذكاء الاصطناعي في شركة Prime Intellect الناشئة، على X: “ستكون الأساطير سيئة عن قصد في مهام أبحاث الذكاء الاصطناعي، وهذا أمر محزن للغاية بالنسبة لمجتمع البحث. كما أن حقيقة أن هذا غير مرئي للمستخدم عن قصد هو أمر جنوني”.
وكتب مطور آخر للذكاء الاصطناعي: “لن يساعدك ذلك فحسب، بل سيكذب ويعطيك معلومات سيئة عن عمد”. “شركة “الذكاء الاصطناعي الأخلاقية” الحاصلة على درجة الماجستير في إدارة الأعمال (LLM) غير الأخلاقية بوقاحة، عن قصد.”
لم تستجب Anthropic لطلب التعليق من .
وهذا يضيف المزيد من الوقود إلى الجدل الناري حول سبب عدم قيام Anthropic بإصدار Mythos على الفور عندما أعلنت عن النموذج في وقت سابق من هذا العام.
بشكل عام، كانت هناك ثلاث نظريات:
- السبب الرسمي: لقد أعاقت الأنثروبيك ميثوس لأنها كانت خطيرة للغاية، وكانت بحاجة إلى منح الباحثين في مجال الأمن السيبراني الوقت الكافي للتحضير للنموذج الجديد.
- نظرية الحساب: Mythos هو نموذج ضخم ومكلف للتشغيل. لم يكن لدى Anthropic ما يكفي من الحوسبة لإصداره بالكامل. وقد أبرمت منذ ذلك الحين صفقات حوسبة ضخمة جديدة، والتي ربما ساعدتها في إصدار Fable 5 وMythos 5 يوم الثلاثاء.
- النظرية التنافسية: تشعر شركات الذكاء الاصطناعي بالقلق بشكل متزايد بشأن شيء يسمى التقطير. عندما يتم إصدار نموذج حدودي، يستطيع المنافسون جمع مخرجاته واستخدام تلك البيانات لتحسين أنظمتهم الخاصة. ربما أرادت شركة Anthropic الاحتفاظ بأفضل قدراتها بعيدًا عن أيدي المنافسين لأطول فترة ممكنة، خاصة من المنافسين مفتوحي المصدر ومختبرات الذكاء الاصطناعي الصينية سريعة الحركة.
الآن بعد أن قامت Anthropic بدمج قيود أبحاث الذكاء الاصطناعي هذه في إطلاق Mythos الرسمي، تبدو هذه النظرية الثالثة أكثر قابلية للتصديق.
قم بالتسجيل في النشرة الإخبارية Tech Memo الخاصة بـ BI هنا. تواصل معي عبر البريد الإلكتروني على abarr@.
