مخاوف الأمن السيبراني الأسطورية الإنسانية: ما يقوله الأشخاص الأذكياء

أثار إعلان شركة أنثروبيك عن نموذجها القوي الجديد للذكاء الاصطناعي هذا الأسبوع موجة من التحذيرات والتنبؤات الرهيبة، ولكن لا يقتنع الجميع بهذه الضجة.

قالت شركة Anthropic يوم الثلاثاء إنها لن تطلق Mythos، نموذج الجيل التالي من الذكاء الاصطناعي، بسبب مخاوف تتعلق بالأمن السيبراني. وقالت الشركة إن Mythos كان قويًا جدًا بحيث يمكن لغير الخبراء استخدامه لاستغلال نقاط الضعف في أنظمة التشغيل الرئيسية.

بدلاً من إصدار واسع النطاق، قالت Anthropic إنها ستجعل Claude Mythos Preview متاحة لـ 11 مؤسسة خارجية، بما في ذلك Google وMicrosoft وAmazon Web Services وJPMorganChase وNvidia، كجزء من “Project Glasswing”.

وسرعان ما أثارت ادعاءات أنثروبيك حول ما كان ميثوس قادرًا على فعله القلق، فضلاً عن اجتماع بين رئيس بنك الاحتياطي الفيدرالي جيروم باول، ووزير الخزانة سكوت بيسنت، ورؤساء البنوك الأمريكية الكبرى.

حذر بعض المعلقين في مجال الذكاء الاصطناعي من الآثار المترتبة على الأمن السيبراني، بينما شكك آخرون في أهمية الإعلان الإنساني، قائلين إن Mythos لا يبدو أنه يتقدم بقفزات كبيرة على النماذج الأخرى وأنه على الأرجح يتعلق الأمر بالعلاقات العامة الجيدة.

هل يجب على Mythos أن تجعل مديري الأمن التنفيذيين يرتعشون في أحذيتهم؟ هل الأنثروبيك هي ببساطة خبيرة في تسويق نماذجها؟ لقد جمعنا ما يقوله الأشخاص الأذكياء بينما يناقش الإنترنت أحدث تطورات الذكاء الاصطناعي.

غاري ماركوس

وصف غاري ماركوس ضجيج Mythos بأنه “مبالغ فيه”.

رمزي كاردي / قمة الويب عبر Sportsfile عبر Getty Images

وقال غاري ماركوس، الباحث والمؤلف في مجال الذكاء الاصطناعي، إن إعلان أنثروبيك بشأن ميثوس كان “مبالغًا فيه”.

كتب ماركوس على Substack: “إلى حد ما، أشعر أنه تم التلاعب بنا”. “كان العرض التوضيحي بالتأكيد دليلاً على المفهوم القائل بأننا بحاجة إلى ترتيب منزلنا التنظيمي والفني، ولكن ليس التهديد المباشر الذي دفعت وسائل الإعلام والجمهور إلى تصديقه.”

وقال ماركوس من ما رآه، يبدو أن النموذج “أفضل بشكل تدريجي” من النماذج السابقة، وليس “اختراقًا”.

يان ليكون

كان يان ليكون كبير علماء الذكاء الاصطناعي في ميتا.

بلومبرج / جيتي إيماجيس

كما ألقى يان ليكون، مؤسس AMI Labs والرئيس السابق لعلماء الذكاء الاصطناعي في شركة Meta، الماء البارد على الضجيج حول Mythos.

“دراما الأساطير = BS من الوهم الذاتي” ، كتب في منشور X.

كان يرد على منشور من Aisle، وهي شركة أمنية تعمل بالذكاء الاصطناعي، قالت إنها اختبرت نماذج أصغر وأرخص على نفس نقاط الضعف التي تم تسليط الضوء عليها في إعلان Anthropic’s Mythos ووجدت أنه يمكنهم إجراء الكثير من نفس التحليل.

جيك مور

صرح جيك مور، متخصص الأمن السيبراني العالمي في ESET، لموقع سابقًا أن هناك بعض اللغة التسويقية في إعلان Anthropic، ولكن “في الأساس، يبدو هذا النموذج مثيرًا للإعجاب بشكل لا يصدق وسيتحسن بمرور الوقت”.

وقال مور: “لقد بنت شركة Anthropic سمعتها باعتبارها شركة الذكاء الاصطناعي “السلامة أولاً”، لذا فإن مثل هذه الإعلانات تخدم غرضين: الحذر الحقيقي والإشارة إلى موقفها الواعي بالسلامة”.

ديف كاستن

قال ديف كاستن، رئيس قسم السياسات في Palisade Research، إنه يعتقد أنه من المحتمل أن نماذج الذكاء الاصطناعي الأخرى ليست بعيدة عن Mythos.

وقال لشبكة CNBC في مقابلة يوم الخميس إن توقعاته هي أن “الأنثروبيون يتقدمون قليلاً، ولكن ليس بأغلبية ساحقة، وليس لديهم بالضرورة الكثير من الخندق الدائم هنا”.

وأشار إلى تقرير حديث من Axios قال إن OpenAI لديها أيضًا نموذج يتمتع بقدرات متقدمة في مجال الأمن السيبراني وتخطط لإصداره فقط لمجموعة صغيرة، بدلاً من عامة الناس.

وقال كاستن أيضًا إنه يعتقد أن جيميني ربما لا يكون بعيدًا عن الركب، ولكن حقيقة شراكة Google في Mythos تشير إلى أن Anthropic من المحتمل أن تتمتع بميزة مع هذا النموذج المعين، على الأقل لبضعة أشهر.

ديفيد ساكس

أعرب ديفيد ساكس، قيصر الذكاء الاصطناعي السابق في البيت الأبيض، عن بعض الشكوك حول تحذيرات الأنثروبيك الأسطورية.

مات ماكلين / واشنطن بوست / غيتي إميجز

وقال ديفيد ساكس، المستثمر التكنولوجي وقيصر الذكاء الاصطناعي السابق في البيت الأبيض، إن ادعاءات Anthropic حول Mythos مهمة ولكن يجب أن تؤخذ بحذر.

“ليس أمام العالم خيار سوى أخذ التهديد السيبراني المرتبط بـ Mythos على محمل الجد. ولكن من الصعب تجاهل أن Anthropic لديها تاريخ من تكتيكات التخويف،” قال ساكس في منشور X، حيث شارك بعض الأمثلة من الحالات الماضية عندما أصدرت Anthropic تحذيرات أو روايات مثيرة للقلق حول نماذج الذكاء الاصطناعي.

تي جي مارلين

وقال تي جيه مارلين، الرئيس التنفيذي لشركة Guardrail Technologies، الذي عمل سابقًا في ممارسة تكنولوجيا الطب الشرعي العالمية لشركة EY، إن الاجتماع بين المسؤولين الفيدراليين وول ستريت كان حول ضمان عدم قدرة البنوك، في حالة حدوث خرق أمني كبير، على التراجع والقول: “لم نكن نعرف”.

وكتب مارلين على موقع LinkedIn: “كل مدير تنفيذي في تلك الغرفة يفشل في توثيق الاستجابة على مستوى مجلس الإدارة، يعمل الآن في أكثر المواقف القانونية الممكنة”.

بابلوس هولمان

قال بابلوس هولمان عن ضجيج Mythos أنه يعتقد أن الأمن السيبراني سوف يتحسن بالفعل.

يوجين جولوجورسكي / غيتي إميجز لشركة فاست

قال بابلوس هولمان، أحد رأس المال الاستثماري في Deep Future، إن المدافعين عن الأمن السيبراني – الأشخاص الذين يحاولون الدفاع ضد الهجمات الرقمية – سيستفيدون أكثر من التقدم في الذكاء الاصطناعي من أولئك الذين ينفذون الهجمات.

قال هولمان في منشور على LinkedIn حول Mythos في الأول من أبريل، قبل إعلان Anthropic هذا الأسبوع: “الآن يفقد الجميع عقولهم بشأن الهجمات التي تعتمد على الذكاء الاصطناعي”. “ما يفتقدونه هو أن المدافعين لديهم نفس أنظمة الذكاء الاصطناعي. غالبًا ما تكون أفضل منها وأكثر قدرة على الحوسبة.”

وقال هولمان إن المدافعين عن الأمن السيبراني سيكون لديهم إمكانية الوصول إلى نفس النماذج بالإضافة إلى المزيد من الموارد للعمل معها، مثل الكود المصدري.

وكتب “هذه لا تزال حرب تصعيد، لكن الآن يتمتع المدافع بالأفضلية”. “الأمن على وشك التحسن. وليس أسوأ.”

بن سيري

وقال بن سيري، المؤسس المشارك لشركة الأمن السيبراني الناشئة Zafran Security، في منشور له: “لقد دخلنا لحظة مشروع مانهاتن للأمن السيبراني”.

وقال سيري إن تهديد الأمن السيبراني حقيقي وفوري، في حين أن الإمكانات الدفاعية حقيقية ولكن تحقيقها سيستغرق وقتًا أطول. وقال إن التحدي الحقيقي يتمثل في أن يعمل المدافعون عن الأمن السيبراني بشكل أسرع على نطاق واسع.

وقال: “سوف يجد الذكاء الاصطناعي نقاط الضعف بشكل أسرع. وسيقوم الذكاء الاصطناعي بإصلاحها بشكل أسرع. لكن عنق الزجاجة لم يكن الاكتشاف أو العلاج وحدهما. بل كان القدرة على نشر الإصلاحات في بيئات الإنتاج بأمان وسرعة وعلى نطاق واسع”. “إن تبني التغيير السريع في الإنتاج بشكل آمن هو التحول الأكثر أهمية الذي يحتاج قادة التكنولوجيا والأمن إلى اتخاذه لمواجهة هذه اللحظة.”

ساهمت أليس تيكوتسكي في إعداد التقارير.