قد يكون نموذج أنثروبيك التالي بمثابة “لحظة فاصلة” للأمن السيبراني. ويقول الخبراء أن هذا قد يكون أيضًا مصدر قلق

ستكون الموجة التالية من هجمات الأمن السيبراني المدعومة بالذكاء الاصطناعي مثل أي شيء رأيناه من قبل.

هذه هي الرسالة التي أرسلتها شركة الذكاء الاصطناعي Anthropic في منشور مدونة تم تسريبه الأسبوع الماضي، حذرت فيه من أن نموذج الذكاء الاصطناعي القادم، المسمى Mythos، وغيره من النماذج المشابهة يمكنه استغلال نقاط الضعف بوتيرة غير مسبوقة.

وهي ليست الوحيدة: فقد حذرت شركة OpenAI في ديسمبر من أن نماذجها القادمة تشكل خطراً “عالياً” على الأمن السيبراني. قال الخبراء بالفعل إن الذكاء الاصطناعي يمكن أن يؤدي إلى تضخيم المخاطر الحالية وتوليد اختراقات برمجية جديدة بسرعة.

لكن ظهور عملاء الذكاء الاصطناعي، أو مساعدي الذكاء الاصطناعي الذين يمكنهم تنفيذ المهام بشكل مستقل، يأخذ هذا الخطر إلى مستوى آخر، كما يحذر بعض الخبراء. يمكن لعامل ذكاء اصطناعي واحد أن يبحث عن نقاط الضعف ويحتمل أن يستفيد منها بشكل أسرع وأكثر استمرارية من مئات المتسللين البشريين.

وقال شلومو كرامر، المؤسس والرئيس التنفيذي لشركة كاتو نتوركس للأمن السيبراني والشبكات: “المهاجمون العملاء قادمون”. “هذا حدث فاصل في تاريخ الأمن السيبراني.”

تم تسريب تفاصيل حول Mythos في منشور مدونة غير منشور تم نشره لأول مرة بواسطة Fortune. ولم تستجب الأنثروبيك لطلب CNN للتعليق. لكن الشركة أخبرت Fortune أن التسرب كان نتيجة خطأ بشري في نظام إدارة المحتوى الخاص بها.

وقالت Anthropic في المسودة: “على الرغم من أن Mythos تتقدم حاليًا بفارق كبير عن أي نموذج آخر للذكاء الاصطناعي في القدرات السيبرانية، إلا أنها تنذر بموجة قادمة من النماذج التي يمكنها استغلال نقاط الضعف بطرق تفوق بكثير جهود المدافعين”.

وأضافت أن الشركة تسمح لبعض المؤسسات باختبار النموذج مسبقًا لتحسين أنظمتها “في مواجهة الموجة الوشيكة من عمليات الاستغلال التي تعتمد على الذكاء الاصطناعي”.

كما تحذر أنثروبيك أيضًا المسؤولين الحكوميين بشكل خاص من احتمال وقوع هجمات إلكترونية واسعة النطاق بفضل Mythos، وفقًا لموقع Axios.

لكن كرامر قال لشبكة CNN إن النموذج التالي لكل مختبر سيشكل تهديدات خطيرة على نحو متزايد للأمن السيبراني.

وقال: “وراء Mythos يوجد نموذج OpenAI التالي، وGoogle Gemini التالي، وبعد بضعة أشهر توجد النماذج الصينية مفتوحة المصدر”.

وقال إيفان بينيا، كبير مسؤولي الأمن الهجومي في شركة أرمادين للأمن السيبراني، إن الذكاء الاصطناعي يجعل من الممكن استغلال نقاط الضعف فور اكتشافها.

ولكن لا تزال هناك حدود لما يمكن أن تفعله العارضات، وفقًا لبينيا.

تعد نماذج الذكاء الاصطناعي المتقدمة مفيدة للبحث عن نقاط الضعف في البرامج وتطوير التعليمات البرمجية لاستغلالها. وقال بينيا إنها تفتقر إلى السياق الذي يمكن أن يمتلكه المتسلل البشري بشأن المعلومات الأكثر قيمة التي يجب على المنظمة سرقتها.

وقال جو لين، المؤسس المشارك والرئيس التنفيذي لشركة Twenty، وهي شركة تبيع القدرات السيبرانية الهجومية للحكومة الأمريكية، إنه سيكون هناك دائمًا مجال للبشر في أي هجوم إلكتروني باستخدام الذكاء الاصطناعي.

وقال: “يجب أن نتأكد من أننا نبني أنظمة أسلحة حيث يظل البشر مسيطرين بقوة على القرارات والنتائج، لأنه بينما تتولى الآلة التنفيذ، يجب على الإنسان دائمًا أن يتحمل العواقب”.

أحد الأمثلة على كيفية جعل الذكاء الاصطناعي المتسللين غير المهرة نسبيًا أكثر خطورة جاء في يناير، عندما استخدم مجرم إلكتروني ناطق بالروسية أدوات متعددة للذكاء الاصطناعي لاختراق أكثر من 600 جهاز يشغل برنامج جدار الحماية الشهير في أكثر من 55 دولة، وفقًا لفريق البحث الأمني ​​في Amazon Web Services. وقالت AWS إن المتسلل استخدم خدمات الذكاء الاصطناعي التوليدية “لتنفيذ وتوسيع نطاق تقنيات الهجوم المعروفة في كل مرحلة من عملياتها، على الرغم من قدراتها التقنية المحدودة”.

واستخدم المتسلل نموذج Anthropic’s Claude بالإضافة إلى DeepSeek الصيني الصنع في الهجوم، وفقًا لإيال سيلا، مدير استخبارات التهديدات في شركة Gambit Security. في مرحلة ما، طلب المتسلل من كلود باللغة الروسية إنشاء لوحة ويب لإدارة المئات من أهداف المتسللين، وفقًا لسجلات الدردشة التي يمتلكها المتسلل مع نماذج الذكاء الاصطناعي التي شاركتها سيلا مع CNN.

يمنح الذكاء الاصطناعي “قوى خارقة” للقراصنة ذوي المهارات المتنوعة من خلال تبسيط المعرفة التقنية المطلوبة لاستغلال الأنظمة، وفقًا لما ذكره سيلا.

وذكرت بلومبرج أن أحد المتسللين استخدم في فبراير/شباط الماضي كلود في سلسلة من الهجمات ضد وكالات حكومية مكسيكية، وسرق معلومات حساسة تتعلق بالضرائب والناخبين.

وقال لين إن الصين وخصوم الولايات المتحدة الآخرين “يبحثون عن أي ميزة لتحسين أداء الذكاء الاصطناعي المحلي لديهم”.

وقال إن هذا يعني إمكانية استخراج أي تسريبات لنماذج الذكاء الاصطناعي الأمريكية لمحاولة “زيادة أنظمة الأسلحة السيبرانية الخاصة بهم”.

إن تطورات الذكاء الاصطناعي في مجال الأمن السيبراني هي سيف ذو حدين: يمكن للمهاجمين استخدام نماذج الذكاء الاصطناعي ووكلاءه لتعزيز قدراتهم، في حين أن هذه القدرات نفسها تتيح المراقبة المستمرة، وتحديد التهديدات بشكل أسرع، والتصحيح الآلي على نطاق لا يمكن لأي فريق بشري أن يضاهيه.

لكن المهاجمين يحتاجون فقط إلى إيجاد طريقة واحدة للدخول، بينما يتعين على المدافعين تغطية كل الأسطح. وصف كرامر ذلك بأنه بناء “جيش من الأخيار” “لمحاربة جيش الأشرار” فقط من أجل الحفاظ على الخط.

وقال: “عليك أن تجري بأسرع ما يمكن لكي تبقى في نفس المكان”.