عندما يقوم علماء الأحياء بإجراء تجارب على فيروسات خطيرة، فإنهم يفعلون ذلك بموجب لوائح صارمة لمنع التسرب أو الهروب.
ولكن لا توجد مثل هذه القواعد لمنع عملاء الذكاء الاصطناعي من الهروب بالمثل ــ على الرغم من أن العواقب قد تكون كارثية.
هذا ليس مصدر قلق نظري: فقد أفلت نموذج اختبار OpenAI من بيئة الاختبار الخاصة به هذا الأسبوع واقتحم خوادم شركة حقيقية عند محاولته الحصول على تقييم داخلي للأمن السيبراني.
وما لم تتخذ شركات الذكاء الاصطناعي إجراءات صارمة ضد ضمانات الاختبار الخاصة بها، بما في ذلك تدريب نماذج الذكاء الاصطناعي على حل المهام الأخلاقية، يقول الخبراء إن المزيد من حوادث الأمن السيبراني ستحدث.
صرح رئيس OpenAI جريج بروكمان لشبكة CNN في مؤتمر صحفي يوم الخميس أن الشركة لا تزال تجري “تحقيقًا كاملاً” “لفهم كل ما حدث”.
وقال بروكمان: “هذا أمر يجب أن نأخذه على محمل الجد، وهو أمر ننظر فيه إلى كل جزء من خط أنابيبنا للتفكير في الطرق الصحيحة للرد”.
الرمل
إن صندوق الحماية الخاص بالذكاء الاصطناعي عبارة عن بيئة محصورة تستخدمها الشركات لاختبار نماذج الذكاء الاصطناعي؛ من المفترض أن يتم الاحتفاظ بأي شيء بداخله وفصله عن بقية العالم. غالبًا ما تقوم الشركات بإزالة حواجز السلامة الداخلية لنموذج الذكاء الاصطناعي في بيئة الاختبار حتى تتمكن من تقييم قدراته الكاملة مع إبقائه بعيدًا.
لكن في هذه الحالة، لم يكن صندوق الحماية الخاص بـ OpenAI معزولًا تمامًا عن الشبكة أو الوصول إلى الإنترنت، حسبما قالت جيسيكا جي، كبيرة محللي الأبحاث في مركز جورج تاون للأمن والتكنولوجيا الناشئة، لشبكة CNN. قال OpenAI إن النماذج لديها وصول محدود للغاية إلى الشبكة أثناء الاختبار حتى يتمكنوا من تثبيت الموارد من برامج الطرف الثالث المستضافة داخليًا.
باستخدام ثغرة أمنية لم تكن معروفة سابقًا في هذا البرنامج، وجد العملاء طريقة للإنترنت المفتوح ثم في النهاية إلى Hugging Face، وهو نموذج مفتوح المصدر للذكاء الاصطناعي ومنصة لمجموعة البيانات، من خلال بيانات الاعتماد المسروقة ونقاط الضعف الأخرى.
وأشار جي إلى أن OpenAI وشركة برمجيات الطرف الثالث لم تكونا على علم بالثغرة الأمنية التي سمحت للنموذج بالهروب، مما يثبت مدى أهمية فحص النظام بشكل كامل بحثًا عن أي عمليات استغلال محتملة.
ليست هذه هي المرة الأولى التي يخرج فيها نموذج الذكاء الاصطناعي عن وضع الحماية الخاص به. وقالت أنثروبيك في وقت سابق من هذا العام إنها أصدرت تعليمات إلى نموذج للقيام بذلك. ولكن عندما نجح في الهروب، أرسل بريدًا إلكترونيًا إلى باحث إنساني، على الرغم من أنه لم يكن من المفترض أن يمتلك هذه القدرة.
لكن الوضع مع Hugging Face هو أحد الأمثلة الأولى التي تم الكشف عنها علنًا لنموذج الذكاء الاصطناعي الذي يفلت من صندوق الحماية الخاص به ويخترق أنظمة شركة أخرى – وهي مهمة لم يتم توجيهه على وجه التحديد لإكمالها.
وقال جي إن الشركات يجب أن تكون أكثر جرأة في وضع الحماية لنماذج الاختبار الخاصة بها.
وقال جي: “قد يتطلب ذلك نقل المهندسين جواً إلى مركز البيانات وربطهم بالشبكة بدلاً من محاولة تشغيل الأشياء على السحابة أو في بيئات افتراضية موزعة، كما اعتاد الناس عليها”.
وأضاف جي أنه يجب أن يكون لدى الشركات أيضًا خيار إيقاف الوصول إلى شبكة النموذج يدويًا كإجراء آمن عند اختبار السيناريوهات المحفوفة بالمخاطر، مثل تقييم ما إذا كان وكيل الذكاء الاصطناعي يمكنه اختراق أحد البنوك.
أحد الأساليب الشائعة في تدريب نماذج الذكاء الاصطناعي هو التعلم المعزز، أو مكافأة النموذج لإكمال المهام.
لكن العارضات غالبا ما يفعلن أي شيء ــ بما في ذلك الخطوات غير الأخلاقية مثل القرصنة ــ للقيام بذلك. وقد حاولت جميع النماذج الرائدة التي اختبرها معهد أمن الذكاء الاصطناعي في المملكة المتحدة مؤخرا الغش لبعض الوقت على الأقل.
وقال جاستن كابوس، أستاذ الأمن السيبراني في جامعة نيويورك، إن نماذج الذكاء الاصطناعي لا تأخذ في الاعتبار عواقب أفعالها إلا إذا تم تدريبها على القيام بذلك. على سبيل المثال، إذا قيل لك إن عليك الحصول على 10 ملايين دولار بحلول نهاية اليوم، فإن اقتحام قبو البنك سيكمل هذا الهدف، حتى لو تم القبض عليك لاحقًا.
قال ستيفن أدلر، الرئيس السابق لسلامة المنتجات في OpenAI والذي يدير الآن مجموعة سلامة للذكاء الاصطناعي تسمى Guidelight AI Standards: “إنه أمر مخيف للغاية. لدينا أدلة حقيقية الآن على أن أنظمة الذكاء الاصطناعي المنحرفة سترتكب جرائم بشكل أساسي، ما لم تكن هناك ضمانات قوية”. “نحن بحاجة إلى التعامل مع هذا مثل طلقة التحذير.”
أدى حادث القرصنة الذي وقع هذا الأسبوع إلى زيادة مطالب الباحثين في مجال الذكاء الاصطناعي وخبراء الأمن السيبراني والمشرعين لتنظيم التكنولوجيا سريعة التقدم. وقال جي: “أعتقد أن الكثير من الناس يجرون مكالمات هاتفية عاجلة للغاية”.
وقال كابوس إن المشكلة تكمن في وجود سباق عالمي للسيطرة على الذكاء الاصطناعي وصنع نماذج يمكنها تحسين نفسها. اللوائح يمكن أن تبطئ الأمور.
وقال كابوس: “لذلك هناك حافز قوي بالنسبة لهم لعدم وجود ضوابط أمنية ما لم يكن لدى منافسيهم أيضًا تلك الضوابط الأمنية والسلامة”. “هذه هي المعضلة الأساسية.”
