تقول هايدي خلاف، كبيرة علماء الذكاء الاصطناعي في معهد AI Now، والمقاولة السابقة لمهندسي أنظمة السلامة في OpenAI: “إن صناديق الحماية غير آمنة في الواقع”. وتضيف قائلة إن حقيقة السماح للعارضات بالاتصال بخدمة تنزيل الحزم يعني أن البيئة لم تكن مغلقة حقًا.
وفي منصب سابق، قام خلف بتدقيق الأمن في العشرات من شركات التكنولوجيا. قبل ذلك، عملت على تدقيق الأنظمة عالية المخاطر، مثل تلك المستخدمة داخل محطات الطاقة النووية – والتي غالبًا ما تكون أنظمة “فجوة هوائية”، مما يمنعها فعليًا من الوصول إلى الإنترنت. “ما نعتبره آمنًا في محطة نووية يختلف تمامًا عما تعتبره شركات التكنولوجيا الكبرى آمنًا.”
تكشف حادثة Hugging Face عن أهمية المراقبة في الوقت الفعلي.
على الرغم من أن تفاصيل الجدول الزمني الدقيق ضئيلة، إلا أن Hugging Face قالت إن العملاء عملوا خلال “عطلة نهاية الأسبوع”، مما يشير إلى أنهم كانوا قادرين على كسر الاحتواء وعدم القيام بأي شيء جيد لفترة طويلة قبل أن تلاحظ OpenAI وتتدخل. يقول موظف OpenAI إن الإجراءات التي يتم تنفيذها داخليًا من قبل الوكلاء على منصة Codex التابعة لـ OpenAI تتم مراقبتها بعناية، لكن النماذج الخاضعة للتقييم يتم نشرها على نظام منفصل لا تتم مراقبته افتراضيًا.
