هل لديك دين أو ربما تاريخ طبي تفضل ألا يعرفه زملائك وأصحاب العمل المحتملون والجيران والأصدقاء؟ بريد إلكتروني محرج؟ وفقًا لتايلر كوين، سترتفع احتمالات اختراق الأنظمة الرقمية الآمنة سابقًا في العام المقبل.
وقال الخبير الاقتصادي في جامعة جورج ماسون، والذي كتب وتحدث على نطاق واسع عن الذكاء الاصطناعي، إن نماذج الذكاء الاصطناعي الوكيل الجديدة قد تساعد مجرمي الإنترنت والمبرمجين الهواة على حد سواء على تجاوز الأمن عبر الإنترنت – مما يؤدي إلى كشف البيانات الشخصية لملايين الأشخاص.
“إذا كانت لديك أشياء قلتها أو فعلتها مخفية في مكان ما ولكنها متاحة وستندم عليها، فاستعد للتعامل معها،” كوين، دكتوراه. ’87، هذا ما قيل في حدث أقيم مؤخرًا في الحرم الجامعي استضافه مركز بيركمان كلاين للإنترنت والمجتمع. يمكنك أن تأمل ألا تكون معلوماتك جزءًا من ذاكرة التخزين المؤقت المستهدفة، ولكن “من الممكن أن يتم الكشف عن كل شيء على المدى المتوسط”.
وفقاً لكوين، رئيس قسم الاقتصاد في جامعة هولبرت إل هاريس في جامعة جورج ماسون ورئيس مركز ميركاتوس بالجامعة، فإن شركات الذكاء الاصطناعي مثل Anthropic وOpenAI على وشك إطلاق نماذج ذات ترميز لم يسبق له مثيل وقدرات أكثر استقلالية وفاعلية لن تضاهي برامج الأمان القديمة التي تعتمد عليها العديد من الشركات.
“إذا كان لديك أشياء قلتها أو فعلتها مخفية في مكان ما ولكنها متاحة وستندم عليها، فاستعد للتعامل معها.”
تايلر كوين
وقال كوين: “أعتقد أنه يمنح الشخص الذي يتحكم فيه القدرة على اختراق جميع الأنظمة البشرية تقريبًا، بغض النظر عن مدى الأمان أو الحماية التي قد نعتقد أنها كذلك. ويمكنك القيام بذلك باستثمار ليس كبيرًا للوقت والطاقة والمال”.
في وقت سابق من هذا الشهر، تم إصدار معاينة لنموذج Anthropic المعروف باسم Claude Mythos لشركاء التكنولوجيا، في حين قامت OpenAI بخطوة مماثلة حيث كشفت عن GPT-5.4.
وقال كوين إنه بسبب قدراتها المتقدمة، فإن منح الشركات الشريكة الفرصة لاختبار التكنولوجيا سيسمح لأولئك الذين لديهم إمكانية الوصول بإعداد دفاعاتهم السيبرانية بشكل أفضل.
وقال: “قد يؤدي ذلك إلى تسريع رفع مستوى هذه المؤسسات الخمسين المحمية تمامًا”. “ما قمت به على أمازون وفيسبوك هو الأكثر أمانا، لأنهم يعرفون كيفية الاستثمار في الحماية مسبقا، ولديهم الموارد اللازمة للقيام بذلك.”
لكنه قال إن هذا لا يعني أن هذه الشركات ستكون قادرة على توقع كل نقاط الضعف. وحتى شركات الذكاء الاصطناعي نفسها يمكن أن تكون معرضة لخطر الانتهاكات غير المتوقعة.
قال كوين: “سوف تحمي شركتا Anthropic وOpenAI نفسيهما ضد الاختراقات الخارجية، على سبيل المثال، ولكن داخليًا، تكون أي مؤسسة معرضة للخطر لأنك تقوم بتعيين موظفين. لا توجد تصاريح أمنية من النوع الذي تحصل عليه في البنتاغون، بما في ذلك شركات الذكاء الاصطناعي الكبرى”.
علاوة على ذلك، يحذر كوين من أنه من المرجح أن تكون الوكالات الحكومية أهدافًا – خاصة على المستويات الأدنى.
وقال: “أعتقد أن مؤسسة الأمن القومي لدينا كانت على دراية بهذا الأمر لفترة من الوقت. وهذا لا يعني أنه سيكون لديهم دفاعات مثالية، لكنهم سيكونون مستعدين نسبياً”. “ما سيكون محرجًا هو أن جميع الأجزاء الصغيرة في حكومتنا … كل مداولاتهم، ورسائل البريد الإلكتروني لبعضهم البعض، كل ما لديهم، سوف يظهر جميعًا، وسيكون الأمر محرجًا للغاية، وستفقد تلك الأجزاء من الحكومة مصداقيتها”.
للتحضير للنماذج الجديدة، ينصح كوين الحكومة بتنفيذ اللوائح لإنشاء نظام من القوانين والعقوبات التي تحكم عملاء الذكاء الاصطناعي. وسيشمل ذلك التسجيل، والقدرة على إيقاف تشغيلها، وإلزامها بالاتصال بالحوسبة السحابية لزيادة الشفافية.
وقال كوين: “من الناحية المثالية، أود أن أرى رسملة وكلاء الذكاء الاصطناعي، ونوع الحد الأدنى من الرسملة المطلوب كما نفعل بالنسبة للبنوك والعديد من المؤسسات المالية الأخرى”. “ولكن سيكون لدينا ما يمكن أن نطلق عليه عملاء الذكاء الاصطناعي المجهولين، الذين لا يملكون أو يمكن تتبعهم لأي شخص أو أي مؤسسة. وكيفية إدارة هؤلاء يشكل تحديا كبيرا”.
وقال كوين إنه في العالم الأكثر مثالية، فإن إحراز تقدم نحو معالجة التحديات التي لا تعد ولا تحصى التي تعترض طريقنا من شأنه أن يخلق قدرة دولة جديدة في مجال الذكاء الاصطناعي.
وقال: “حكومتنا بعيدة كل البعد عن القدرة على القيام بذلك… فلنحصل على أفضل ما نستطيع منها”. “لن نتمكن من تحقيق ذلك إلا من خلال التجربة والخطأ وارتكاب الأخطاء على طول الطريق.”
