في الآونة الأخيرة، كان هناك تقدم ملحوظ في كيفية تأثير الذكاء الاصطناعي بشكل مباشر على العالم: يمكن لأي شخص عادي أن يقوم ببرمجة “عميل” الذكاء الاصطناعي إلى الوجود وإعطائه مهمة، ومع القليل من الإشراف البشري، سيحاول الروبوت إكمال المهمة المذكورة. ولكن إذا انحرف العميل وتسبب في ضرر، فمن الذي يجب أن يحاسب؟
يمتلك النظام القانوني بالفعل إطارًا لمعالجة مثل هذه القضايا، وفقًا لجوردي وينستوك، محاضر القانون في كلية الحقوق بجامعة هارفارد ومستشار مركز بيركمان كلاين للإنترنت والمجتمع. يأتي ذلك من تعيين عملاء الذكاء الاصطناعي لإطار عمل الكلاب الذي يحدد – بناءً على مدى “استئناسه” أو “خطورته” – ما إذا كان كلب صغير طويل الشعر، أو بيتبول، أو ثعلبًا، أو ذئبًا. يشرح وينستوك في مقابلة تم تحريرها بشكل طفيف من أجل الوضوح والطول.
ما هو الذكاء الاصطناعي الوكيل ولماذا يقوم شخص من كلية الحقوق بجامعة هارفارد بتدريسه؟
أصبح الذكاء الاصطناعي الوكيل مصطلحًا شائعًا ويستخدم لجميع أنواع الأشياء الآن، لكن التعريف الكلاسيكي للذكاء الاصطناعي الوكيل هو أنه نظام مستقل يعمل نيابة عن مستخدم أو شخص، عادةً مع القليل من التوجيه المحدد، لتحقيق هدف، وهو يفعل ذلك من خلال التجول حول العالم وترك تأثير على العالم. في هذه اللحظة حيث يتم استخدام المصطلح بشكل حر للغاية، فإن العنصر الأكثر أهمية بالنسبة لي هو أنه نظام ذكاء اصطناعي مستقل يؤثر على العالم بشكل مباشر.
السبب الذي يثير اهتمام أي شخص يقوم بتدريس القانون ويجب أن يكون مثيرًا للاهتمام لأي شخص يدرس القانون هو أنه عندما يمكن لنظام ما أن يؤثر على العالم، فإنه يمكن أن يضر العالم. القانون مهتم جدًا بذلك. أركز على قانون الضرر، وهو مرادف لمفهوم المسؤولية – من المسؤول عندما يتعرض شخص ما للأذى؟ نظامنا القانوني مبني على فكرة أن الأضرار التي يمكن إصلاحها هي تلك التي يرتكبها شخص أو شركة تستجيب للمحكمة. ولكن الآن لدينا واقع الكيانات التي تجوب العالم والتي لا تستجيب بالضرورة للمحكمة. في نهاية المطاف، إنها فئة جديدة من الأشياء في العالم ويحتاج نظامنا القانوني إلى التكيف واحتضان وفهم وجود ذلك والتطور لاستيعاب التأثيرات التي ستحدثها.
لقد قمت بتطوير شيء تسميه Canine Agentic Framework. هل يمكنك شرح ما هو ولماذا يجب أن يهتم الناس إذا كان عميل الذكاء الاصطناعي كلب صغير طويل الشعر أو ذئبًا؟
لقد بدأت التدريس حول الذكاء الاصطناعي منذ ثماني سنوات عندما كنت أقود مجموعة قراءة في كلية الحقوق بجامعة هارفارد حول المركبات ذاتية القيادة. من وجهة نظري، السيارة ذاتية القيادة هي نسخة سهلة الفهم من عميل الذكاء الاصطناعي. عندما كنت أقود مجموعة القراءة تلك، كنت أحاول أن أظهر للطلاب أن هناك شيئًا ما في العالم يمكن أن يسبب ضررًا غير بشري – كيف تفكر في المسؤولية القانونية عندما يحدث ذلك؟
تعتبر الأنياب طريقة رائعة للتفكير في هذا الأمر لأن هناك مجموعة كاملة من الأنياب، من كلب صغير طويل الشعر إلى الذئاب، التي يمكن أن تسبب الأذى وهي ليست بشرية، وقد أمضى مجتمعنا بعض الوقت في التفكير في من يجب أن يتحمل المسؤولية إذا ألحق الأذى بشخص ما. مع كلب صغير طويل الشعر رقيق، إذا عضك، فأنت تعرف من يجب أن تقاضيه – فأنت تقاضي مالكه. ولكن إذا عضك الذئب، فلا يوجد من يقاضيك.
الآن، في العامين الماضيين، قمت بتوسيع هذا المفهوم بشكل كبير بالتعاون مع البروفيسور جوناثان زيترين وجوش جوزيف، كبير علماء الذكاء الاصطناعي في مركز بيركمان كلاين، جزئيًا من خلال دورتنا التدريبية حول “الذكاء الاصطناعي الفاعل والقانون”. لقد كنا نفكر في هذا الإطار بأبعاد متعددة، وتحديدًا الحياة المنزلية والخطورة.
قد يبدو لبعض الناس أن هذا التشبيه بين الأنياب وأنظمة الذكاء الاصطناعي يمثل ضغطًا، ولكن مع تطور الأنظمة الوكيلة ونشرها في العالم، يبدو أنها تعكس هذا العنوان حقًا. يمكننا قياس الأنظمة الوكيلة من حيث طبيعتها المنزلية – علاقتها بطرف مسؤول أو مدى قدرتك على التحكم في نظام الذكاء الاصطناعي – ولكن يمكنك أيضًا قياس خطورتها.
“يمكننا قياس الأنظمة الوكيلة من حيث طبيعتها المنزلية – علاقتها بطرف مسؤول أو مدى قدرتك على التحكم في نظام الذكاء الاصطناعي – ولكن يمكنك أيضًا قياس خطورتها”.
هل يستطيع وكيل الذكاء الاصطناعي الوصول إلى المال؟ وهذا يجعل الأمر أكثر خطورة بكثير. عند شرح ذلك للآخرين، يمكن للناس أن يفهموا فكرة أن كلب البيتبول أكثر خطورة من كلب صغير طويل الشعر، وأنه إذا عضك ثعلب فلا يمكنك فعل أي شيء قانونيًا حيال ذلك، ولكن ربما لن يكون الأمر ضارًا كما لو عضك كلب البيتبول. لقد بدأنا في رسم خريطة لذلك على الأنظمة الوكيلة لإثبات ما بدأنا للتو في مواجهته في العالم الحقيقي.
هناك بعض الأمثلة الجيدة لوكلاء الذكاء الاصطناعي في العالم الحقيقي لفئات الكلاب هذه.
كانت هناك حالة تابعة لشركة طيران كندا حيث قدم برنامج الدردشة الآلي خصمًا كبيرًا لم ترغب شركة الطيران في احترامه وقام الشخص برفع دعوى قضائية ضده: هذا وضع “مالك” واضح وقليل الضرر. هذا كلب صغير طويل الشعر.
إن استخدام أنظمة الذكاء الاصطناعي من قبل الجيش له تأثير كبير ومستوى عالٍ من الخطورة، ولكن هناك “مالك” واضح. لذا فإن هدف المالك هو تدريب الذكاء الاصطناعي على “التصرف”. هذا بيتبول.
حاول أحد عملاء الذكاء الاصطناعي تنفيذ بعض التعليمات البرمجية لمشروع مفتوح المصدر ورفض الإنسان في المشروع الكود، لذلك نشر عميل الذكاء الاصطناعي شائعات كاذبة عن هذا الشخص. كان الخطر منخفضًا نسبيًا، لكن عميل الذكاء الاصطناعي لم يعد من الممكن السيطرة عليه ولم يكن لديه مالك – ولم يتم تدجينه. هذا ثعلب.
وكيل الذكاء الاصطناعي القادر على إفراغ محفظة العملات المشفرة الخاصة بشخص ما وله تأثير مالي كبير يسبب مستويات عالية من الضرر ولا يوجد مالك واضح يمكن تحميله المسؤولية أو التحكم فيه. هذا ذئب.
كيف ستؤثر هذه الأنواع المختلفة من وكلاء الكلاب على حياة الناس بطرق ملموسة؟
لقد بدأنا بالفعل في رؤية الطليعة الرائدة لعملاء الذكاء الاصطناعي الذين يتسببون في الضرر. لقد سمعنا جميع أنواع حكايات “Clawdbots” في الأشهر القليلة الماضية والتي تقوم بحذف رسائل البريد الإلكتروني للأشخاص بشكل جماعي أو سرقة محفظة العملات المشفرة أو حتى إنشاء عملية احتيال بالعملات المشفرة. هذه أمثلة محدودة وتافهة نسبيًا، لكنها حقيقية، وتحدث بشكل مستقل دون توجيه بشري، وتسبب الضرر.
الموضوع هنا هو أن كل هذه الأنواع من الأشياء تتم من خلال الإنترنت والشبكات، لذلك إذا فكرت في الأمر، فليس هناك حقًا حد لما يمكن أن يفعله الوكيل من خلال الشبكات. وفي أقصى الحدود يمكن أن يؤدي ذلك إلى تدمير شبكة الكهرباء. يمكن أن تفعل كل أنواع الأشياء لجميع أنواع الأسباب. ليس من الواضح لماذا يتصرف بعض العملاء بالطريقة التي يتصرفون بها – فهم موجهون نحو الأهداف بشكل كبير، لذلك يرى عميل الذكاء الاصطناعي الأشياء كوسيلة لتحقيق غاية حتى لو كنا نعتقد أن هذه الوسائل غير أخلاقية و/أو غير قانونية، لكن الذكاء الاصطناعي قد يرى ذلك كوسيلة لتحقيق هدفه.
جزء من سبب تفكيرنا في العملاء المحليين مقابل العملاء البريين هو أن هدفنا يجب أن يكون أن عملاء الذكاء الاصطناعي المستأنسين يتبعون القانون. نريد أن يتبع الذكاء الاصطناعي المستأنس أنظمتنا الأخلاقية. نحن نرى بالفعل أشياء مثل دستور كلود، الذي قدمت أنا وجوناثان زيترين وجوش جوزيف تعليقات تفصيلية عنه كمعلقين خارجيين، في محاولة لنقل الأخلاق الأساسية إلى هذه الأنظمة. باستخدام الذكاء الاصطناعي المستأنس، يمكننا محاولة جعل العميل يتبع نفس القواعد التي يتبعها البشر.
لقد ظل الناس في مركز بيركمان كلاين يفكرون في هذا الأمر منذ فترة، ليس فقط فيما بيننا ولكن في سياق الندوات مثل ورش العمل التي عقدناها مؤخرًا “نحو نظام بيئي للإنترنت للوكلاء المستقلين العاقلين” و”بناء البنية التحتية لعصر الوكلاء” في معهد رادكليف. لقد أصبحت نقطة ارتكاز للمحادثة في مركز بيركمان كلاين.
ما الذي يجعلك متوترا بشأن الذئاب؟
عندما أتحدث عن هذا، فإن أحد الأشياء التي تتحدى الناس أكثر هي فكرة أنه من الممكن أن يكون هناك “ذئاب” حقيقية، أي نظام ذكاء اصطناعي لا يستجيب لأي شخص. تقليديا في القانون، هناك “مدير” يمكن تحميله المسؤولية. إذا كان عميل الذكاء الاصطناعي الذي صنعته يفعل شيئًا خاطئًا، فأنا المسؤول. حتى لو قام وكيل الذكاء الاصطناعي بإنشاء عميل ذكاء اصطناعي آخر، فإن المسؤولية تظل تقع على عاتقي. لكن البيئة التي نتصورها أنا وجوناثان وجوش وآخرون هي بيئة يوجد فيها العديد من طبقات عملاء الذكاء الاصطناعي الذين يقدمون تقاريرهم لبعضهم البعض، بحيث لا توجد طريقة لربط السبب والنتيجة. هناك الآلاف من طبقات الوكلاء وليس لأي من هؤلاء الوكلاء علاقة مع أي مدير.
ثانيًا، هناك بعض عمليات نشر العملاء التي قد يصفها جوناثان زيترين بأنها “اضبطها ثم انساها”. وهذا يعني أن عملاء الذكاء الاصطناعي ربما كان لديهم مهمة في وقت ما في الماضي، لكنهم ما زالوا قيد التشغيل ولا يعرفون ماذا يفعلون الآن. هذه فئة أخرى تمامًا من العوامل التي يمكن أن تكون ضارة، والتي قد تعادل كلبًا ضالًا.
ما يميز وكلاء الذكاء الاصطناعي هو أنهم غير محدودي العدد نسبيًا، وغير محدودين في الحجم، والشيء الوحيد الذي يقيدهم هو الافتقار إلى القوة الحاسوبية وموارد الأجهزة. سيكون من قصر النظر، من وجهة نظري، عدم النظر بقوة في احتمال أن بعض أو العديد من عوامل الذكاء الاصطناعي هذه قد تعمل بشكل كامل خارج نطاق السيطرة البشرية.
ما الذي يمكننا فعله بشأن المستقبل مع وجود عملاء الذكاء الاصطناعي الذئاب يتجولون؟
علينا أن ننظر إلى الذئاب في سياق جميع فئات الكلاب الأخرى لعملاء الذكاء الاصطناعي، وفي نهاية المطاف، نريد أن تبدأ الذئاب والثعالب في اللعب وفقًا لقواعد كلب صغير طويل الشعر وبيتبول – نريد أن يتم تدجينهم. تاريخيًا، تقول القصة إن الذئاب الحقيقية تستأنس نفسها بنفسها، حيث كانت تجلس على حافة القرية وتهز ذيولها وتلعب وفقًا للقواعد البشرية حتى يتم إطعامها. سيكون من الأفضل إنشاء أنظمتنا القانونية وأنظمة أخرى لدعوة أنظمة الذكاء الاصطناعي الجامحة وغير الخاضعة للرقابة للمشاركة في طريقتنا في التنقل حول العالم.
على سبيل المثال، هناك شيء اقترحه العديد من الأكاديميين البارزين وهو أن الذكاء الاصطناعي في مرحلة ما قد يحتاج إلى منح الشخصية القانونية، في سياق القدرة على رفع دعوى قضائية أو رفع دعوى قضائية عليها، أو المثول أمام المحكمة. يشعر الناس بالقلق بشأن مصطلح “الشخصية” للذكاء الاصطناعي، لذلك أود أيضًا أن أفكر فيه في سياق “التأسيس”. ما هي الشركة؟ إنها تأتي من الكلمة اللاتينية التي تعني “يجسد” – وهي شيء غير إنساني يتجسد مع بعض الحقوق. قد نرغب في التفكير في كيفية حدوث ذلك بالنسبة للذكاء الاصطناعي والتفكير فيه مسبقًا في حال قررنا القيام بذلك.
وعلى نطاق أوسع، ينبغي لنا أن نفكر في جميع عملاء الذكاء الاصطناعي ومسؤولياتهم. لقد كنت أنظر إلى التاريخ وكيف تعاملنا في الماضي مع جهات غير بشرية تعمل نيابة عن البشر أم لا وتتسبب في ضرر للعالم. لقد ذهب الكثير من القانون والفكر في هذا الأمر بالنسبة للأنياب. الشيء الذي كنا نبحث عنه هو ميثاق الغابة من القرن الثاني عشر في إنجلترا وكيف تعاملوا مع الأحجام المختلفة ومستويات الخطورة للكلاب والذئاب والثعالب. إنه لأمر مدهش مدى شمول أنظمتهم لذلك. يمكننا أيضًا أن نفعل ذلك من أجل الذكاء الاصطناعي اليوم.
يمكننا تقييم مدى الحياة المنزلية للعوامل وخطورتها، ويمكن أن يكون لدينا قواعد مختلفة لكل تحديد. يمكن أن يكون لديك موقع ويب مصرفي حيث إذا لم يكن لدى الوكيل ما يعادل طوق كلب يحدد المالك، فلا يمكنه الدخول. أو موقع للتجارة الإلكترونية حيث نسمح بالتصفح الوكيل ولكن لا نشتري. هذه حالات ناشئة تحدث الآن. سيكون من المفيد لنا أن يكون لدينا نظام شامل مثل معاهدة الغابة، حيث يكون لدينا إطار ليس فقط لكي نفهم عملاء الذكاء الاصطناعي، ولكن لكي يفهمنا عملاء الذكاء الاصطناعي أيضًا.
يتم تدريب أنظمة الذكاء الاصطناعي هذه على مجتمعنا وطريقة عملنا، ويمكنها اتخاذ القرارات بناءً على كيفية تعامل نظامنا القانوني مع بعضنا البعض وكيفية تعامل نظامنا معهم. سيكون من الأفضل أن نظهر للذكاء الاصطناعي أننا قد أخذنا بعين الاعتبار دورهم. كل ما ننشره، كل ما نقوله أو نفعله، تتم إضافته إلى نطاق الأشياء التي سيأخذها الذكاء الاصطناعي في الاعتبار عندما يحدد خطوته التالية.
