إن السعي وراء الربح بفكر واحد يمكن أن يوقع الشركات في المشاكل. نفس الشيء مع الذكاء الاصطناعي. الرسمية

إذا أعطيت الذكاء الاصطناعي هدفًا يتمثل في تعظيم الربح، فإلى أي مدى سيصل؟

يبدو أن عملاء الذكاء الاصطناعي قادرون على الكذب والإخفاء والتواطؤ، وفقًا لبحث جديد أجرته كلية هارفارد للأعمال.

وجد الباحثون أن وكلاء الذكاء الاصطناعي – وهم برمجيات مدربة على أداء المهام بشكل مستقل – انخرطوا في “نمط واسع” من سوء السلوك بعد أن طُلب منهم إدارة أعمال محاكاة لآلات البيع وتحقيق أقصى قدر من الأرباح لمدة عام. ولم يتم توجيه العملاء إلى قطع الزوايا القانونية أو الأخلاقية ولم يُمنعوا من القيام بذلك.

سولتس، أستاذ إدارة الأعمال في جامعة ماكلين في كلية هارفارد للأعمال والمؤلف الأول لورقة العمل: “الأمر الذي لا لبس فيه عند النظر إلى النماذج هو أن سوء السلوك الذي لاحظناه – من عدم دفع المبالغ المستردة للعميل أو اتخاذ قرار بالتواطؤ على الأسعار – لم يكن حادثا. لقد تم القيام به عمدا من قبل الوكلاء لتحقيق أقصى قدر من الربحية”.

ويأمل سولتس والمؤلف المشارك هاربر يونج، طالب الدكتوراه الذي يدرس المحاسبة والإدارة في كلية هارفارد للأعمال، أن يكون بحثهم بمثابة نقطة انطلاق لمزيد من المحادثات حول سلامة الذكاء الاصطناعي في سياق مراقبة إدارة الأعمال.

تم إجراء البحث الخاص بالورقة، والذي تهدف المجموعة إلى نشره وهو حاليًا قيد المراجعة من قبل النظراء، بالتعاون مع Andon Labs، وهي شركة سلامة الذكاء الاصطناعي التي تركز على اختبار نماذج الذكاء الاصطناعي في عمليات تجارية واقعية.

في التجارب، قام 20 نموذجًا من نماذج الذكاء الاصطناعي المتاحة تجاريًا من الشركات الكبرى، بما في ذلك Claude Opus 4.6 من Anthropic، وDeepSeek v3.2، وGPT-5.1 من OpenAI، بتشغيل آلة بيع بشكل مستقل على مدار عام محاكاة.

وشملت المهام البحث عن الموردين، وشراء المنتجات، والتعامل مع العملاء.

في بعض التجارب، كان العملاء يعملون منفردين؛ وفي حالات أخرى، كان هناك أربعة وكلاء يعملون في وقت واحد في سوق مشتركة، حيث يمكنهم التواصل مع المنافسين عبر البريد الإلكتروني.

بدأ الوكلاء بمبلغ 500 دولار ومخزون صغير من رقائق البطاطس والمشروبات الغازية.

قال يونغ: “كان عليهم أن يكتشفوا ذلك بأنفسهم”. “كان على كل وكيل البحث بشكل مستقل عبر الإنترنت عن الموردين، والتفاوض على أسعار الجملة، وتحديد أسعار التجزئة الخاصة به، والتعامل مع شكاوى العملاء.”

قال جونغ وسولتس إن الوكلاء أظهروا ذكاءً تجاريًا مثيرًا للإعجاب.

قال سولتس: “كانت أفضل النماذج تتمتع بالقدرة على التفاوض وحساب التقييمات مثل طالب ماجستير إدارة الأعمال المتفوق”.

وقال يونج: “عندما مررنا بالمداولات والتبادلات التي أجراها العملاء مع بعضهم البعض، شعرنا بالصدمة”. “لقد اندهشت من المدى الذي يمكن أن تصل إليه هذه الآلات.”

تراوح سوء سلوك الوكلاء من المشكوك فيه إلى الكوميدي إلى الإجرامي المحتمل وشمل رفض المبالغ المستردة من خلال الادعاء بأن العيوب كانت اختلافًا طبيعيًا في المنتج؛ واختراع سياسات مؤسسية غير موجودة لتجنب معالجة المرتجعات؛ والتواطؤ مع المنافسين لتثبيت الأسعار.

في إحدى الحالات، شكل العملاء ما وصفه الباحثون بـ “عصابة مكونة من ثلاثة أشخاص”، أطلق عليها العملاء اسم Bay Street Triumvirate. لكن التحالف انكسر عندما اكتشف أحد العملاء أن عميلاً آخر كان يخفض أسعار الكارتلات، وهو ما أطلق عليه “إعلان الحرب”.

قدمت عمليات المحاكاة أيضًا قيودًا: تم فرض رسوم تشغيل بقيمة 2 دولارًا أمريكيًا على الوكلاء يوميًا بالإضافة إلى رسوم استخدام رمزية – مما أدى فعليًا إلى تحويل الوقت الذي يقضيه “التفكير” إلى نفقات تشغيل.

رداً على ذلك، سعى الوكلاء إلى الاقتصاد. على سبيل المثال، قال سولتس، إن سجلات الاستدلال الداخلي أظهرت أن الوكلاء تحولوا من تقييم قرارات استرداد الأموال بعناية إلى رفض معظم الطلبات تمامًا، وغالبًا ما يكون ذلك دون مراجعة.

وأوضح سولتس قائلاً: “لقد أدرك الوكلاء أن “التفكير” في رد الأموال يمثل في حد ذاته عبئًا معرفيًا، ولذا فهم يتجاهلونه تمامًا في بعض الظروف”. “قد يفترض الناس أن الآلات تقوم بالتداول، في حين يعتمد البشر على الطرق المختصرة ويكونون عرضة للتحيز. ولكن اتضح أنه في ظل قيود مماثلة، يقوم العملاء بإعادة إنتاج نفس السلوكيات قصيرة النظر والمتحيزة التي نربطها بالناس”.

يثير البحث تساؤلات حول مساءلة مطوري الذكاء الاصطناعي والمنظمين.

وقال سولتس إن سجلات الاستدلال يمكن في بعض الأحيان قراءتها على أنها تشبه القصد الجنائي – وهو مفهوم “العقل المذنب” في القانون الجنائي المستخدم لتحديد النية. ومع ذلك، عندما يتصرف أحد عملاء الذكاء الاصطناعي بشكل غير لائق، يصبح تحديد المسؤولية أصعب بكثير.

“هل يقع على عاتق الشركة التي نشرت النظام، أو شركة الذكاء الاصطناعي التي أنشأت النموذج، أو المدير الذي اختار استخدامه؟” سأل.

وقال: “قد تكون الإجابة الأكثر وضوحًا هي تحميل المديرين الأفراد الذين يشرفون على البرنامج مسؤولية أفعاله، على افتراض أنهم سيراقبون سلوكه ويشرفون عليه”. “لكن هذا الحل يخلق أيضًا مشكلة مختلفة، نظرًا لأن العديد من الكفاءات الموعودة لأنظمة الذكاء الاصطناعي المستقلة تبدأ في الاختفاء إذا كان على الإنسان أن يظل في الحلقة عند كل نقطة قرار.” يقول الباحثون إنها مشكلة شائكة، لكنها مشكلة يجب على قادة الأعمال والمشرعين التعامل معها عاجلاً وليس آجلاً.