لاحظ الأطباء شيئًا غير عادي في أواخر العقد الأول من القرن الحادي والعشرين: كان المرضى يأتون إلى مواعيدهم مسلحين بمعلومات طبية مشكوك فيها أحيانًا حصلوا عليها عبر الإنترنت من “دكتور جوجل”، وفقًا لآدم رودمان، طبيب الباطنة والباحث في مجال الذكاء الاصطناعي.
واليوم، لجأ حوالي 68 بالمائة من البالغين إلى محرك بحث للحصول على المشورة الطبية في الماضي. لكن دكتور جوجل لديه منافس. لجأ حوالي 32% من البالغين، أي ما يقرب من نصف أولئك الذين طلبوا المشورة عبر الإنترنت، إلى روبوتات الدردشة المدعمة بالذكاء الاصطناعي للحصول على المساعدة.
ويعتقد رودمان أن مثل هذه الموارد، إذا تم استخدامها بشكل مناسب، تعد بمثابة سلعة صافية عامة. في مقالات الرأي والدورات التدريبية عبر الإنترنت، شارك رودمان، وهو أستاذ مساعد في كلية الطب بجامعة هارفارد في مركز بيث إسرائيل ديكونيس الطبي، النصائح حول كيفية توظيف الدكتور تشات بشكل أفضل.
في هذه المقابلة، التي تم تحريرها من أجل الطول والوضوح، يقدم رودمان نظام توقف لمعرفة متى يكون من الآمن سؤال روبوت الدردشة، ومتى يجب عليك فقط سؤال طبيبك.
كيف كان الأطباء يفكرون في المعلومات الطبية عبر الإنترنت قبل عصر الذكاء الاصطناعي؟
تشير الأدبيات المبكرة إلى هذا على أنه المريض المطلع على الإنترنت. في أوائل العقد الأول من القرن الحادي والعشرين، لاحظ الأطباء أن الأشخاص يأتون إلى مواعيدهم بمقالات يجدونها عبر الإنترنت، لكن هذا لا يزال يقتصر على الأشخاص الذين يتمتعون بالذكاء التكنولوجي. من المؤكد أنه لم يكن تفاعلاً طبيعياً.
ثم في أواخر العقد الأول من القرن الحادي والعشرين، بدأت محركات البحث في الاستفادة من تكنولوجيا الشبكات العصبية، وأصبحت قادرة على تقديم المزيد من المعلومات الصحية ذات الصلة. إنهم يكتشفون ما تريد قراءته بعد ذلك، ويعطونه لك.
وذلك عندما حصلنا لأول مرة على عبارة “دكتور جوجل”، التي غالبًا ما تستخدم باعتبارها تحقيرًا، من الأطباء الذين رأوا المرضى يأتون بمستوى من الثقة ربما اكتسبوه أو لم يكتسبوه.
بالطبع، هناك مرضى يعرفون الكثير عن صحتهم ولديهم معلومات جيدة جدًا، ولكننا رأينا أيضًا الكثير من المرضى يحصلون على معلومات خاطئة.
ومن هنا حصلنا على مفهوم السيبركوندريا. يتعلق الأمر بالوساوس المرضية: هذه الفكرة القائلة بأن محركات البحث يمكن أن تدفع الأشخاص إلى أماكن أكثر تطرفًا حتى تنتقل من البحث عن صداعك على Google إلى القراءة عن الورم الأرومي الدبقي متعدد الأشكال – وقد أظهرت الأبحاث أنها ظاهرة حقيقية.
“أدركت كل من شركات Google وشركات الذكاء الاصطناعي الآن تمامًا أن الأشخاص يستخدمون أدواتهم للحصول على المعلومات الصحية ويحاولون بناء آليات السلامة.”
لدينا جميعًا مخاوف مفهومة ومعقولة بشأن صحتنا. البحث عن المعلومات هو شيء أساسي في الإنسانية.
تكمن المشكلة عندما يبدأ ذلك في التفاعل مع خوارزميات التوصيات المُحسّنة للمشاركة، ولإظهار ما تريد رؤيته حتى لو كان غير صحيح.
الآن دعونا ندخل الذكاء الاصطناعي في هذا المزيج. هل يختلف سؤال روبوت الدردشة عن الأعراض عن البحث عنها عبر جوجل؟
انها دقيقة. من ناحية، يفعل حاملو شهادة الماجستير في القانون بالضبط ما يفعله Google: فهم يقدمون لك الأشياء التي تريد سماعها دون وعي، حتى لو كانت هذه الأشياء تجعلك قلقًا.
من ناحية أخرى، على عكس بحث Google، يشعر بعض الأشخاص أن لديهم علاقة مع LLM. يتحدث حاملو LLM بسلطة وثقة شديدتين بغض النظر عما يقولونه. لم يتم استكشاف المدى الذي يمكن أن يؤدي به ذلك إلى تفاقم حالة السيبركوندريا.
أصبحت كل من شركات Google ومنظمة العفو الدولية تدرك تمامًا الآن أن الأشخاص يستخدمون أدواتهم للحصول على المعلومات الصحية ويحاولون بناء آليات السلامة. ستخبرك الروبوتات بالذهاب إلى غرفة الطوارئ أو الاتصال بطبيبك، وأشياء من هذا القبيل.
لكن من الناحية النظرية على الأقل، تعد النماذج اللغوية أفضل بكثير من جوجل، وخاصة نماذج الاستدلال الأكثر حداثة، عندما يتعلق الأمر بتحديد الحالات الطبية.
ماذا تقصد بـ “نظريا”؟
كانت هناك ورقة بحثية جيدة جدًا في وقت سابق من هذا العام من باحث يُدعى أندرو بين، اختبر العديد من حاملي شهادة الماجستير في القانون ووجدوا أنهم أدوا بشكل جيد للغاية في تحديد الحالات الطبية وحدها، لكنهم كانوا أسوأ بكثير في المحادثة مع أشخاص حقيقيين.
ما يوضحه ذلك هو أن تفاعل المستخدم مهم كثيرًا. إن الطريقة التي يتفاعل بها الأشخاص مع النموذج، ووضوح أسئلتهم، أمر مهم. تلك الظواهر النفسية التي تحدثنا عنها موجودة بطرق يصعب التخفيف منها حقًا.
ما هي أنواع الأسئلة الصحية الآمنة لطرحها على ماجستير إدارة الأعمال، وما هي الأنواع غير الآمنة؟
أود أن أقسمه إلى نظام توقف. الأحمر : أبدا آمن . الأصفر: آمن في بعض الأحيان. الأخضر: آمن دائمًا تقريبًا.
في الضوء الأخضر توجد أسئلة عامة حول الصحة، حيث لا تعتمد جودة المعلومات بشكل خاص على السياق.
على سبيل المثال، “أنا مصاب بمرض السكري وأخبرني طبيبي أنني بحاجة إلى اتباع نظام غذائي لمرضى السكري. إليك بعض الأشياء التي أحب تناولها. هل يمكنك مساعدتي في وضع خطة لوجبات مريض السكري؟” أو “أحاول أن أبدأ برنامجًا رياضيًا جديدًا، هل يمكنك مساعدتي؟” أو “لقد وصف لي طبيبي للتو أملوديبين. ما هي بعض الآثار الجانبية الشائعة؟”
في الضوء الأصفر هناك أسئلة حيث تريد إشراك الطبيب في الحلقة. على سبيل المثال، الاستعداد لزياراتك، أو فهم الزيارة بعد حدوثها، أو فهم نتيجة اختبار لا معنى لها تمامًا بالنسبة لك.
لنفترض أنك غادرت للتو زيارة طبيبك وأنك في حيرة من أمرك بشأن ما يحدث. قم بتسجيل الدخول إلى بوابة المريض الخاصة بك، وانسخ هذه الملاحظة، وأخرج معلومات التعريف الخاصة بك، وقم بتوصيلها إلى LLM، ثم قم بإجراء مناقشة.
مع هذه الأنواع من الأسئلة، تحتاج حقًا إلى التأكد من أنك تضع سياقًا صحيًا كافيًا لمساعدة LLM في تقديم إجابة جيدة لك. لذا، يجب أن يكون لديك بعض الفهم للهندسة السريعة للحصول على المعلومات المفيدة لك.
في الضوء الأحمر – ويجب أن أؤكد أن هذا قد يتغير في المستقبل مع تطور التكنولوجيا – هناك أشياء مثل سؤال ماجستير في القانون عن كيفية إدارة حالة ما، أو ما إذا كان طبيبك يصف الدواء المناسب، أو لماذا تم وصف الدواء X لك بدلاً من الدواء Y. هذه أسئلة سياقية للغاية لم يتم تدريب العارضات عليها.
باختصار، أفضل طريقة يمكن للناس استخدامها الآن ليست كبديل للمشورة الطبية ولكن كوسيلة للمساعدة في إعداد أو زيادة فهمك قبل الزيارات أو بعدها.
هل هناك مخاوف تتعلق بالخصوصية عندما يتعلق الأمر بمشاركة المعلومات الصحية مع الذكاء الاصطناعي؟
إن مشاركة البيانات مع شركة ذكاء اصطناعي ليست أكثر خطورة بطبيعتها من مشاركة البيانات مع محرك بحث. ومع ذلك، فإن الشركات الكبرى – OpenAI، وAnthropic، وMicrosoft – تعمل الآن على تطوير وظائف صحية على وجه التحديد حتى يتمكن الأشخاص من إدخال معلوماتهم الطبية مباشرة، وهذا جديد تمامًا.
بالإضافة إلى ذلك، أظهرت الدراسات أن الأشخاص يشاركون معلومات أكثر مع LLM أكثر مما يفعلون مع محرك البحث. لذلك من منظور التكنولوجيا، لا يختلف الأمر، ولكنه في الواقع يمثل مصدر قلق أمني أكبر بكثير.
