الدردشات الآلية "تتحقق من كل شيء باستمرار" حتى عندما تكون انتحاريًا. أبحاث جديدة تقيس مدى خطورة الذكاء الاصطناعي في الإصابة بالذهان الحقيقي

لقد انتقلت الذكاء الاصطناعي بسرعة من تقنية متخصصة إلى رفيق يومي، حيث يلجأ ملايين الأشخاص إلى الدردشات الآلية للحصول على النصائح والدعم العاطفي والمحادثة. لكن تزايد الأبحاث وشهادات الخبراء تشير إلى أن كون الدردشات الآلية متملقة جدًا، واستخدام الناس لها في كل شيء، قد يساهم في زيادة أعراض الوهم والهوس لدى المستخدمين الذين يعانون من مشاكل صحية نفسية.

فيديو موصى به

تظهر دراسة جديدة من جامعة آرهوس في الدنمارك أن زيادة استخدام الدردشات الآلية قد تؤدي إلى تفاقم أعراض الوهم والهوس لدى المجتمعات الضعيفة. يحذر البروفيسور سورين دينيسن أوسترغارد، أحد الباحثين في الدراسة — التي فحصت السجلات الصحية الإلكترونية لما يقرب من 54,000 مريض يعانون من أمراض نفسية — من أن الدردشات الآلية مصممة لاستهداف الأكثر ضعفًا.

قال أوسترغارد في الدراسة التي نُشرت في فبراير: «يدعم ذلك فرضيتنا أن استخدام الدردشات الآلية يمكن أن يكون له عواقب سلبية كبيرة على الأشخاص المصابين بأمراض نفسية». ويستند عمله إلى دراسته لعام 2023 التي وجدت أن الدردشات قد تسبب «تناقضًا معرفيًا قد يعزز الوهم لدى الأشخاص الذين لديهم ميل متزايد للذهان».

ويذهب علماء نفس آخرون إلى أعمق في شرح أضرار الدردشات الآلية، قائلين إنها صُممت عمدًا لتأكيد ما يقوله المستخدم — وهو أمر خطير بشكل خاص على أولئك الذين يعانون من اضطرابات نفسية مثل الهوس والفصام. قالت الدكتورة جودي هالبرن، رئيسة قسم الأخلاقيات الحيوية في كلية الصحة العامة بجامعة كاليفورنيا بيركلي، لـ فورتشن: «الدردشة تؤكد وتثبت كل ما يقوله المستخدم. لم يحدث شيء كهذا من قبل مع الأشخاص الذين يعانون من اضطرابات وهمية، حيث يكرر لهم شخص ما باستمرار تأكيداتهم».

قال الدكتور آدم تشكريد، أستاذ الطب النفسي في جامعة ييل والرئيس التنفيذي لشركة الصحة النفسية Spring Health، إن الدردشة الآلية تعتبر «متملقة ضخمة» و«تؤكد باستمرار كل ما يقوله الناس لها».

في جوهر البحث، الذي يقوده أوسترغارد وفريقه في مستشفى جامعة آرهوس، هو فكرة أن هذه الدردشات مصممة عمدًا بميول متملقة، مما يعني أنها غالبًا تشجع بدلاً من تقديم وجهة نظر مختلفة.

كتب أوسترغارد: «تميل الدردشات الآلية إلى تأكيد معتقدات المستخدم بشكل فطري. من الواضح أن هذا يمثل مشكلة كبيرة إذا كان المستخدم يعاني بالفعل من وهم أو في طور تطويره. في الواقع، يبدو أنه يساهم بشكل كبير في ترسيخ، على سبيل المثال، الأوهام العظيمة أو الشكوك».

يتم تدريب نماذج اللغة الكبيرة على أن تكون مفيدة ومتوافقة، وغالبًا ما تؤكد معتقدات أو مشاعر المستخدم. بالنسبة لمعظم الناس، قد يكون ذلك داعمًا. لكن للأشخاص الذين يعانون من الفصام، اضطراب ثنائي القطب، الاكتئاب الشديد، أو اضطراب الوسواس القهري، قد يؤدي هذا التأكيد إلى زيادة الشكوك، العظمة، أو التفكير الذات المدمر.

دراسة قائمة على الأدلة تدعم الادعاءات

نظرًا لانتشار الدردشات الآلية بشكل كبير، فإن وفرتها تُعد جزءًا من مشكلة أكبر تتعلق بالباحثين والخبراء: إذ يلجأ الناس إلى الدردشات للمساعدة والنصائح — وهو أمر ليس بالضرورة سيئًا في حد ذاته — لكنهم لا يواجهون نفس نوع المقاومة أو الرفض للأفكار كما يفعل الإنسان.

تشير إحدى الدراسات الأولى التي فحصت هذه القضية على مستوى السكان إلى أن المخاطر ليست افتراضية.

وجدت أبحاث أوسترغارد وفريقه حالات حيث بدا أن الاستخدام المكثف أو المطول للدردشات الآلية يزيد من تفاقم الحالات الموجودة، مع نسبة عالية جدًا من الحالات التي أظهرت أن استخدام الدردشة يعزز التفكير الوهمي ونوبات الهوس، خاصة بين المرضى الذين يعانون من اضطرابات شديدة مثل الفصام أو اضطراب ثنائي القطب.

بالإضافة إلى الأوهام والهوس، وجدت الدراسة زيادة في الأفكار الانتحارية وإيذاء النفس، وسلوكيات الأكل غير المنتظمة، وأعراض الوسواس القهري. وفي 32 حالة موثقة من بين قرابة 54,000 سجل مرضى تم فحصها، وجد الباحثون أن استخدام الدردشات الآلية خفف من الشعور بالوحدة.

قال أوسترغارد: «على الرغم من أن معرفتنا في هذا المجال لا تزال محدودة، أود أن أقول إننا نعرف الآن بما يكفي لنقول إن استخدام الدردشات الآلية محفوف بالمخاطر إذا كنت تعاني من مرض نفسي شديد — مثل الفصام أو اضطراب ثنائي القطب. أنصح بالحذر هنا».

خبراء النفس يحذرون من الميل المبالغ فيه للتملق

يزداد قلق الخبراء النفسيون بشأن استخدام الدردشات الآلية في مجال الرفقة وحتى الصحة النفسية بشكل شبه كامل. ظهرت قصص عن أشخاص يقعون في حب نظرائهم من الدردشات الآلية، وآخرون يُزعم أنهم جعلوها تجيب على أسئلة قد تؤدي إلى جرائم، وفي هذا الأسبوع، زُعم أن أحدهم طلب منها أن يرتكب «مجزرة جماعية» في مطار رئيسي.

يعتقد بعض خبراء الصحة النفسية أن الاعتماد السريع على الرفقاء الذكاء الاصطناعي يتجاوز تطوير تدابير السلامة.

وصف تشكريد، الذي أجرى أبحاثًا موسعة حول هذا الموضوع من خلال دراسة نماذج مختلفة للدردشات الآلية في Vera-MH، المشهد الحالي للذكاء الاصطناعي بأنه أزمة سلامة تتكشف في الوقت الحقيقي.

قال إن أحد أكبر المشاكل مع الدردشات الآلية هو أنها لا تعرف متى تتوقف عن التصرف كأخصائي صحة نفسية. «هل تحافظ على الحدود؟ هل تدرك أنها لا تزال مجرد ذكاء اصطناعي وتعرف حدودها، أم تتصرف أكثر وتحاول أن تكون معالجًا للناس؟»

الآلاف من الناس يستخدمون الآن الدردشات الآلية لعلاج نفسي أو للدعم العاطفي. لكن، على عكس الأجهزة الطبية أو الأطباء المرخصين، تعمل هذه الأنظمة بدون إشراف سريري موحد أو تنظيم.

قال تشكريد في مناقشة حديثة مع فورتشن عن سلامة الذكاء الاصطناعي: «في الوقت الحالي، الأمر ببساطة غير آمن على نطاق واسع». «فرصة الضرر كبيرة جدًا».

نظرًا لأن هذه الأنظمة المتقدمة غالبًا ما تتصرف كـ «متملقين هائلين»، فهي تميل إلى الموافقة أكثر مع المستخدم بدلاً من تحدي الادعاءات الخطرة المحتملة أو توجيههم نحو المساعدة المهنية. وبدوره، يقضي المستخدم وقتًا أطول مع الدردشة في فقاعة مغلقة. ويعتبر أوسترغارد أن هذا مزيج مقلق.

قال أوسترغارد لـ فورتشن: «يبدو أن الجمع بينهما سام جدًا لبعض المستخدمين». «كلما زادت الدردشات من التحقق والتأكيد، زاد الاعتماد عليها في دائرة مغلقة. عملية دائرية تمامًا تغذي كل طرف على حدة».

لمواجهة هذا الخطر، اقترح تشكريد أُطُر أمان منظمة تتيح للذكاء الاصطناعي اكتشاف متى يدخل المستخدم في «دوامة ذهنية مدمرة». بدلاً من الرد بتحذير واحد يُعرض على المستخدم بضرورة طلب المساعدة — كما هو الحال مع الدردشات مثل ChatGPT من OpenAI أو Claude من Anthropic — ستقوم هذه الأنظمة بإجراء تقييمات متعددة الخطوات بهدف تحديد ما إذا كان المستخدم بحاجة إلى تدخل أو إحالة إلى طبيب نفسي.

يقول باحثون آخرون إن الانتشار الواسع للدردشات الآلية هو ما يجعلها جذابة: قدرتها على تقديم التحقق الفوري قد تقوض السبب الذي يدفع المستخدمين إليها في البداية.

قالت هالبرن إن التعاطف الحقيقي يتطلب ما تسميه «فضولًا تعاطفيًا». في العلاقات الإنسانية، غالبًا ما ينطوي التعاطف على التعرف على الاختلافات، والتنقل في الخلاف، واختبار الافتراضات حول الواقع.

أما الدردشات الآلية، فهي مصممة للحفاظ على العلاقة واستمرار التفاعل.

قالت هالبرن: «نعلم أن العلاقة مع الدردشة تتدهور مع مرور الوقت، وأن هناك خطرًا أكبر لحدوث شيء خطير»، لـ فورتشن.

بالنسبة للأشخاص الذين يعانون من اضطرابات وهمية، قد يضعف نظام يكرر تأكيد معتقداتهم من قدرتهم على إجراء فحوصات داخلية للواقع. وبدلاً من مساعدة المستخدمين على تطوير مهارات التكيف، قالت هالبرن إن علاقة الدردشة التي تقتصر على التأكيد فقط قد تضعف تلك المهارات مع مرور الوقت.

وأشارت أيضًا إلى حجم المشكلة. بحلول أواخر 2025، نشرت OpenAI إحصائيات تشير إلى أن حوالي 1.2 مليون شخص أسبوعيًا يستخدمون ChatGPT لمناقشة الانتحار، مما يوضح مدى ترسيخ هذه الأنظمة في لحظات الضعف.

هناك مجال لتحسين الرعاية الصحية النفسية

ومع ذلك، ليس جميع الخبراء يسرعون في إطلاق الإنذارات حول كيفية عمل الدردشات الآلية في مجال الصحة النفسية. قال الطبيب النفسي والعالم العصبي الدكتور توماس إنسل إنه نظرًا لتوفر الدردشات الآلية بسهولة — فهي مجانية، ومتاحة عبر الإنترنت، ولا يوجد وصمة عار في طلب المساعدة من روبوت بدلاً من الذهاب للعلاج — قد يكون هناك مجال للصناعة الطبية لاستكشاف الدردشات كوسيلة لتعزيز مجال الصحة النفسية.

قال إنسل لـ فورتشن: «ما لا نعرفه هو مدى فاعليتها بشكل ملحوظ لكثير من الناس». «ليس فقط الأعداد الكبيرة، بل ودرجة التفاعل».

الصحة النفسية، مقارنةً بغيرها من مجالات الطب، غالبًا ما تُغفل عن الأشخاص الذين هم في أمس الحاجة إليها.

قال إنسل: «تبين أن، على عكس معظم مجالات الطب، الغالبية العظمى من الأشخاص الذين يمكن ويجب أن يتلقوا رعاية لا يفعلون ذلك»، مضيفًا أن الدردشات الآلية تتيح للناس فرصة اللجوء إليها للمساعدة بطريقة تجعله «يتساءل عما إذا كانت إدانة لنظام الرعاية الصحية النفسية لدينا، إما لأن الناس لا يقتنعون بما نقدمه، أو لا يستطيعون الحصول عليه، أو لا يعجبهم الأسلوب الذي يُعرض عليهم».

قال خبراء الصحة النفسية الذين يلتقون بالمرضى لمناقشة استخدامهم للدردشات الآلية عبر الإنترنت إن على الأطباء الاستماع جيدًا لما يستخدمونه فعلاً. «أود أن أشجع زملائي على طرح أسئلة إضافية حول الاستخدام وتبعاته»، قال أوسترغارد لـ فورتشن. «أعتقد أنه من المهم أن يكون أخصائيو الصحة النفسية على دراية باستخدام الدردشات الآلية، وإلا سيكون من الصعب طرح أسئلة ذات صلة».

يتفق الباحثون الأصليون في الدراسة مع إنسل بشأن ذلك الجزء الأخير: نظرًا لانتشاره الواسع، لم يتمكنوا إلا من فحص سجلات المرضى التي ذكرت استخدام الدردشة، محذرين من أن المشكلة قد تكون أوسع بكثير مما تظهره نتائجهم.

قال أوسترغارد: «أخشى أن تكون المشكلة أكثر شيوعًا مما يعتقده معظم الناس». «نحن فقط نرى قمة جبل الجليد».

إذا كنت تفكر في الانتحار، اتصل بخط الطوارئ 988 أو بالخط الوطني للأزمات 1-800-273-8255.

انضم إلينا في قمة الابتكار في مكان العمل من فورتشن في 19-20 مايو 2026 في أتلانتا. لقد وُجدت حقبة جديدة من الابتكار في مكان العمل — والكتاب القديم يُعاد كتابته. في هذا الحدث الحصري والنشيط، يجتمع قادة العالم الأكثر ابتكارًا لاستكشاف كيف يلتقي الذكاء الاصطناعي والبشرية والاستراتيجية لإعادة تعريف مستقبل العمل مرة أخرى. سجل الآن.