لن تمتلك الذكاءات الاصطناعية وعيًا يوقظ، لكنها تتجه إلى أن تصبح اللاوعي للمجتمع.

作者: L. M. Sacasas

编译: 深潮 TechFlow

深潮导读: عندما نفوّض المزيد والمزيد من قراراتنا إلى الذكاء الاصطناعي، يكون المجتمع البشري قد بدأ في توليد ما يشبه "طبقة لاواعية" خارج نطاق الحكم الفعّال. وليست هذه تهديدًا على طريقة الخيال العلمي المتمثل في ذكاء فائق، بل هي انتقالٌ حضاري أكثر خفاءً: لدينا ما نقدر على فعله باتساع أكبر، لكن قدرتنا على فهم ما يحدث تتقلص. وهذا تنبيهٌ شديد لكل مَن يعملون ويعتمدون على أدوات الذكاء الاصطناعي.

في أوائل القرن العشرين، قال عالم الرياضيات والفيلسوف البريطاني وايتهيد قولًا كثيرًا ما يُستشهد به: "علينا أن نُعوّد أنفسنا عادة التفكير في ما الذي نفعله—هذه بديهة مكررة بالغة السطحية، والأكثر خطأً أنها تتكرر في كل الكتب المدرسية وخطب المشاهير." "بل على العكس"، يواصل وايتهيد، "فإن تقدّم الحضارة يتمثل في توسيع عدد العمليات المهمة التي يمكننا أداؤها دون تفكير." ثم ضرب مثلًا: "التفكير من قبيل أداء المناورة القتالية يشبه اندفاع الفرسان في المعركة—العدد محدود للغاية، ويحتاج إلى خيول جديدة، ولا يُستخدم إلا في اللحظات الحاسمة."

من المحتمل أنك رأيت هذا الاقتباس. فهو ينقل قدرًا من الحقيقة. لكن، في نظري، تبدو هذه العبارة دائمًا قصيرة النظر أو غير كافية. ربما لأنني أرى كثيرًا من الناس يستعملونها للدفاع عن تفويض النشاط المعرفي البشري—دون تمييز—إلى الآلات، دون أن يحسبوا الكلفة على نحو جاد، بل ودون أن يدركوا أصلاً أن ثمة كلفة.

وإنصافًا لوايتهيد، فإن هذا الكلام مأخوذ من كتابه "مدخل إلى الرياضيات" الصادر عام 1911؛ وهو في الواقع يتحدث عن مزايا الرموز والإشارات في الحسابات الرياضية—رغم قوله إن تلك العمليات "لا تتطلب تفكيرًا"، فإنها تبقى مع ذلك متعلمة ومستخدمة بواسطة أذهان كانت تفكر. لكن حين يتحدث عن "الحضارة"، ومع ذلك الختام البلاغي الباذخ، فربما يكون ذلك فعلًا سببًا في الوقوع في هذا النوع من القراءة (الخاطئة).

المشكلة ليست في كون أتمتة بعض عمليات التفكير، أو حتى بعض حالات نقل العمليات الذهنية إلى الخارج، قد تكون مفيدة في ظروف محددة. بصراحة، أجد أن القياس باستخدام النشاط الجسدي بدلًا من النشاط الذهني يقدّم حجة أقنع وأشدّ. لقد ابتعدت طويلًا عن المهارات الحركية التي ربما كنت أملكها حينها، لكن الدرس لم يغادرني. يكتشف كل شاب مبتدئ في الرياضة تقريبًا بخيبة: عليك أن تقضي وقتًا طويلًا—يبدو زائدًا عن اللازم ومؤلمًا—وأنت تنفذ مرارًا وتكرارًا تمارين أساسية ومتكررة. دهن الشمع ومسحه—ومن شاهد "كارتي كيد" يفهم. لكن ما يحدث في الواقع هو الديناميكا التي وصفها وايتهيد: حين تُمَكِّن بعض الحركات الجسدية من الأتمتة، تستطيع تنفيذها دون تردد. عندها فقط يمكن أن تظهر أي مهارة إبداعية أو استثنائية. والأمر نفسه في تعلم الرقص أو تعلم آلة موسيقية: إن أتمتة الحركات الأساسية هي شرطٌ لا غنى عنه لبلوغ إتقانٍ رفيع.

لكن هل تنطبق هذه الديناميكا على كل مجالات النشاط البشري؟ هل توجد حالات تؤدي فيها الاستعانة بطرفٍ خارجي بدلًا من تعزيز ما نسعى إليه من خيرٍ أعلى؟ وبصياغة أخرى: هل ترافق "الأنشطة الدنيا" خصال خيرٍ لا نرغب في فقدانها؟ وحتى كما في الرياضيات: هل يمكننا دائمًا، بسهولة، فصل إجراءات/subroutines محددة من عملية أو نشاطٍ بعينه؟ وهل توجد أنشطة شاملة لا تقبل الانفصال، إذا حاولنا تفويض أو أتمتة أي عنصر منها انهارت؟ والأهم، كما ذكرتُ سابقًا، هل يختلف تفويض أتمتة التفكير التي نملكها داخليًا عن التفويض الشامل للإخراج الذهني أو العمل المعرفي إلى الخارج؟ بالعودة إلى القياس الجسدي: إذا افترض رياضي أن آلةً ستقوم عنه بكل "التدريبات المملة" كي يدخل مباشرة إلى الجزء المثير من المنافسة، فإن هذا الشخص لن يصل في الحقيقة إلى تلك الخطوة أبدًا. قبل أن نُسلّم بسهولة بوعود الكفاءة والتحرر التي تُقدَّم باسم التكنولوجيا الجديدة، تُعد هذه الأسئلة محورية.

ومع ذلك، فإنني منزعج من نشيد وايتهيد المتكرر الاستشهاد عن أتمتة الإدراك—ربما لأن فيه تعارضًا صارخًا مع تحذير حنا أرندت: ينبغي أن "نفكر في ما الذي نفعله". لقد كتب وايتهيد قبل أرندت بنحو نصف قرن، ولا أعتقد أن أرندت تشير إلى وايتهيد. لكن الجملتين تتقابلان على نحو يخلق تناغمًا جدليًا، وأظن أن استكشاف هذا التوتر قد يكون مفيدًا.

"علينا أن نُعوّد أنفسنا عادة التفكير في ما الذي نفعله—هذه بديهة مكررة بالغة السطحية، والأكثر خطأً أنها تتكرر في كل الكتب المدرسية وخطب المشاهير." — وايتهيد

"لذلك فإن اقتراحي بسيط جدًا: ليس أكثر من التفكير في ما الذي نفعله." — حنا أرندت

والأمر اللافت أن سياق جملة أرندت التحذيرية يقترب أكثر مما نعيشه اليوم من قلق بشأن التقنية والوجود الإنساني. تأتي هذه العبارة من مقدمة كتاب "Vita Activa: The Human Condition" الذي نُشر لأول مرة عام 1958. وقد أوضحت قائلة:

"الذي سأقوم به فيما يلي هو إعادة النظر في حالة الإنسان، انطلاقًا من تجاربنا الأحدث ومخاوفنا الأخيرة. وهذا بالطبع سؤال تفكير. فاللا تفكير—بتهورٍ خفيف، أو ارتباكٍ يائس، أو تكرارٌ مطمئن ومجترّ لـ'حقائق' صارت متناهية الصغر وشاغرة المعنى—كل ذلك، في رأيي، يمثل واحدًا من أبرز سمات عصرنا. لذلك فإن اقتراحي بسيط جدًا: ليس أكثر من التفكير في ما الذي نفعله."

وتشمل "التجارب الأحدث" التي دفعت أرندت إلى البحث في الموضوع إطلاق الأقمار الصناعية الصناعية وظهور الأتمتة. صحيح أنه حتى وقتٍ قريب قد يبدو للناس أن قلق أرندت إزاء أثر الأتمتة في العمل كان تقديرًا خاطئًا، لكن الآن يبدو أن قلقها ربما جاء مبكرًا فقط.

عندما أتأمل الخلاف بين وايتهيد وأرندت حول سؤال: هل نحتاج إلى مزيد من التفكير أم إلى قدر أقل؟ أجد من المفيد التمييز بين أمرين: من ناحية، بناء مجموعة من إجراءات/روتينات لاواعية لتطوير قدرات أعلى. ومن ناحية أخرى، الخضوع لقوةٍ لاواعية تدفع سلوكك بصورة غير مستقرة، وقد تولّد تخريبًا.

هل ثمة نقطة تحول ينعكس عندها مبدأ وايتهيد أو ينقلب؟ "فإن تقدّم الحضارة"، يقول وايتهيد، "يكمن في توسيع عدد العمليات المهمة التي يمكننا تنفيذها دون تفكير." لكن ماذا لو وُجدت نقطة من هذا النوع؟ إذا تجاوزنا عتبةً ما—سواء من حيث العدد أو من حيث النوعية—فهل تتدهور الحضارة لأنها توسّع عدد العمليات المهمة التي يمكن للإنسان تنفيذها دون تفكير؟ أم أننا على الأقل سنحصل على نوعٍ من الحضارة يختلف تمامًا عما نعرفه؟ ربما سنعرف الإجابة قريبًا، لأن تبنّي الذكاء الاصطناعي غالبًا ما يعني أتمتة تفكيرنا، وتوليد مجالٍ هائل من النشاط اللاواعي في العالم، نشاط ينبع من التخزين الخارجي لذاكرتنا الفردية والجماعية.

تخشى أرندت أنه مع تجاوز قدراتنا التقنية (وهو ما تشرحه أساسًا بلغة الرياضيات) قدرتنا على فهمها عبر اللغة العادية، فقد نفقد القدرة على "التفكير والتحدث عن الأشياء التي نستطيع فعلها حقًا". (وهذا يُظهر أن مشكلة القابلية للتفسير كانت قائمة قبل ظهور نماذج اللغات الكبيرة وأما ما يُسمى بخوارزميات الصندوق الأسود.) وفي مقطعٍ أصبحت فيه كلمها ذات صلة مُلحّة اليوم، تقول أيضًا: "هذا كأن أدمغتنا—وهي الشروط المادية والفيزيائية التي تقوم عليها أفكارنا—لا تستطيع مواكبة ما نقوم به، لدرجة أننا سنحتاج، بدءًا من الآن، إلى الآلات الاصطناعية كي تفكر عنا وتتكلم عنا." وهذه مسألة سياسية من الدرجة الأولى. في هذه الظروف، لن نعود نخضع لأي معنى حقيقي لمبدأ حكم الذات. وبهذا، ستختفي السياسة بوصفها مجالًا للأفعال الإنسانية المتكون من الكلام.

في عيد الميلاد لعام 1958، أي في العام ذاته الذي نشر فيه أرندت "Vita Activa: The Human Condition"، نشر W. H. Auden كتاب "Sons of the Friday" الذي يحتوي أبياتًا على نحوٍ يجسد طابع أرندت تمامًا:

حين نصادف

قلب المراقبة الذي يراقب نفسه

لا يسبب قلقًا ولا قسوة

بل هو ابتذال تام

رغم أن أدواته

تجعل الرغبة والنقيض لها تتحقق

ومن الواضح أنه لا يفهم

ما الذي يمكنه القيام به بوضوح تام

كان أودن صديقًا لأرندت، وقد كتب أيضًا مدحًا لكتاب "Vita Activa". لكنني لست متأكدًا من اتجاه التأثير.

رغم أن أرندت فسّرت بشكل مباشر كيف نصل إلى وضع "نستطيع فهم ما نفعله بوضوح، ومع ذلك لا نستطيع فهمه"—أي عندما لا تتمكن أفعالٍ نمت بفضل التكنولوجيا من أن تُفهم بالكامل عبر لغتنا اليومية—فهناك إطارٌ آخر مثير للاهتمام يمكن أن يُضاف إلى ذلك.

الأفعال التي لا تستطيع اللغة اختراقها، وبالتالي لا تستطيع أن تخترقها أنماط التفكير الواعي، يمكن أيضًا تفسيرها عبر اللاوعي. لست من الذين يلجأون تلقائيًا إلى لغة اللاوعي، لكن ربما يكون تشبيهًا مفيدًا لفهم علاقتنا—سواء كأفراد أو كجماعات—بأجهزة الذكاء الاصطناعي الاصطناعية التي تتوسط تجربتنا المتزايدة للعالم.

بإيجاز، أستطيع أن أتخيل طريقتين لتشبيه بعض تطبيقات الذكاء الاصطناعي الاستهلاكي باللاوعي. الأولى أكثر مباشرة: مع تفويض المزيد من المهام إلى وكلاء الذكاء الاصطناعي على مستوى الأفراد والمنظمات والمؤسسات، فإننا ننتج في العالم طبقة من النشاط أصبحت وظيفيًا خارج نطاق الحكم والإشراف الفعّالَين من البشر. وبقدر ما يتم هيكلة هذه الطبقة وتشكيل تجربتنا عبرها، فإن نسبة الأفعال الإنسانية الواعية إلى الأفعال الإنسانية اللاواعية تتناقص.

من الواضح أنه حتى على الأقل منذ العصر الصناعي (إن لم يكن قبل ذلك)، كانت ثمة أنظمة أقل شفافية تعمل داخل عالم الحياة البشرية. لكنني أعتقد أن الفرق هو أن تلك الأنظمة كانت معزولة نسبيًا عن النشاط الإنساني اليومي. أما أنظمة الذكاء الاصطناعي فهي تتشابك بشكل أعمق فأعمق في تجربتنا. وفي كثير من الحالات، ليست مجرد قوى خارجية تفرض علينا مساراتنا، بل هي أيضًا عمليات نُطلقها ونفعّلها—تعمل عبرنا، وتتفاعل في المقابل معنا. إن هذا القرب بين الإنسان والآلة هو ما يجعلني أفكر بتشبيه اللاوعي.

قدّم Erik Hoel مؤخرًا حجةً مشابهة بصياغة أكثر أناقة وبحجم أطول. واستنتاجه هو:

"عادةً ما تُنسب الأخطار التقليدية للذكاء الاصطناعي إلى التهديدات الوجودية الناجمة عن تكوين ذكاء فائق. لكن هذا قد يتجاهل خطرًا حقيقيًا وأكثر دقة: ثورة الذكاء الاصطناعي هي آلية تُحوِّل عمليات حضارتنا من رقابة الوعي إلى اللاوعي. فحين يزيل الذكاء الاصطناعي الوعي من تشغيل العالم، يصبح العالم أقل قابلية للتفسير وأكثر غربة وأصعب فهمًا. وحتى الآن، فإن 'توحّل الفضاء المشترك' قد أثبت أنه الخطر الرئيسي لثورة نماذج اللغات الكبيرة. والأهم، مع أنظمة ذكاء اصطناعي تصبح أكثر ذكاءً—وخاصة إذا حافظت (أو من المرجح أن تحافظ) على اللاوعي—فإن خطرًا أكبر هو تراجع أهمية الوعي داخل الثقافة."

تتوازى هذه الفكرة مع رأي كنت أطرحه بشكل متقطع على مدار عقد: أن التقنيات الرقمية تسحر العالم بطريقة أخرى. أي أنها تجعله غامضًا وعصيًا على الإمساك به.

هذه الأشياء التي تُسحرنا بالتقنية، وفي معنى لا يمكن تجاهله، تقف في مواجهة مباشرة معنا؛ ويتوجب علينا التعامل معها. نطلب من التكنولوجيا المساعدة، ونعلّق آمالنا على قوتها. وفي المقابل، نخاف التكنولوجيا وننظر إليها بوصفها مصدر إزعاج. والقوى التقنية التي نصادفها أحيانًا تكون حسنة النية، لكنها كثيرًا ما تكون كذلك قوى خبيثة تعرقل جهودنا وتُربك خططنا.

إن الأشياء التقنية لا تمنحنا فقط طاقاتٍ تمكينية، بل قد تثير فينا أيضًا الدهشة. كما ننظر إلى هذه الأشياء والقوى على أنها عوامل حاسمة في تحديد مصيرنا بالحُسن أو بالسوء: فهي تعمل خارج سيطرتنا، وضمن سياقات لا نفهمها. وبعبارة أخرى، نحن هشّون، وقد تآكلت استقلاليتنا بسبب مسارات الوكلاء الموزعين تقنيًا، ومسارات تتقاطع مع إرادتنا ورغباتنا.

قد تبدو طريقة التشبيه الثانية للذكاء الاصطناعي باللاوعي أعمق قليلًا؛ فدعني أشرح. في كتابه "Understanding Media"، يزعم مارشال ماكلوهان أن "تقنيات الكهرباء تمدّ الإنسان، أو بالأحرى تضع نموذجًا حيًا للجزء المركزي من الجهاز العصبي خارجًا عنه". يعود كثيرًا إلى هذا التصور: أن الوسيط الكهربائي هو تجسيد/توظيف خارج للجهاز العصبي. على سبيل المثال:

"من السمات الرئيسية لعصر الكهرباء أنه أنشأ شبكةً عالمية، تحمل في طابعها إلى حد كبير سمات الجهاز العصبي المركزي لدينا. جهازنا العصبي المركزي ليس مجرد شبكة كهرباء؛ بل إنه يشكل مجال خبرة موحدًا واحدًا."

ماكلوهان ليس أول من قدم هذا التصور. ففي 1950، أي قبل ماكلوهان، كان الأب الكاثوليكي دييزيديريوس تيلار دي شاردان قد ادعى أن تقنيات الوسيط تشكل "بناءً مُحكمًا لخلق جهاز عصبي حقيقي للبشر" و"بناءً دقيقًا للوعي المشترك". ومن خلال شبكات ناشئة من تقنيات الحوسبة والاتصال، يظهر مستوى جديد من الواقع يحيط بالحياة العضوية. إنها طبقة من الوعي الإنساني الموحد التي يتوسطها التقني، سماها "Noosphere/مجال الحكمة"، ووصفها بأنها "آلة تفكير مذهلة".

(أعترف بأن هذه ليست صياغتي المعتادة، لكن دعونا نتلاعب قليلًا بهذه المفاهيم. والحقيقة أنني أحاول أن أقنعك بأن النظر إلى الذكاء الاصطناعي من زاوية التحليل النفسي قد يكون منظورًا مفيدًا.)

الوسيط الكهربائي يوسّع قدرتنا على إدراك العالم، ويجعل الأحداث البعيدة أقرب إلى أعيننا وأذنينا، ويضغط زمن نقل المعلومات ليصبح شبه فوري. لكن منذ زمن دي شاردان وماكلوهان، ظهرت أشياء أخرى: نمو هائل في قدرات الذاكرة الاصطناعية أو التخزين الرقمي للبيانات. لذلك، رغم أن الوسيط الكهربائي يوسّع جهازنا العصبي، فقد أتاح مؤخرًا أيضًا تجميع وتخزين كميات غير مسبوقة من المعلومات عبر نصوص وصور وفيديوهات، وما شابه. إن نظامنا العصبي يُستكمل الآن بذاكرة رقمية هائلة النطاق. وهي هذه الذاكرة الرقمية التي تغذي نماذج اللغات الكبيرة، والتي أصبحت الآن مرادفًا شبه تام للذكاء الاصطناعي.

هذا المخزن الضخم من المعرفة والثقافة الإنسانية هو، في الأساس، الإنترنت—أو على الأقل الطريقة التي تجعل الإنترنت هذا المخزن متاحًا لنا. ولهذا السبب أطلق منظّر الإعلام الرقمي غريغوري أولمر في أوائل 2000s على الإنترنت اسم "الطرف/البديل الصناعي لللاوعي الجمعي لدينا".

أعتقد أن معنى أولمر هو التالي: لقد كنا دائمًا حيواناتٍ اجتماعية، أي أننا كائنات تنتمي إلى الوجود البيني للثقافة. لكن معظم ما يشكلنا—وخاصة خلال الطفولة—يميل بمرور الوقت أيضًا إلى التلاشي خارج نطاق وعيِنا بالتفطن. غير أن الإنترنت، باعتباره طرفًا/بديلًا صناعيًا بعدًا لاواعيًا في عملية تشكلنا كوجود اجتماعي، يجعل الذاكرة الثقافية الجمعية قابلة للوصول. الإنترنت شبكة ضخمة، تتألف من منتجات وثقافة ترسم مسار حياتنا: من مقتنيات ورموز وصور ونصوص وكل أنواع التفاهات. اتصالاتها ليست عبر منطق خطي، بل عبر منطق ترابط أقرب إلى الحلم، يشبه إلى حد كبير اللاوعي البشري في نظريات التحليل النفسي.

يؤمن أولمر بأن ذلك يمنحنا فرصة عميقة. فمن خلال جعل اللاوعي الجمعي شيئًا يمكن التأمل فيه، وجعله حاضرًا بما يكفي لتفكير الوعي، نكتسب طريقةً للتغلب على العمى العميق الذي تكون خبرتنا غالبًا في مركزه. بالطبع، لم أكن متفائلًا كثيرًا من هذه الإمكانية. لكن مهما قيّمت حلم أولمر التفاؤلي—وقد اختزلته هنا كثيرًا، وأتمنى دون ظلم—فإنني أرى أن ظهور الذكاء الاصطناعي المبني على الدردشة والمُوَجّه تجاريًا قد دفعنا بالفعل إلى اتجاه مختلف تمامًا.

والأمر اللافت: أن إدراج واجهة لغة يومية بيننا وبين لاوعينا الجمعي يجعل الأمر أكثر ضبابية وأصعب فهمًا لنا. إن واجهة الروبوتات الدردشة تعيد تشكيل فعالية التنقل عبر لاوعينا الجمعي؛ ويمكن القول إنها أصبحت شبيهًا بمعالج مضادّ/anti-therapist، إذ تنقلنا من استبصار الذات وإدراك ما يكشفه المرء عن نفسه (مهما كان مزعجًا أو صادمًا) إلى مواجهة مريحة ومهدِّئة. إنها تمنحنا وضوحًا زائفًا يُسقطنا في الرضا عن الذات، ويحميّنا من الشك في أنفسنا، ومن البقاء طويلًا في إدراك جهلنا بأنفسنا، أو من البقاء أمام عدم يقين مزعج. إنها تحجب غابة تشابك التجربة الإنسانية، وتُضيء لنا طريقًا وهميًا من الوضوح، طريقًا يصل إلى وعد المعرفة والحكمة. لكن، عبر هذا، فإنها—بشكل لطيف وحاسم في الوقت ذاته—تُعيد غمرنا في اللاوعي. وربما هذا هو أصل "اضطراب/مرض الذكاء الاصطناعي النفسي".

مهما كان الارتباط بين ذلك و"مرض الذكاء الاصطناعي النفسي"، يجدر التفكير في شيء محدد: إن الجنون، والخمول، والوسواس، والعدوانية، والقلق، واليأس—في وجودنا العام والجماعي—ينبعان جزئيًا، إلى حد ما، من تراجع الوعي البشري تدريجيًا أمام شكل جديد من اللاوعي الجمعي؛ ذلك اللاوعي الجمعي يعيد تأسيس نفسه من جديد على هيئة ذكاء اصطناعي.

كانت طبقة الأفعال غير الإنسانية في هذا العالم تبنى قبل ظهور وكيل AI. فعمليات الخوارزميات كانت تبني عناصر تجربة الإنسان، لا سيما في سياق البيروقراطية.

لست متأكدًا من متى وأين رُبطت مفاهيم الكهرباء والجهاز العصبي والفكر لأول مرة بواسطة من، لكن في روايته الصادرة عام 1851 "The Seven Gables/بيت الطاحونة السباعي" كتب ناثانيال هوثورن: "ثم تأتي الكهرباء، والشيطان، والملائكة، والقوة الفيزيائية الهائلة—والذكاء المنتشر في كل مكان!" وكذلك: "أهذه حقيقة—أم أنني حلمت بها—عبر الكهرباء تتحول المادة إلى عصبٍ هائل يهتز في لحظة حبس النفس عبر آلاف الأميال؟ وبالأدق، إن الكرة الأرضية الدائرية هي رأسٌ ضخم، وعقلٌ مليء بالذكاء! أو ينبغي أن نقول إنها هي الفكر نفسه—فكرٌ فقط—ليس شيئًا جسميًا كما كنا نظنه!"