تاريخ موجز للانتصارات التي حققها الذكاء الاصطناعي: حيث توجد أنظمة للتقييم، يوجد اختراق للذكاء الاصطناعي

作者: Robonaissance

ترجمة: عمق المد TechFlow

مقدّمة عمق المد: لعبة Go والشطرنج وتطوي البروتينات—مجالات تبدو كأنها تتطلب حدسًا وإبداعًا بشريّين. فلماذا يتم اختراقها واحدة تلو الأخرى بواسطة الذكاء الاصطناعي؟ يكشف هذا المقال عن قانون تم تجاهله: ليس صعوبة المهمة هي التي تحدد ما إذا كان بإمكان الذكاء الاصطناعي تجاوز البشر، بل ما إذا كان بالإمكان إعطاء “تقييم” للنجاح. عندما يُنشئ مجالٌ ما معيارًا للتقييم، فإنه يضبط—بالوقت—عدًّا تنازليًا لاجتياحه.

مقتطف من سلسلة “Whatever You Ask For”، حول العمل الوحيد الذي لا يستطيع ذلك الماكينة أن تقوم به بدلًا عنا.

واحد من عشرة آلاف

في 10 مارس 2016، داخل فندق في سيول، أخرجت آلةٌ خطوة لا يستطيع أحد في الغرفة فهمها، في حين لم يكن خصمها موجودًا.

خرج لي سيدول للتدخين. كان عمره آنذاك 33 عامًا، وبيده 18 لقبًا عالميًا. ويُعترف به بوصفه أقوى لاعب Go في تلك الجيل. وفي المباراة الأولى قبل يوم خسرها. وعندما دخل المباراة الثانية انكمش قدر كبير من ثقته قبل بدء اللعب، فأصبح أكثر حذرًا من ذي قبل. بينما كان في الخارج، اختارت AlphaGo الخطوة 37. وقام الباحث في DeepMind هوانغ شيجي بإحلاله محل الآلة بهدوء، ووضع القطع على الرقعة.

سقطت القطعة على الخط الخامس.

بالنسبة لمن لا يفهم لعبة Go، لا معنى لهذا. وبالنسبة لمن يفهم، فهو شبه عبث. ففي مرحلة الافتتاح والوسط، يُنظر إلى المواضع البعيدة عن الأطراف على أنها غير فعّالة: فهي لا تضمن رقعة حقيقية ولا تحمي الأرض. وبذلك تكون بمثابة تقديم نقاط مجانية للمنافس. وهذه طريقة يصحح بها المدرس للمبتدئين. وعلى طاولة التعليق، كان اللاعب المحترف الكبير Michael Redmond يبث المباراة في البداية يظن أن هناك خطأً في إشارات الرقعة. التقط قطعة ثم أعاد وضعها.

عاد لي سيدول وجلس، وأطال التحديق في الرقعة دون حركة. تراوحت الشروح بين قرابة 12 دقيقة و15 دقيقة. وكان فان هوى، بطل أوروبا الذي هزمته AlphaGo قبل خمسة أشهر، يراقب من داخل المبنى. وبعد أن حدق طويلًا كانت حكمته: “ليست حركة لاعب بشري. لم أرَ أحدًا يلعب هكذا من قبل.”

هو على حق—وحقه قابل للقياس. داخل نظام DeepMind توجد آلية تقدير: من خلال تعلّم كميات هائلة من مباريات البشر، يُقدّر احتمال أن يختار البشر خطوة بعينها في أي وضعية. وبالنسبة للخطوة 37، فإن قيمة ذلك التقدير كانت تقارب واحدًا من عشرة آلاف.

ومع ذلك، لعبت الآلة هذه الخطوة، وكانت كافية للفوز في كامل المباراة.

هناك تفسير مريح للقصة: أن الآلة تعلمت بجد من أساتذة البشر، ثم لَحِقت بهم، بل وتجاوزت أقواهم. هذا التفسير خاطئ، وكون الرقم “واحد من عشرة آلاف” يوضح تحديدًا سبب الخطأ. فالنظام الذي يتعلم تقليد طريقة البشر في اللعب يملك سقفًا. سقفه هو طريقة البشر في اللعب. وما حدث في سيول هو أن النظام لم يعد مقيدًا بذلك السقف، لأن هدفه لم يعد هو نيل اعتراف أساتذة البشر، بل الفوز بالمباراة.

والاتجاه الذي يشير إليه هذا الفارق مفيد أكثر من الإعجاب. إذا أردت أن تعرف أي الأنشطة البشرية سُحقت بالفعل على مستوى القدرة الصرفة، وما الذي يأتي بعده، فليس السؤال: ما مدى صعوبة هذا النشاط؟ وما مدى حاجته إلى الإبداع؟ وما مقدار ما يتطلبه من حدس؟ إن السؤال أكثر مللًا بكثير من ذلك.

السؤال هو: هل يمكن إعطاء تقييمٍ للنجاح؟

مباراة تلو الأخرى

الشطرنج خسر قبل 19 عامًا، لكن بطريقة مختلفة تمامًا.

في عام 1997، هزم Deep Blue كاسپاروف. وكان الأسلوب المعماري الذي اعتمد عليه في جوهره تعبيرًا بشريًا ضخمًا. دالة تقييمه—ذلك المكوّن الذي ينظر إلى وضعية ما ويعطي رقمًا يعبّر عن مدى جودتها—تكوّن وصيغ بدقة بمساعدة استشاريين من أسياد المستوى الأعلى. تم استخراج معرفة الشطرنج من لاعبي البشر بشق الأنفس، ثم كُتبت داخل الآلة. أما الإضافة التي قدمتها الآلة فهي القدرة على البحث: النظر للأمام في خطوات أكثر وبسرعة أعلى، دون تعب، وبدون أن تَضيع قطعة بسبب تشتت الانتباه.

كان ذلك انتصارًا حقيقيًا، ويُفترض أن يُحسب كاتنصار. لكن انتبه إلى شكل ذلك الانتصار. فهم Deep Blue للعبة الشطرنج كان هو فهم البشر. وكانت ميزةُه هي السرعة. إذا سألته لماذا يقيّم وضعية بهذا الشكل، فستؤول الإجابة في النهاية إلى شخص أخبره أن يفعل ذلك.

بعد 20 عامًا، أطلقت DeepMind نظامًا باسم AlphaZero، وتغير الشكل.

تم تزويد AlphaZero بقواعد الشطرنج فقط. لم يُعطَ مكتبة افتتاحيات—وهي أدلة البداية التي تعتمد عليها أي برامج جدّية. لم يُعطَ “جداول نهايات” جاهزة. ولم يُعطَ سجلات لمباريات بشرية. كان يبدأ اللعب ضد نفسه من حركات عشوائية، ثم يضبط نفسه وفقًا لما يؤدي إلى الفوز.

بعد نحو أربع ساعات، قدّرت DeepMind أن مستواه في تصنيف النقاط تجاوز آنذاك أقوى برنامج تقليدي: Stockfish 8. وبعد نحو تسع ساعات، لعب في ظروف زمنٍ محدد أمام Stockfish 100 مرة، وفاز في 28 مرة، ولم يخسر أي مرة، وكانت المباريات المتبقية 72 تعادلًا. وتشير الورقة البحثية إلى أنه خلال 24 ساعة بلغ مستوى يفوق البشر في الشطرنج والشوجي وGo.

غالبًا تُستشهد بهذه الأرقام دون شطرها الآخر من القصة، وهو مهم جدًا. جُمعت مباريات اللعب الذاتي على 5,000 وحدة معالجة من الجيل الأول (TPU)، ثم تم تدريب الشبكات على 64 وحدة معالجة من الجيل الثاني، مع تشغيلها كلها بالتوازي. وزمن الساعة المعلّقة أربع ساعات يساوي حجم الحساب خلال أربع ساعات—وهو شيء لا يمكن لأي فرد، وحتى عدد قليل من المؤسسات، تجهيزه. لا يتعلق الإنجاز بتعلم الشطرنج بسهولة. الإنجاز هو أنه عندما تملك تلك القدرة الحاسوبية الهائلة، لا يعود علم البشر شيئًا تحتاجه.

كاسپاروف لديه سبب أكثر من أي شخص حيّ لأن يتعامل مع هذا بوصفه هجومًا موجّهًا ضده. ومع ذلك كتب على منصة “Science” مراجعةً بِنَفَسٍ كبير من السخاء. ملاحظته كانت أن AlphaZero لا تلعب ذلك النوع من الشطرنج الذي يعتقد الجميع—أو يظنون—أن آلة مثالية ستلعبه: شطرنج ممل ودقيق ومحافظ ومائل للتعادل. بل إنها تفضّل النشاط على حساب القطع، فتتخلى عن قطعٍ بحثًا عن وضعيات يراها هو محفوفة بالمخاطر. كما أشار إلى أن البرامج التقليدية تحمل معها أولويات ومتحيزات من قام بكتابتها. أما AlphaZero فهو يكتب نفسه بنفسه. واستنتج أن أسلوبه يعكس بالتالي شيئًا أكثر واقعية من ذائقة المبرمجين، ولاحظ أن عدد الوضعيات التي يفحصها كل ثانية أقل بكثير من محركات التقليدية الأفضل في العالم، ومع ذلك كانت النتيجة الفوز.

والتفصيل الأخير يستحق التذكر. المحركات التقليدية تبحث عن احتمالات كثيرة في الثانية، ومع ذلك خسرت. ليست ميزة AlphaZero أنها ترى أكثر بجدّ، بل أنها تعرف أين تنظر. والمعرفة نفسها تم بناؤها من ملايين جولات اللعب الذاتي، ومن قاعدةٍ تحدد من يفوز—لا غير.

بالنسبة لنتائج الشوجي، تبدو القصة أكثر غرابة للمهتمين القادرين على فهمها. الشوجي لعبة يابانية؛ القطع التي تُؤكل تعود إلى يد الطرف الذي قام بالأكل، ما يجعل تذبذب الوضعيات أكبر من الشطرنج. كما أن لها مئات السنين من تراكم النظريات الخاصة بكيفية حماية الملك. بعد مشاهدة لاعبين أقوياء لمباريات الآلة، أفادوا بأن الافتتاح يخالف ما هو معروف نظريًا، وأن لحظة ركض الملك إلى مركز الرقعة—في الوقت الذي تقول فيه كل الكتب إن عليه أن يختبئ في الزاوية—حدثت مرارًا. هذه المباريات تكاد تكون غير قابلة للتفسير للعينين المدربتين، لكنها فازت.

عندما تضع النظامين جنبًا إلى جنب، تصبح القاعدة واضحة إلى حد مقلق. Deep Blue هو معرفة البشر مضافًا إليها سرعة الآلة. AlphaZero هو تعريف سرعة الآلة مع الفوز، مع إزالة معرفة البشر عمدًا. النسخة التي تُزال منها معرفة البشر أفضل.

لا يعني كل هذا أن آلة 2016 كانت كاملة تمامًا. نفس المباراة في سيول تضم أدلة.

في الجولة الرابعة، ومع تأخره بثلاث مباريات وهو يكافح من أجل الكرامة، أدخل لي سيدول قطعة بين قطعتين من قطعي AlphaGo في وسط الرقعة. سُمّيت لاحقًا “خطوة إلهية”. حتى AlphaGo قدّرت احتمال أن يلعب البشر هذه الخطوة—وكان أيضًا يقارب واحدًا من عشرة آلاف—بعجيبٍ مناظر. فشل النظام في التعامل معها. تنهار تقديراته لاحقًا لاحتمال الفوز في بضع خطوات، فتدهورت قوة اللعب، وخسر تلك المباراة.

لذلك، في مارس 2016، كان على جسم الآلة ثقب: شخصٌ عثر عليه تحت أكبر ضغط وبحضور عالمي كامل. وهذا يستحق أن يُقال بوضوح بدل أن يُتجاوز بهدوء. وكذلك يستحق قول ما حدث لاحقًا: تم ترميم هذه الثغرات تدريجيًا، فلم تعد خلفيات النظام اللاحقة تخسر هذا النوع من المباريات، ولم تعد أفضل المحركات على المستوى الرفيع تفشل أمام البشر في مباراةٍ جادة منذ وقت طويل. نتائج 2016 كانت لقطة لتحول، لا توازنًا دائمًا في القوى.

من لوحات اللعب إلى كل ما سواها، لم ينتقل الفوز نفسه، بل انتقلت الآلية. الشطرنج وGo مُقدّران أن يطيح بهما الأمر أولًا، لسببٍ محرجٍ في بساطته: في الألعاب، يُعرَّف النجاح عبر القواعد تعريفًا دقيقًا تمامًا. تفوز أو لا تفوز، والتقييم مجاني وفوري ولا جدال فيه. يستطيع نظامٌ ما أن يلعب ضد نفسه 40 مليون مباراة في عطلة نهاية أسبوع واحدة، فيحصل على 40 مليون حكم واضح لا لبس فيه.

وهذا يلمّح إلى المكان التالي الذي ينبغي النظر إليه. ليس المهام البسيطة—بل المهام التي تأتي مع “لوحة عدّاد” جاهزة.

مشكلة خمسون عامًا

البروتينات هي سلاسل من الأحماض الأمينية، وعند تصنيعها تنطوي مباشرة إلى شكل ثلاثي الأبعاد معقد. يحدد الشكل ما ستفعله البروتينات. وتحدد السلسلة الشكل. كان استنتاج ما إذا كانت السلسلة تُنتج شكلًا معينًا، أو استنتاج الشكل من السلسلة، منذ نحو أوائل سبعينيات القرن الماضي سؤالًا مفتوحًا في علم الأحياء—وبطريقة تقاوم كل أنواع الهجوم: من المحاكاة الفيزيائية التي تنطلق من المبادئ الأولى، إلى التحليل الإحصائي المرتبط بالقرابة التطورية، وحتى بديهيات بنيوية تَراكمت عبر عقود؛ كلها لم تنجح.

في عام 1994، حاول فريق بقيادة John Moult فعل شيء تجاه هذه الحقيقة: الجميع في المجال كانوا يدّعون التقدم، لكن لا أحد يستطيع التحقق.

أنشأوا اختبارًا. ومنذ ذلك الحين، كل عامين، يقدم برنامج “CASP” لتوقع البنية والتقييمات البنيوية الرئيسية تراكيب بروتينات تم تحديدها تجريبيًا للتو. في بعض الحالات، وحتى عندما تكون البنية لا تزال قيد التحديد، تُنشر السلاسل على مستوى العالم. يمكن لأي فريق إرسال توقعاته. لا يستطيع أحد الاطلاع على الإجابات لأن بعضها لم يكن موجودًا بعد. وعندما تتضح البنية التجريبية، تُقيّم التوقعات بمقارنتها.

يستخدم التقييم مؤشرًا يسمى اختبار المسافة الشاملة (Global Distance Test) من 0 إلى 100. ويمكن فهمه تقريبًا كنسبة مدى قرب موضع السلسلة النهائي من موضعها الحقيقي. كان Moult قد قال إن نحو 90 يُنظر إليه بشكل غير رسمي بوصفه يعادل ما يحدده المختبر. وفي أغلب تاريخ التقييم، كانت أفضل التوقعات تدور حول 60.

في CASP14 لعام 2020، حقق مشارك مسجل ضمن مجموعة 427 (أي الفريق 427) متوسط الدرجات الوسيط على جميع الأهداف قدره 92.4. وفي أصعب فئة—حيث لا تتوفر قرابة بنيوية مفيدة للاعتماد عليها—كان الوسيط 87.0. ومتوسط الخطأ يبلغ تقريبًا 1.6 أنغستروم، وهو قريب تقريبًا من عرض ذرة واحدة.

كان Moult رئيسًا للمسابقة منذ بدايتها. وفي أثناء عرضه المخططات، عاد بالمشاهدين إلى تاريخ المسابقة قبل عرض الرسوم البيانية. كانت الرسوم البيانية تُظهر القصة كلها في صورة واحدة. خطوط عشرين عامًا كانت تتلوّى قرب 60، ثم خط واحد يقف في مكان لم تصل إليه أي من الخطوط الأخرى من قبل.

مجموعة 427 هي AlphaFold2. وأعلن Moult أن مشكلة سلاسل البروتين المفردة قد حُلَّت.

أما الكلمات التي تقيد—يجب أن تكون هناك، يجب أن تكون في كل سرد صادق. فالسلسلة المفردة ليست كل علم البروتينات. كيف تُركّب البروتينات في مركبات؟ كيف تتحرك؟ وكيف تعمل داخل الخلايا الحية؟ كلها ما زالت أسئلة مفتوحة. التحدي الكبير المُغلَق هو تحدٍّ بصياغة دقيقة وموضوعية.

وهذه الدقة هي بالضبط ما يجعل حكاية هذا الموضوع تستحق أن تُروى. فالذي يسقط توقع البنية ليس لأنه كان سهلًا، ففشل نصف قرن يقول عكس ذلك. إن الذي أسقطه هو أن هذا المجال في عام 1994 بنى لنفسه لوحة عدّاد.

إذا نظرت إلى CASP باعتباره هندسة لا علمًا، فإنه يمنح: مقياس نجاح واضح لا لبس فيه، وينطبق على أي توقع ويمكن حسابه خلال ثوانٍ. ويمنح حقيقة معيارية لا يمكن الغش فيها، لأن الإجابة حددها الآخرون ماديًا داخل المختبر. ويمنح تيارًا متجددًا من الأسئلة يولَّد باستمرار وفق جدول زمني ثابت. ويمنح تاريخًا من المحاولات تم تقييمه على مدى ثلاثين عامًا—أي سجل تصنيف لما يعني “أفضل” وما يعني “أسوأ” داخل هذا المجال.

مجالٌ قام بكل ما سبق جهّز—عن غير قصد—هجومًا آليًا لمشكلاته. لوحة العدّاد هي الشرط المسبق. أما كل شيء آخر فهو هندسة وحساب، وكلاهما أصبح—على مدى فترة طويلة—أرخص عامًا بعد عام.

وهذا ينسحب على نحو مُقلق من السلاسة. كلما وصل تخصصٌ إلى توافق حول معيارٍ، فإنه ينشر هدفًا. الترجمة الآلية لديها معيار تقييم. التعرّف على الصوت لديه معيار تقييم. تصنيف الصور لديه مجموعة صور موسومة بمليون صورة ومسابقه سنوية. وكل من شاهد تلك المسابقة يعرف كيف تنتهي القصة. القاعدة ليست أن الأشياء الصعبة هي التي تطيح أولًا، ولا أن الأشياء البسيطة تطيح أولًا. القاعدة هي أن الشيء الذي يُقاس هو الذي يطيح أولًا.

هذا يطرح سؤالًا بديهيًا عن كل ما لم يُقَس بعد.

إعطاء تقييمٍ لما لا يمكن تقييمه

آخر خط دفاع كان من المفترض أن يكون تلك الأشياء التي لا يمكن تقييمها.

الكتابة مثال قياسي. لا يمكن لأي برنامج أن يأخذ فقرة ويعيد رقمًا يخبرك عن مدى جودتها. اختلاف بين محررين كفؤين. حتى نفس المحرر يختلف رأيه مع نفسه في أيام مختلفة. جودة اللغة متشابكة مع السياق والجمهور والغاية والذوق، ولا يمكن اختزالها إلى مقياس واحد. فإذا احتاجت الآلة إلى لوحة عدّاد للتقييم بينما لا توجد لوحة عدّاد للغة، تكون اللغة إذن في مأمن.

هذا الاستدلال صحيح. والشيء الذي حدث بسببه داخل هذه الحكاية هو السبب الأهم في كامل هذا السرد.

لم يعثر المجال على قياس موضوعي جيد للكتابة. لا يزال لا يوجد شيء من هذا القبيل. ما فعله هو أنه صنع رقمًا من المادة الوحيدة المتاحة: أحكام البشر أنفسها.

هذه الطريقة لها تاريخ أطول مما يظنه معظم الناس. في 2008، وصف Knox وStone نظامًا اسمه TAMER: يراقب البشر سلوك وكلاء (agents) ويعطون تقييمًا، ثم تُستخدم تلك التقييمات لتدريب نموذج يتنبأ بما الذي سيقوله البشر. وبعدها لا يقوم النموذج بتقديم الإشارة التدريبية. وفي 2017، نشر Christiano وزملاؤه عملًا يعتبره أغلب الناس المصدر المباشر لما يُمارَس الآن. طبّقوا الفكرة على وكلاء في ألعاب Atari. في 2019، طبق Ziegler وزملاؤه ذلك على نماذج اللغة. وغالبية المصطلحات التي تُستخدم اليوم تم تحديدها في تلك الورقة. وفي 2022، عرض Ouyang وزملاؤه هذه الطريقة على نحو صناعي في مهام اتباع التعليمات. وبعد فترة قصيرة، وصل أغلب البشر على هذا الكوكب إلى نتائج تلك الأعمال دون معرفة.

الآلية الأساسية تستحق فهمًا دقيقًا، لأنها أبسط بكثير مما يوحي به اسم الشهرة.

يجلس شخص أمام نصين، وكلاهما مولد بواسطة النموذج لنفس طلب. ليست المهمة أن يمنحهما تقييمًا. التقييم هو بالضبط ما يفعله البشر بشكل سيئ: فسبعة لدى شخص قد تكون خمسًا لدى آخر. وحتى الشخص نفسه غير ثابت خلال يوم بعد ظهرٍ واحد. المهمة فقط هي اختيار أيهما أفضل. هذه هي الأحكام التي يستطيع البشر إصدارها بثبات نسبي. وتحويل مجموعة كبيرة من تلك المقارنات إلى مقياس متسق رياضيًا أساليبها أقدم من المجال الذي يستخدمها. ويمكن إرجاعها إلى عمل Bradley وTerry في 1952 حول المقارنات الثنائية.

فكر في شروط العمل التي ينتج عنها هذا الحكم، لأنها ستنعكس في النهاية. كل ساعة، يقوم الشخص بعدد كبير من تلك الأحكام، مقابل أجر، مع دليل مكتوب يطابق ما يجب قوله. وشرح لماذا يرى العميل إجابة أفضل. بعض الأزواج متشابهة جدًا. وبعضها يتضمن موضوعًا لا يعرفه الشخص على الإطلاق. في مثل هذه الحالات، غالبًا ما يتم اختيار الإجابة التي تبدو أكثر ثقة وتنظيمًا—سواء أكانت أكثر دقة أم لا. هذه ليست إدانة لهؤلاء. إنها وصف لما يفعله أي شخص تحت تلك الشروط. ومن ثم فإن الاختيارات الناتجة هي مادة التدريب.

بجمع عدد كاف من هذه الاختيارات، يمكنك تدريب نموذج ثانٍ. ومهمته هي التنبؤ أي النصين يفضله البشر. النموذج الثاني يخرج رقمًا. ورقم هو الشيء الذي كان ناقصًا وحده طوال الوقت.

انظر بعناية إلى ما تم بناؤه هنا، لأنه من السهل تجاهله. الدرجة المُحسّنة ليست عن حقائق العالم. إنها عن نماذجنا. إنها محاكاة متعلّمة مضغوطة لأحكام مجموعة محددة من البشر—أولئك الذين تم توظيفهم في وقت محدد، وعملوا وفق تعليمات محددة، مثل أي شخص آخر، يشعرون بالتعب مساء بعد ظهرٍ طويل. CASP تقيم التوقعات وفق واقع فيزيائي محدد بالاختبار. وهذا النظام يقيم النصوص وفق “صورة إحصائية” لما يوافق عليه البشر.

تلك الصورة مفيدة. لكنها أيضًا—وبحكم الضرورة—تقريب. وهناك اختلافات بين ما ترسمه وبين ما تقصده. لا أحد يملك تفسيرًا تامًا لهذه الاختلافات. أي شيء لا تستطيع “نماذج تفضيلاتنا” التقاطه عن تفضيلاتنا الفعلية لا يقع ضمن الهدف، وبالتالي لا يُحسّن له، وبالتالي يتأثر بأي سياق. ولا يوجد سبب لدى المُحسِّن القوي لحماية هذا.

هذا يتعلق بحقائق البناء هنا. وليس في هذه الفقرة ادعاء حول مدى سوء العواقب. النقطة المباشرة أضيق وأكثر صعوبة في دحضها: فئة الأشياء التي لا يمكن تقييمها أصغر مما يبدو. إذا قاوم تخصصٌ القياس، يمكن بناء قياس من تفضيلات البشر والمضي قدمًا. خط الدفاع هذا يعمل فقط عندما لا يكون أحد قد فكر في صناعة “درجات”.

ما الذي سيسقط بعد ذلك

يبقى سؤال عملي، ومعه إجابة قابلة للاستخدام.

اختر أي نشاط يعجبك: وظيفة، حرفة، مهنة، أو مهمة قضيت سنوات تتعلمها جيدًا. اسأل ثلاثة أسئلة.

أولًا: هل يمكن فصل النجاح والفشل على نحو موثوق؟ ليس على نحو مثالي، وليس عند الجميع، ولكن بشكل كافٍ من الاتساق بحيث يميل المقيمون الأكفاء إلى الاتفاق في معظم الأوقات. تمر الألعاب بهذه الاختبار بسهولة. تمر توقعات البنية البروتينية به لأن المختبر في النهاية سيُنتج الإجابة. الكتابة لا تمر على الإطلاق بمعنى مطلق، لكنها تمر بمعنى نسبي، لأن الناس غالبًا ما يستطيعون قول أي محاولة كانت أفضل من بين محاولتين.

ثانيًا: هل يمكن إنتاج هذه الأحكام بتكلفة منخفضة على نطاق واسع؟ يحدد هذا التوقيت أكثر مما يحدد الإمكانية. إذا كان لديك حكم مجاني وفوري—مثلما يحدث في الألعاب—فهذا يعني أن النظام يمكنه توليد ملايين بيانات التدريب بنفسه. أما إذا كانت الأحكام تحتاج إلى مختبر فسيكون ذلك أبطأ، لكنه يظل ممكنًا، مع أرشيف من محاولات التقييم يمتد ثلاثون عامًا. أما إذا كانت الأحكام تحتاج إلى بشر يدفع لهم لقراءة النصوص، فهي مكلفة جدًا—ولهذا بُذلت كل تلك الجهود لتدريب نموذج يقلد هؤلاء البشر، ويخرجهم من الحلقة.

ثالثًا: ليس هذا السؤال عن وقت سقوط مجال ما، بل عن ما يحدث بعد ذلك: هل هذه الدرجة حقًا هي ما تريده؟ درجة الألعاب هي ما تريده، لأن في الألعاب الفوز—بحكم التعريف—هو كل المعنى. ودرجة البنى البروتينية المقاسة تجريبيًا قريبة جدًا مما تريده. أما نموذج التعلّم الذي يستند إلى تفضيل ملصِّق (annotator) فهو ليس ما تريده. إنه صورة عن ما تريده، وبين الصورة والوجه فجوة.

تحقق من عملك بهذه الأسئلة الثلاثة. يكتشف معظم الناس أن الإجابة الأولى تأتي بسرعة وبلقطة مقلقة. نسمي أغلب الأشياء التي نعتقدها “مهارة” ما يمكن تقييمه عند أشخاص ذوي قدرة، عندما يرون محاولتين جنبًا إلى جنب—ولو بمعنى نسبي. السؤال الثاني هو موضع عدم اليقين الحقيقي، لأن الكلفة والنطاق أهداف تتحرك، وقد تحركتا باتجاه واحد منذ زمن طويل. أما السؤال الثالث فكاد لا يسأل عنه أحد، وهو الذي يحدد كيف سيكون شكل تخصصك على الضفة الأخرى.

يجدر القيام بهذا التمرين ببطء على أمور عادية. لنأخذ الأشعة (Radiology). هل يمكن فصل النجاح والفشل؟ نعم، وبشكل دقيق، لأن التشخيص سيتأكد أو يُفند في النهاية بحالة المريض. هل يمكن إنتاج الحكم بتكلفة منخفضة وعلى نطاق واسع؟ بشكل أساسي نعم، لأن المستشفيات منذ عقود تجمع عينات تقييم بصيغة صور ونتائج مؤكدة. هل هذه الدرجة هي ما تريده؟ تصبح الإجابة معقدة هنا، لأن ما يتم تقييمه هو اتساق التشخيص مع ما ورد في السجل، بينما ما تريده هو أن تكون حالة المريض جيدة. هذان الأمران يتوافقان معظم الوقت، لكنهما يفترقان تمامًا في أهم الحالات.

الآن لنأخذ شيئًا يبدو أكثر أمانًا. لنأخذ الإدارة. السؤال الأول يَصعُب أصلًا، لأن الأشخاص الأكفاء قد يختلفون حول ما إذا كان مدير معين “جيدًا” أم لا، ولأن الخلاف لا يُحسم بسرعة. السؤال الثاني أصعب لأنه لا تأتي نتيجة قرارات الإدارة إلا بعد سنوات، وتتشابك مع كل شيء آخر يحدث. السؤال الثالث هو الأصعب، لأن أي بديل لمؤشر “إدارة جيدة” يتم اقتراحه—من معدلات الاحتفاظ، إلى درجات الرضا/الالتزام، إلى الإنتاجية للفرد—لا يمثل “الأشياء نفسها”. وبناءً على هذا التشخيص، فالإدارة ليست “آمنة” لأنها عميقة. إنها غير مُقاسة—وهذه حماية مختلفة وأقل إغراءً.

الآلة تحتل محور التحسين. ففي أي هدف محدد بوضوح، ومع قدر كافٍ من الحساب، لم يعد العثور على أفضل طريقة لعب منافسة. وغالبًا ما تكون النتيجة ليست فقط أقوى منّا، بل غريبة أيضًا، وتصل إلى أماكن لا تعلمنا تقاليدنا أن ننظر إليها. هذا ليس “تنبؤًا”. إنه وصف لما يحدث في الشطرنج وGo والشوجي وبنية البروتينات، وأمور متزايدة كانت ضمن قائمة “يفعلها البشر فقط”.

المتبقي إذن هو الهدف نفسه. هناك من يقرر ما هي الدرجة. وفي كل حالة من الحالات المذكورة أعلاه، كان قرار الدرجة يستغرق عصرًا واحدًا، وكل نتيجة استثنائية تنبع منه، وتخلص له، ولا تهتم بأي شيء مما تركه.

لذلك، السؤال الأخير يستحق التأمل. هل توجد درجات بالفعل في عملك؟ وإذا كانت موجودة، فمن كتبها؟ وهل حين كتبها أخذك في الحسبان؟

هذه هي الجزء الثاني من سلسلة “Whatever You Ask For”: حول ما تحتاجه الآلة منا في النهاية، ومدى سوء ما نفعله نحن.