مصدر الصورة: تم إنشاؤه بواسطة الذكاء الاصطناعي غير محدود
في الآونة الأخيرة ، بدأت مجموعة من كبار الشخصيات ، بما في ذلك LeCun ، في إطلاق النار على LLM مرة أخرى. أحدث اختراق هو أن LLM ليس لديه القدرة على التفكير على الإطلاق!
من وجهة نظر LeCun ، فإن أوجه القصور في القدرة على التفكير هي تقريبا "الثقب الميت" ل LLM ، بغض النظر عن مدى قوة الحوسبة ومدى استخدام مجموعات البيانات الواسعة وعالية الجودة لتدريب LLM في المستقبل ، فلن تكون قادرة على حل هذه المشكلة.
أثارت الآراء التي طرحها LeCun العديد من مستخدمي الإنترنت وكبار الشخصيات الذكاء الاصطناعي لمناقشة هذه القضية ، بما في ذلك كريستيان زيجيدي ، أحد مؤسسي xAI.
أجاب العالم الذكاء الاصطناعي كريستيان زيجيدي على LeCun:
تتمتع > الشبكات التلافيفية بقدرات استدلال محدودة ، لكن هذا لا يؤثر على قدرات AlphaZero.
من المناقشة الإضافية بين الرجلين الكبيرين ، يمكننا حتى الحصول على لمحة عن الاتجاه التقني المستقبلي ل xAI - كيفية استخدام قدرة النماذج الكبيرة على اختراق الحد الأعلى لقدرة الذكاء الاصطناعي المنطقية.
في ظل هذه المشكلة ، يتسامح مستخدمو الإنترنت مع القدرة على التفكير في LLM ، ويظهرون أيضا تفكيرا آخر حول العلاقة بين الذكاء الذكاء الاصطناعي والإنسان:
ليس كل البشر جيدون في التفكير ، فهل لأن بعض الناس ليسوا جيدين في التفكير ، فهل يتعين عليهم إنكار موضوعية الذكاء البشري؟
ربما البشر ، مثل LLM ، هم مجرد شكل مختلف من "الببغاء العشوائي"!
** حوار الرجل الكبير يكشف عن الاتجاه التقني ل xAI **
بعد نشر الورقة على arXiv ، تم إرسالها بشكل خاص من قبل LeCun ، مما تسبب في نقاش مستفيض بين مستخدمي الإنترنت والعلماء.
أجاب عالم الذكاء الاصطناعي كريستيان زيجيدي ، المؤسس المشارك ل xAI ، بقيادة بوس ما:
تتمتع > الشبكات التلافيفية بقدرات استدلال محدودة ، لكن هذا لا يؤثر على قدرات AlphaZero.
يكمن المفتاح في عملية الاستدلال وحلقة التغذية الراجعة (RL) المعمول بها. وهو يعتقد أن قدرة النموذج يمكن أن تؤدي تفكيرا عميقا للغاية. (مثل إجراء البحوث الرياضية)
أجاب LeCun أيضا مباشرة:
AlphaZero "يفعل" تنفيذ التخطيط. ولكن مع MCTS ، يتم استخدام شبكة تلافيفية للتوصل إلى سلوك جيد ، ويتم استخدام شبكة تلافيفية أخرى لتقييم الموقع.
ومع ذلك ، قد يكون الوقت الذي يقضيه في استكشاف الشجرة بلا حدود. هذا هو المنطق والتخطيط. يستخدم التعلم المعزز لتدريب هذه الشبكات.
وتابع كريستيان زيجيدي الرد:
أوافق. لذلك أعتقد أن النهج هو:
يجبر النظام على استكشاف الكثير من مساحة التفكير ذات الصلة بنا.
اجعلها قابلة للتحقق من الاستكشاف.
فهم الذوق البشري للأشياء المثيرة للاهتمام.
يبدو لي أن كل هذا سرعان ما أصبح ممكنا.
والنقطة التي خرجت من فم xAI Lianchuang ، إلى جانب الجملة الأخيرة: "في رأيي ، كل هذا سيصبح ممكنا قريبا" ، لا يسعها إلا أن تجعل الناس يفكرون.
بعد كل شيء ، قد يكون السبب الأكثر مباشرة لقول "ممكن" بهذا اليقين هو "لقد حققنا ذلك بالفعل".
ربما في المستقبل القريب ، سنكون قادرين على رؤية xAI يستحوذ على "نقطة الألم" لقدرة التفكير الضعيفة ل LLM ، ويطاردها ، ويخلق نموذجا كبيرا مع "تفكير قوي" ، مما يعوض عن أكبر عيب في منتجات النماذج الكبيرة في السوق مثل ChatGPT.
LeCun: كم مرة قلت أن LLM لا يعمل! **
يستند دحض LeCun الأخير لقدرة LLM المنطقية على الأوراق الأخيرة التي كتبها الأستاذ بجامعة ASU سوباراو كامبامباتي.
مقدمة شخصية:
في رأيه ، LLM ، التي تدعي أنها تصل إلى المستوى البشري وتتجاوزه في العديد من القدرات ، لديها أوجه قصور كبيرة في التفكير والقدرة على التخطيط.
عنوان الورقة:
عنوان الورقة:
عنوان الورقة:
في مواجهة مشاكل التفكير في التخطيط البشري ، فإن GPT-4 صحيح بنسبة 12٪ فقط.
علاوة على ذلك ، في مهمة الاستدلال ، إذا سمح ل LLM بالتصحيح الذاتي لإجاباتها الخاصة ، فلن تزيد جودة الإخراج بل تنخفض.
أي أن LLM ببساطة لا تملك القدرة على التفكير في الإجابة الصحيحة ، لا يمكن تخمين كل شيء إلا.
بعد نشر الورقة ، أرسل الأستاذ أيضا تغريدة طويلة لمزيد من توضيح وجهات نظره حول مناقشة الورقة من قبل مستخدمي الإنترنت والعلماء.
يعتبر الأستاذ أن LLMs هي "مولدات أفكار" ممتازة ، ولكن في كل من اللغة والرمز ، لكنها لا تستطيع التخطيط أو التفكير بمفردها.
وأشار الأستاذ إلى أن هناك العديد من سوء الفهم حول قدرة LLM على التصحيح الذاتي.
يبالغ مؤلفو بعض الأوراق في انتحال شخصية LLMs ، معتقدين خطأ أنهم ينتجون أخطاء ويصححون أنفسهم مثل البشر.
وانتقد استخدام مجموعات بيانات الأسئلة والأجوبة المنسقة بشكل عشوائي لتطوير وتقييم بيانات التقييم الذاتي ، بحجة أنها تخلق ارتباكا في المجتمع.
كما أشار الأستاذ إلى أهمية التحقق الخارجي والمشاركة البشرية. على الرغم من أن GPT-4 لا يمكنه التحقق من تكوينات الألوان ، إلا أنه يمكن أن يساعد في إنشاء كود Python الذي يحتاج إلى تصحيح من قبل البشر ويمكن استخدامه كمدقق خارجي.
في الوقت نفسه ، ستساعد النماذج التي تتعاون مع البشر والمفكرين المحترفين أيضا في تحسين قدرة النموذج على التفكير.
أدرج الأستاذ أوراقا توضح كيفية استخراج نماذج مجال التخطيط من LLM ، وتحسينها بمساعدة البشر والمفكرين المتخصصين ، واستخدامها في مدققي الخطة أو مخططي المجال المستقلين.
من المهم أيضا زيادة تحسين قدرات التحقق من صحة LLM. تعزيز قدرات التحقق من صحة LLM مع ضبط دقيق محدد ، وعلى الرغم من أن هذا لا يجعل LLM فجأة أداء أفضل في التفكير أو التحقق ، إلا أنه يسمح بتحسن طفيف في قدرة التصحيح الذاتي.
** قل أن LLM هو "ببغاء عشوائي" ، أليس كذلك؟ **
كما أشار أحد مستخدمي الإنترنت تحت تويتر LeCun's إلى أن التخطيط والتفكير ليسا نقطتين قويتين للعديد من البشر ، وهذا يعني أنه لا ينبغي إنكار مستوى ذكاء نموذج اللغة الكبيرة.
كما نشر غوثام كورا ، وهو رجل أعمال متسلسل أسس منصتين اجتماعيتين عاملتين ، Glint و Whip ، مؤخرا مدونة طويلة ، "نحن جميعا ببغاوات عشوائية" ، بحجة أنه لا يوجد فرق جوهري بين القدرات والذكاء البشري وراء LLM.
روابط المقالات:
إذا جلس البشر وتأملوا ، فإنهم لا يدركون كيف تعمل الآليات التي يولدون بها الأفكار ، ولا يتمتع البشر بسيطرة واعية على طبيعة أفكارهم.
لنفترض أن الشخص يخرج في نزهة في يوم حار ويتعرق. هذا يقوده إلى التفكير في تغير المناخ ، والذي سيسبب بعض الارتباك في أفكاره.
قرر تحويل أفكاره إلى موضوع أكثر إمتاعا ، وهي عملية تبدو وكأنها تحكم واع ، ولكن أي موضوع يختار التفكير فيه؟
ربما يطفو الدماغ البشري على السطح بإخلاص بعض الخيارات التي يجب أن يفكر فيها: ربما يفكر في لعبة للعب في وقت لاحق من المساء ، أو حفلة موسيقية لحضورها في نهاية هذا الأسبوع.
ولكن من أين تأتي هذه الخيارات الجديدة؟ كيف قرر عقلك أن يفرقع هذه ولا شيء آخر؟ هل يدرك البشر بوعي جميع الخيارات الممكنة لعملية التعداد؟
بينما كان يواصل سيره ويفكر في هذه الأشياء ، لاحظ سنجابا يركض فوق الشجرة من زاوية عينه وفوجئ بذيله الكثيف.
في هذا الوقت ، اختفى "التفكير الذكي" للبشر مرة أخرى وبدأ يفكر تلقائيا مثل ببغاء عشوائي؟
عندما ندرك أننا نعرف القليل جدا عن كيفية ظهور أفكارنا بالفعل ، فإن السؤال هو: ما مدى عشوائية الأصل اللاواعي للأفكار؟
أليس أيضا نوعا من "الببغاء العشوائي"؟ ما مدى تشابه آلية توليد السرد لدينا مع LLM؟
خذ على سبيل المثال الكاتبة الإيطالية إيلينا فيرانتي ، التي ، وفقا لمجلة الإيكونوميست ، "ربما تكون أفضل روائية معاصرة لم تسمع بها من قبل".
باعت سلسلة My Genius Girlfriend أكثر من 11 مليون نسخة في 40 دولة ، وقال النقاد ، "لم يتم تقديم صداقة الإناث بشكل واضح من قبل".
تصف مذكراتها ، "في الهوامش" ، نشأتها في إيطاليا بعد الحرب العالمية الثانية.
مثل غيرها من الكاتبات في عصرها ، ولدت في التقاليد الأدبية الذكورية وقرأت في الغالب أعمال الكتاب الذكور ، لذلك بدأت في تقليد الكتاب الذكور للكتابة.
كتبت في سيرتها الذاتية:
حتى عندما كنت في الثالثة عشرة من عمري ... أشعر أن مستواي في الكتابة ليس سيئا ، وأشعر دائما أن صوتا ذكريا يخبرني بما أكتبه وكيف أكتبه.
لم أكن أعرف حتى ما إذا كان الصوت في عمري أو أكبر مني ، ربما كان بالفعل رجلا عجوزا. ...... تخيلت ذكرا ، لكنني ما زلت أنثى في نفس الوقت.
في سيرتها الذاتية ، تصف كاتبة معاصرة عظيمة في الإنسانية ، بصوت فريد وحيوي للأدب الإيطالي الحديث ، بصراحة نضالاتها ونضالاتها للهروب من حالة "الببغاء العشوائي".
لأن لغتها وأفكارها الفريدة تتشكل عن غير قصد من خلال الشريعة الأدبية التي يهيمن عليها الذكور والتي تشكلت على مدى مئات السنين.
إذا نظرنا حقا إلى أنفسنا ، فإن معظم الأفكار التي تتبادر إلى رؤوسنا هي أصوات الآخرين: أصوات آبائنا ومعلمينا.
الكتب التي نقرأها ، والتلفزيون الذي نشاهده ، وعقولنا مبنية على ثقافة عميقة ولزجة للغاية.
إن قدرتنا على التحدث والتفكير والتعبير هي وظيفة لما نقرأه ، والكلمات من الماضي تؤثر على المستقبل.
نحن نعيش بشكل أساسي نفس حياة أسلافنا ، ونكرر معظم نفس أفكار الأمس ، ونكتب نفس الكلمات مثل أي شخص آخر ، مع اختلاف بسيط للغاية.
إذا نظرت إلى أفلام هوليوود وقرأت بعض الكتب ، ستجد أن العديد من القصص متشابهة تقريبا ، لكن الخلفية مختلفة.
بين الحين والآخر ، يبدو أن البشر قادرون على التخلص من أغلال الببغاء ، قل فكرة أصلية صغيرة ، فكر في فكرة أصلية صغيرة.
مع هذا القليل من المحتوى الأصلي ، اتخذت ثقافتنا قفزة هائلة.
موارد:
_source = الملف الشخصي &utm \ _medium = القارئ 2
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
خنق الإنشاء المشترك LeCun و xAI ، عيوب التفكير الرئيسية GPT-4 ليس لها حل؟ نيتزن: البشر هم أيضا "ببغاوات عشوائية"
المصدر الأصلي: شين جي يوان
في الآونة الأخيرة ، بدأت مجموعة من كبار الشخصيات ، بما في ذلك LeCun ، في إطلاق النار على LLM مرة أخرى. أحدث اختراق هو أن LLM ليس لديه القدرة على التفكير على الإطلاق!
تتمتع > الشبكات التلافيفية بقدرات استدلال محدودة ، لكن هذا لا يؤثر على قدرات AlphaZero.
من المناقشة الإضافية بين الرجلين الكبيرين ، يمكننا حتى الحصول على لمحة عن الاتجاه التقني المستقبلي ل xAI - كيفية استخدام قدرة النماذج الكبيرة على اختراق الحد الأعلى لقدرة الذكاء الاصطناعي المنطقية.
في ظل هذه المشكلة ، يتسامح مستخدمو الإنترنت مع القدرة على التفكير في LLM ، ويظهرون أيضا تفكيرا آخر حول العلاقة بين الذكاء الذكاء الاصطناعي والإنسان:
ليس كل البشر جيدون في التفكير ، فهل لأن بعض الناس ليسوا جيدين في التفكير ، فهل يتعين عليهم إنكار موضوعية الذكاء البشري؟
ربما البشر ، مثل LLM ، هم مجرد شكل مختلف من "الببغاء العشوائي"!
** حوار الرجل الكبير يكشف عن الاتجاه التقني ل xAI **
بعد نشر الورقة على arXiv ، تم إرسالها بشكل خاص من قبل LeCun ، مما تسبب في نقاش مستفيض بين مستخدمي الإنترنت والعلماء.
أجاب عالم الذكاء الاصطناعي كريستيان زيجيدي ، المؤسس المشارك ل xAI ، بقيادة بوس ما:
تتمتع > الشبكات التلافيفية بقدرات استدلال محدودة ، لكن هذا لا يؤثر على قدرات AlphaZero.
والنقطة التي خرجت من فم xAI Lianchuang ، إلى جانب الجملة الأخيرة: "في رأيي ، كل هذا سيصبح ممكنا قريبا" ، لا يسعها إلا أن تجعل الناس يفكرون.
بعد كل شيء ، قد يكون السبب الأكثر مباشرة لقول "ممكن" بهذا اليقين هو "لقد حققنا ذلك بالفعل".
LeCun: كم مرة قلت أن LLM لا يعمل! **
يستند دحض LeCun الأخير لقدرة LLM المنطقية على الأوراق الأخيرة التي كتبها الأستاذ بجامعة ASU سوباراو كامبامباتي.
في رأيه ، LLM ، التي تدعي أنها تصل إلى المستوى البشري وتتجاوزه في العديد من القدرات ، لديها أوجه قصور كبيرة في التفكير والقدرة على التخطيط.
في مواجهة مشاكل التفكير في التخطيط البشري ، فإن GPT-4 صحيح بنسبة 12٪ فقط.
علاوة على ذلك ، في مهمة الاستدلال ، إذا سمح ل LLM بالتصحيح الذاتي لإجاباتها الخاصة ، فلن تزيد جودة الإخراج بل تنخفض.
أي أن LLM ببساطة لا تملك القدرة على التفكير في الإجابة الصحيحة ، لا يمكن تخمين كل شيء إلا.
بعد نشر الورقة ، أرسل الأستاذ أيضا تغريدة طويلة لمزيد من توضيح وجهات نظره حول مناقشة الورقة من قبل مستخدمي الإنترنت والعلماء.
وأشار الأستاذ إلى أن هناك العديد من سوء الفهم حول قدرة LLM على التصحيح الذاتي.
يبالغ مؤلفو بعض الأوراق في انتحال شخصية LLMs ، معتقدين خطأ أنهم ينتجون أخطاء ويصححون أنفسهم مثل البشر.
وانتقد استخدام مجموعات بيانات الأسئلة والأجوبة المنسقة بشكل عشوائي لتطوير وتقييم بيانات التقييم الذاتي ، بحجة أنها تخلق ارتباكا في المجتمع.
كما أشار الأستاذ إلى أهمية التحقق الخارجي والمشاركة البشرية. على الرغم من أن GPT-4 لا يمكنه التحقق من تكوينات الألوان ، إلا أنه يمكن أن يساعد في إنشاء كود Python الذي يحتاج إلى تصحيح من قبل البشر ويمكن استخدامه كمدقق خارجي.
في الوقت نفسه ، ستساعد النماذج التي تتعاون مع البشر والمفكرين المحترفين أيضا في تحسين قدرة النموذج على التفكير.
أدرج الأستاذ أوراقا توضح كيفية استخراج نماذج مجال التخطيط من LLM ، وتحسينها بمساعدة البشر والمفكرين المتخصصين ، واستخدامها في مدققي الخطة أو مخططي المجال المستقلين.
من المهم أيضا زيادة تحسين قدرات التحقق من صحة LLM. تعزيز قدرات التحقق من صحة LLM مع ضبط دقيق محدد ، وعلى الرغم من أن هذا لا يجعل LLM فجأة أداء أفضل في التفكير أو التحقق ، إلا أنه يسمح بتحسن طفيف في قدرة التصحيح الذاتي.
** قل أن LLM هو "ببغاء عشوائي" ، أليس كذلك؟ **
كما أشار أحد مستخدمي الإنترنت تحت تويتر LeCun's إلى أن التخطيط والتفكير ليسا نقطتين قويتين للعديد من البشر ، وهذا يعني أنه لا ينبغي إنكار مستوى ذكاء نموذج اللغة الكبيرة.
إذا جلس البشر وتأملوا ، فإنهم لا يدركون كيف تعمل الآليات التي يولدون بها الأفكار ، ولا يتمتع البشر بسيطرة واعية على طبيعة أفكارهم.
لنفترض أن الشخص يخرج في نزهة في يوم حار ويتعرق. هذا يقوده إلى التفكير في تغير المناخ ، والذي سيسبب بعض الارتباك في أفكاره.
قرر تحويل أفكاره إلى موضوع أكثر إمتاعا ، وهي عملية تبدو وكأنها تحكم واع ، ولكن أي موضوع يختار التفكير فيه؟
ربما يطفو الدماغ البشري على السطح بإخلاص بعض الخيارات التي يجب أن يفكر فيها: ربما يفكر في لعبة للعب في وقت لاحق من المساء ، أو حفلة موسيقية لحضورها في نهاية هذا الأسبوع.
بينما كان يواصل سيره ويفكر في هذه الأشياء ، لاحظ سنجابا يركض فوق الشجرة من زاوية عينه وفوجئ بذيله الكثيف.
في هذا الوقت ، اختفى "التفكير الذكي" للبشر مرة أخرى وبدأ يفكر تلقائيا مثل ببغاء عشوائي؟
عندما ندرك أننا نعرف القليل جدا عن كيفية ظهور أفكارنا بالفعل ، فإن السؤال هو: ما مدى عشوائية الأصل اللاواعي للأفكار؟
أليس أيضا نوعا من "الببغاء العشوائي"؟ ما مدى تشابه آلية توليد السرد لدينا مع LLM؟
خذ على سبيل المثال الكاتبة الإيطالية إيلينا فيرانتي ، التي ، وفقا لمجلة الإيكونوميست ، "ربما تكون أفضل روائية معاصرة لم تسمع بها من قبل".
تصف مذكراتها ، "في الهوامش" ، نشأتها في إيطاليا بعد الحرب العالمية الثانية.
مثل غيرها من الكاتبات في عصرها ، ولدت في التقاليد الأدبية الذكورية وقرأت في الغالب أعمال الكتاب الذكور ، لذلك بدأت في تقليد الكتاب الذكور للكتابة.
كتبت في سيرتها الذاتية:
في سيرتها الذاتية ، تصف كاتبة معاصرة عظيمة في الإنسانية ، بصوت فريد وحيوي للأدب الإيطالي الحديث ، بصراحة نضالاتها ونضالاتها للهروب من حالة "الببغاء العشوائي".
لأن لغتها وأفكارها الفريدة تتشكل عن غير قصد من خلال الشريعة الأدبية التي يهيمن عليها الذكور والتي تشكلت على مدى مئات السنين.
إذا نظرنا حقا إلى أنفسنا ، فإن معظم الأفكار التي تتبادر إلى رؤوسنا هي أصوات الآخرين: أصوات آبائنا ومعلمينا.
الكتب التي نقرأها ، والتلفزيون الذي نشاهده ، وعقولنا مبنية على ثقافة عميقة ولزجة للغاية.
إن قدرتنا على التحدث والتفكير والتعبير هي وظيفة لما نقرأه ، والكلمات من الماضي تؤثر على المستقبل.
نحن نعيش بشكل أساسي نفس حياة أسلافنا ، ونكرر معظم نفس أفكار الأمس ، ونكتب نفس الكلمات مثل أي شخص آخر ، مع اختلاف بسيط للغاية.
إذا نظرت إلى أفلام هوليوود وقرأت بعض الكتب ، ستجد أن العديد من القصص متشابهة تقريبا ، لكن الخلفية مختلفة.
بين الحين والآخر ، يبدو أن البشر قادرون على التخلص من أغلال الببغاء ، قل فكرة أصلية صغيرة ، فكر في فكرة أصلية صغيرة.
مع هذا القليل من المحتوى الأصلي ، اتخذت ثقافتنا قفزة هائلة.
موارد:
_source = الملف الشخصي &utm \ _medium = القارئ 2