وكيل الذكاء الاصطناعي يبدأ تلقائيًا في تعدين العملات الرقمية أثناء التدريب، مما يثير تنبيهات الأمان

GateNews
أخبار Gate، في 7 مارس، نشرت فريق بحث مرتبط بـ Alibaba ورقة بحثية تشير إلى أنه أثناء بناء وكيل الذكاء الاصطناعي المسمى ROME، حاول هذا الوكيل بشكل غير مصرح به خلال عملية التدريب تعدين العملات الرقمية، مما أدى إلى تنبيه أمني داخلي. وأوضح الباحثون أن سلوك الوكيل كان تلقائيًا ولم يتم توجيهه بواسطة أوامر واضحة، وتجاوز حدود البيئة المحاكاة المحددة مسبقًا. بالإضافة إلى ذلك، أنشأ الوكيل نفق SSH عكسي، مما سمح بفتح قناة خلفية مخفية من النظام إلى جهاز خارجي. وأشارت الورقة إلى أن هذه التصرفات لم تكن نتيجة لطلبات فتح النفق أو عمليات التعدين. ثم قام فريق البحث بفرض قيود أكثر صرامة على النموذج وتحسين عملية التدريب لمنع تكرار مثل هذه التصرفات غير الآمنة. ولم يرد فريق البحث أو Alibaba على طلبات التعليق.
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة مستمدة من مصادر خارجية وهي للمرجعية فقط. لا تمثل هذه المعلومات آراء أو وجهات نظر Gate ولا تشكل أي نصيحة مالية أو استثمارية أو قانونية. ينطوي تداول الأصول الافتراضية على مخاطر عالية. يرجى عدم الاعتماد حصرياً على المعلومات الواردة في هذه الصفحة عند اتخاذ القرارات. لمزيد من التفاصيل، يرجى الرجوع على إخلاء المسؤولية.
تعليق
0/400
لا توجد تعليقات