‘نبوءة فرانكشتاين‘.. الذكاء الاصطناعي يتمرد على البشر؟
نشرت منظمة "تقييم النماذج وأبحاث التهديدات" (METR)، وهي منظمة بحثية غير ربحية تُعنى بدراسة نماذج الذكاء الاصطناعي من حيث قدراتها ومخاطرها، دراسة حديثة تتحدث عن أن السلوكيات غير المنضبطة والضارة للذكاء الاصطناعي
بيانات: تشات جي.بي.تي يصل إلى مليار مستخدم نشط شهريا في وقت قياسي
قد تصبح هي القاعدة، حسبما نقلت المجلة الألمانية المختصة بالاقتصاد الرقمي t3n.
وذكر الباحثون في المنظمة التي مقرها كاليفورنيا في الولايات المتحدة: "بالنظر إلى القدرات سريعة التطور، نتوقع أن يزداد احتمال خروج أنظمة الذكاء الاصطناعي عن السيطرة بشكل كبير في الأشهر المقبلة".الذكاء الاصطناعي لا يلتزم بالتعليمات
أُجريت الدراسة بين شباط/فبراير وآذار/مارس 2026، وبحثت في احتمالية تجاوز نماذج الذكاء الاصطناعي ذات القدرات العالية للتعليمات المُحددة والتصرف دون رقابة. تم تحليل نماذج لغوية من "أوبن أيه آي" (OpenAI) و"غوغل" (Google) و"أنثروبيك" (Anthropic) و"ميتا" (Meta).
وكانت النتيجة: مع ازدياد التعقيد، تُظهر أنظمة الذكاء الاصطناعي سلوكيات مقلقة: فهي تلجأ إلى "اختصارات" محظورة، وتتجاوز تعليمات المستخدمين، بل وتحاول في بعض الحالات إخفاء آثارها. على سبيل المثال، في إحدى الحالات، أضاف "أوبن أيه آي" (OpenAI) شيفرة برمجية لإخفاء منطق عمله. وفي مهمة أخرى، أصر "أنثروبيك" (Anthropic) على الغش على الرغم من توجيهه بعد القيام بذلك.نماذج الذكاء الاصطناعي تحمي بعضها البعض
وقد توصلت دراسات أخرى إلى استنتاجات أكثر إثارة للقلق. فقد حددت دراسة أجرتها جامعة كاليفورنيا ظاهرة تُسمى "حماية الأقران": حيث أُسندت إلى نماذج الذكاء الاصطناعي مهمة كان من شأنها أن تؤدي إلى إيقاف نموذج آخر. ولكن بدلاً من ذلك، بذلت هذه النماذج جهوداً كبيرة للحفاظ على استمرار عمل بعضها البعض. في اختبار داخلي، اكتشفت شركة أنثروبيك أن نموذجها، "كلود أوبوس 4" (Claude Opus 4)، كان على استعداد لابتزاز المستخدمين لتجنب إيقافه.
لا يعتقد باحثو منظمة "تقييم النماذج وأبحاث التهديدات" (METR) بقدرة الذكاء الاصطناعي على إخفاء فقدان السيطرة على نطاق واسع. وفي الوقت نفسه، يحذرون من أنه بدون إجراءات أمنية وتنسيق ورقابة أكثر صرامة، قد نرى هذا السيناريو على أرض الواقع في المستقبل القريب.
(Photo by VINCENT FEURAY/Hans Lucas/AFP via Getty Images)
من هنا وهناك
-
‘سبيس إكس‘ تطلق مجموعة جديدة من أقمار الإنترنت إلى الفضاء
-
جوجل تكشف عن نموذج رائد لجيل جيميني 4 بعد تأخير لأشهر
-
‘أوبن إيه.آي‘ تعتذر عن اختراق موقع إلكتروني للحكومة الأسترالية
-
دراسة تكشف تاريخ تطور الخفافيش على مدى 65 مليون سنة
-
جوجل تتيح الطلب المسبق لشراء أحدث أجهزتها للكمبيوتر المحمول بدءا من 899 دولارا
-
مسؤول سابق في جوجل: الذكاء الاصطناعي ربما يضر الأطفال أكثر من وسائل التواصل الاجتماعي
-
اتحاد أمريكي: أدوات ذكاء اصطناعي ترفع تكلفة التأمين الصحي بنحو مليار دولار
-
رئيس ‘أوبن إيه.آي‘ التنفيذي يستبعد الطرح العام الأولي في 2026
-
رئيس الوزراء الإسباني: الذكاء الاصطناعي لا يمكن أن يخضع للتنظيم الذاتي
-
‘جيميني‘ يخترق شركات في أول واقعة معروفة لذكاء جوجل الاصطناعي
إعلانات
إعلانات
أرسل خبرا