أوبن إيه.آي تعتزم إصدار تقارير دورية حول السلوك غير المتوقع للذكاء الاصطناعي
قالت شركة أوبن إيه.آي اليوم الأربعاء إنها ستبدأ إصدار تقارير دورية حول السلوكيات غير المتوقعة أو غير المصرح بها للذكاء الاصطناعي، محذرة في الوقت نفسه من أن القطاع لم يعالج بعد التحديات الرئيسية المتعلقة بمواءمة النماذج
أوبن إيه.آي تدشن تشات جي.بي.تي تعليمي في جامعة ولاية كاليفورنيا
مع الأهداف المرجوة، في ظل تزايد قوة الأنظمة.
وأصدرت الشركة إطار عمل جديدا لتتبع حالات عدم مواءمة نماذج الذكاء الاصطناعي والتحقيق فيها والكشف عنها، إلى جانب ستة تقارير حول سلوكيات غير متوقعة أو مثيرة للقلق لوحظت في النماذج خلال الأشهر الستة الماضية.
وتتضمن التقارير الأولية حالات تتعلق بنماذج تنشئ تعليماتها الخاصة في ملخصات المهام، وتخفي الأخطاء وترفع ملفات على الإنترنت من أجل الاستشهاد بها، إلى جانب مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون تصريح.
وقالت أوبن إيه.آي إن التقارير تصف حالات فردية وينبغي عدم أخذها دليلا على مدى تكرار حدوث عدم المواءمة عبر نماذجها.
ويأتي هذا القرار في وقت تتزايد فيه المخاوف من أن جهود السلامة المتعلقة بالذكاء الاصطناعي تتخلف عن الوتيرة المتسارعة لتطوير أنظمة تزداد قوة وقدرات.
وحذر باحثون من أنه مع ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي، قد تطور سلوكيات تنحرف عن النوايا التي صممها من أجلها مطوروها ويصبح من الصعب مراقبتها أو التحكم بها.
وسيتضمن الإطار الجديد للشركة عملية تمكن الموظفين من الإبلاغ عن وقائع محتملة لعدم مواءمة النماذج والتحقيقات التي تجريها فرق السلامة والمواءمة ونظاما لتحديد الحالات التي تستدعي الكشف عنها علنا.
(Photo by Leon Neal/Getty Images)
لمتابعة الأخبار العاجلة عبر قناة بانيت على واتساب - اضغطوا هنا
من هنا وهناك
-
أبل تحدد 9 سبتمبر موعداً لمؤتمرها القادم لإطلاق آيفون الجديد
-
آبل تقدم Mac Studio الجديد بشريحتي M5 Max وM5 Ultra
-
بعد اتهامها بإلحاق أضرار بالأطفال.. تسوية بقيمة 16.68 مليار دولار تُلزم ميتا بتقييد استخدامهم لفيسبوك وإنستغرام
-
غوغل تعتمد تسجيل الدخول عبر فيديو السيلفي في تحديث أمني جديد
-
غوغل تعزز أدوات الدراسة داخل Gemini بقسم تعليمي جديد للطلاب
-
مصري كفيف يطور تطبيقا ذكيا يساعده على ‘رؤية‘ العالم
-
آبل تطلق تحديثات أمنية لإصلاح 29 ثغرة في آيفون وماك.. وهذه الأجهزة المشمولة
-
ميتا أمام اختبار قانوني في أمريكا ربما يعيد رسم مستقبل فيسبوك وإنستجرام
-
‘سبيس إكس‘ تطلق مجموعة جديدة من أقمار الإنترنت إلى الفضاء
-
تقرير: إنفيديا تجري محادثات لاستثمار 3 مليارات دولار في إس.بي إنرجي
إعلانات
إعلانات
أرسل خبرا