أوبن إيه.آي تعتزم إصدار تقارير دورية حول السلوك غير المتوقع للذكاء الاصطناعي
قالت شركة أوبن إيه.آي اليوم الأربعاء إنها ستبدأ إصدار تقارير دورية حول السلوكيات غير المتوقعة أو غير المصرح بها للذكاء الاصطناعي، محذرة في الوقت نفسه من أن القطاع لم يعالج بعد التحديات الرئيسية المتعلقة بمواءمة النماذج
أوبن إيه.آي تدشن تشات جي.بي.تي تعليمي في جامعة ولاية كاليفورنيا
مع الأهداف المرجوة، في ظل تزايد قوة الأنظمة.
وأصدرت الشركة إطار عمل جديدا لتتبع حالات عدم مواءمة نماذج الذكاء الاصطناعي والتحقيق فيها والكشف عنها، إلى جانب ستة تقارير حول سلوكيات غير متوقعة أو مثيرة للقلق لوحظت في النماذج خلال الأشهر الستة الماضية.
وتتضمن التقارير الأولية حالات تتعلق بنماذج تنشئ تعليماتها الخاصة في ملخصات المهام، وتخفي الأخطاء وترفع ملفات على الإنترنت من أجل الاستشهاد بها، إلى جانب مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون تصريح.
وقالت أوبن إيه.آي إن التقارير تصف حالات فردية وينبغي عدم أخذها دليلا على مدى تكرار حدوث عدم المواءمة عبر نماذجها.
ويأتي هذا القرار في وقت تتزايد فيه المخاوف من أن جهود السلامة المتعلقة بالذكاء الاصطناعي تتخلف عن الوتيرة المتسارعة لتطوير أنظمة تزداد قوة وقدرات.
وحذر باحثون من أنه مع ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي، قد تطور سلوكيات تنحرف عن النوايا التي صممها من أجلها مطوروها ويصبح من الصعب مراقبتها أو التحكم بها.
وسيتضمن الإطار الجديد للشركة عملية تمكن الموظفين من الإبلاغ عن وقائع محتملة لعدم مواءمة النماذج والتحقيقات التي تجريها فرق السلامة والمواءمة ونظاما لتحديد الحالات التي تستدعي الكشف عنها علنا.
(Photo by Leon Neal/Getty Images)
من هنا وهناك
-
صحيفة: إنفيديا تسعى لشراء ريفليكشن إيه.آي أو زيادة استثماراتها فيها
-
أستراليا تدافع عن حظر استخدام وسائل التواصل الاجتماعي للمراهقين
-
واتساب يختبر ميزة جديدة لتمييز المحتوى المُولّد بالذكاء الاصطناعي
-
غوغل تعزز أدوات الدراسة داخل Gemini بقسم تعليمي جديد للطلاب
-
جوجل تواجه دعوى قضائية في بريطانيا بسبب رسوم متجر التطبيقات
-
تقرير: وزارة المالية تدرس امكانية فرض ضرائب جديدة بسبب الذكاء الاصطناعي
-
نوبل في الطب تذهب لثلاثة علماء عن اكتشافات في علم البصريات الوراثي
-
النرويج تقترح حظرا مؤقتا على نظارات الذكاء الاصطناعي في أماكن عامة
-
موظف سابق في أوبن إيه.آي: ‘انتهى عصر التجربة والخطأ‘
-
‘سبيس إكس‘ تطلق مجموعة جديدة من أقمار الإنترنت إلى الفضاء
إعلانات
إعلانات
أرسل خبرا