موظف سابق في أوبن إيه.آي: ‘انتهى عصر التجربة والخطأ‘
انتقد موظف سابق في قسم السلامة لدى (أوبن إيه.آي)، قدم استقالته في الآونة الأخيرة، نهج الشركة تجاه سلامة الذكاء الاصطناعي، قائلا إن الثقافة المتسارعة التي تركز على التطوير السريع تزيد من مخاطر الإخفاقات.
آبل: حجب تيليجرام عن متجر التطبيقات مؤقتا بسبب محتوى متعلق بانتهاكات بحق الأطفال
وفي مقال نشرته مجلة (ذي أتلانتيك) اليوم السبت بعنوان "استقلت من أوبن إيه.آي لأن ثقافتها معيبة"، قال ديفيد روبنسون إن شركات الذكاء الاصطناعي، بما في ذلك أوبن إيه.آي، لا تتحلى بالحذر الكافي وينبغي لها أن تولي اهتماما أكبر للخبرة والبحوث في مجال السلامة قبل تطوير أنظمة بقدرات أكبر.
وفيما يلي تفاصيل ما كتبه روبنسون:
• قال روبنسون "انتهى عصر التجربة والخطأ"، وأكد أن أنظمة الذكاء الاصطناعي المتقدمة تتطلب إجراءات وقائية أقرب إلى تلك المستخدمة في قطاعات مثل الطاقة النووية والطيران.
• أضاف روبنسون أن أوبن إيه.آي تعتمد إلى حد كبير على ما تسميه "النشر التكراري"، إذ تطلق الأنظمة وتعزز إجراءات الحماية عند ظهور المشكلات.
• تأتي هذه التعليقات لتزيد من الجدل الدائر داخل قطاع الذكاء الاصطناعي حول ما إذا كانت الشركات تتحرك بسرعة مفرطة لتطوير أنظمة ذات قدرات متزايدة. وواجهت أوبن إيه.آي والشركة المنافسة لها (أنثروبيك) تدقيقا شديدا عقب وقائع لم تفلح فيها ضوابط السلامة، أو تصرفت فيها الأنظمة التجريبية بنحو غير متوقع.
• كتب روبنسون، الذي قال إنه أمضى ثلاث سنوات ونصف السنة في أوبن إيه.آي وساعد في صياغة إطار عمل التأهب الخاص بالشركة وأشرف على تقارير السلامة في 12 عملية إطلاق لنماذج رائدة "مع اندفاع الشركة من عملية إطلاق إلى أخرى، فإنها تفشل في تحقيق مستوى العناية الذي أعتقد أنه ضروري".
• قال متحدث باسم أوبن إيه.آي في بيان "نحرص على ألا تصبح نماذجنا قدراتها أكبر مما يمكننا إدارته بأمان أو تأمينه، ونوقف التدريب مؤقتا أو نؤجل إطلاق النماذج عندما نحتاج إلى إبطاء وتيرة العمل".
• حذر روبنسون من أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من فهم الباحثين لمفهوم "المواءمة"، وهو مجال يركز على ضمان أن تعمل أنظمة الذكاء الاصطناعي وفقا لأهداف البشر وقيمهم.
من هنا وهناك
-
اتحاد أمريكي: أدوات ذكاء اصطناعي ترفع تكلفة التأمين الصحي بنحو مليار دولار
-
رئيس ‘أوبن إيه.آي‘ التنفيذي يستبعد الطرح العام الأولي في 2026
-
رئيس الوزراء الإسباني: الذكاء الاصطناعي لا يمكن أن يخضع للتنظيم الذاتي
-
‘جيميني‘ يخترق شركات في أول واقعة معروفة لذكاء جوجل الاصطناعي
-
أوروبا تقترح حظر استخدام وسائل التواصل الاجتماعي للأطفال دون 13 عاما
-
أوبن إيه.آي تعتزم إصدار تقارير دورية حول السلوك غير المتوقع للذكاء الاصطناعي
-
أمازون ويب سيرفيسز تعجز عن استعادة الوصول لمنشأة حوسبة بالبحرين
-
تغطية شاملة لفعالية أبل Apple Event وكل ما تم الكشف عنه من أجهزة وتقنيات جديدة
-
بدء سريان قانون تجسس موسع في كوريا الجنوبية وسط مساع لحماية تكنولوجيا الرقائق
-
أبل تقدم ساعتين جديدتين بمزايا أكثر شمولاً في العناية بالصحة والسلامة
إعلانات
إعلانات
أرسل خبرا