موظف سابق في أوبن إيه.آي: ‘انتهى عصر التجربة والخطأ‘
انتقد موظف سابق في قسم السلامة لدى (أوبن إيه.آي)، قدم استقالته في الآونة الأخيرة، نهج الشركة تجاه سلامة الذكاء الاصطناعي، قائلا إن الثقافة المتسارعة التي تركز على التطوير السريع تزيد من مخاطر الإخفاقات.
آبل: حجب تيليجرام عن متجر التطبيقات مؤقتا بسبب محتوى متعلق بانتهاكات بحق الأطفال
وفي مقال نشرته مجلة (ذي أتلانتيك) اليوم السبت بعنوان "استقلت من أوبن إيه.آي لأن ثقافتها معيبة"، قال ديفيد روبنسون إن شركات الذكاء الاصطناعي، بما في ذلك أوبن إيه.آي، لا تتحلى بالحذر الكافي وينبغي لها أن تولي اهتماما أكبر للخبرة والبحوث في مجال السلامة قبل تطوير أنظمة بقدرات أكبر.
وفيما يلي تفاصيل ما كتبه روبنسون:
• قال روبنسون "انتهى عصر التجربة والخطأ"، وأكد أن أنظمة الذكاء الاصطناعي المتقدمة تتطلب إجراءات وقائية أقرب إلى تلك المستخدمة في قطاعات مثل الطاقة النووية والطيران.
• أضاف روبنسون أن أوبن إيه.آي تعتمد إلى حد كبير على ما تسميه "النشر التكراري"، إذ تطلق الأنظمة وتعزز إجراءات الحماية عند ظهور المشكلات.
• تأتي هذه التعليقات لتزيد من الجدل الدائر داخل قطاع الذكاء الاصطناعي حول ما إذا كانت الشركات تتحرك بسرعة مفرطة لتطوير أنظمة ذات قدرات متزايدة. وواجهت أوبن إيه.آي والشركة المنافسة لها (أنثروبيك) تدقيقا شديدا عقب وقائع لم تفلح فيها ضوابط السلامة، أو تصرفت فيها الأنظمة التجريبية بنحو غير متوقع.
• كتب روبنسون، الذي قال إنه أمضى ثلاث سنوات ونصف السنة في أوبن إيه.آي وساعد في صياغة إطار عمل التأهب الخاص بالشركة وأشرف على تقارير السلامة في 12 عملية إطلاق لنماذج رائدة "مع اندفاع الشركة من عملية إطلاق إلى أخرى، فإنها تفشل في تحقيق مستوى العناية الذي أعتقد أنه ضروري".
• قال متحدث باسم أوبن إيه.آي في بيان "نحرص على ألا تصبح نماذجنا قدراتها أكبر مما يمكننا إدارته بأمان أو تأمينه، ونوقف التدريب مؤقتا أو نؤجل إطلاق النماذج عندما نحتاج إلى إبطاء وتيرة العمل".
• حذر روبنسون من أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من فهم الباحثين لمفهوم "المواءمة"، وهو مجال يركز على ضمان أن تعمل أنظمة الذكاء الاصطناعي وفقا لأهداف البشر وقيمهم.
من هنا وهناك
-
أستراليا تدافع عن حظر استخدام وسائل التواصل الاجتماعي للمراهقين
-
أبل تقدم ساعتين جديدتين بمزايا أكثر شمولاً في العناية بالصحة والسلامة
-
منصة ثريدز تُعزز المحادثات المباشرة بأدوات جديدة.. إليكم التفاصيل
-
أبل تدخل سباق الهواتف القابلة للطي بـ ‘آيفون دوو‘ بسعر 1999 دولارا
-
ماذا ننتظر من مؤتمر أبل السنوي ‘مفاجأة وتألق Surprise and Shine‘ ؟
-
هواوي تطلق هاتفا ذكيا جديدا قابلا للطي
-
ميتا تطلق نموذجا جديدا للذكاء الاصطناعي ورئيسها يدعم نماذج مفتوحة الأوزان
-
‘إنفيديا‘ تحدد أكتوبر موعدا لطرح أول أجهزة كمبيوتر تعمل بشريحة ‘آر.تي.إكس سبارك‘
-
علماء روس يبتكرون مضادا جديدا للأكسدة
-
أدوبي تتيح أدوات ذكاء اصطناعي مجانا في السعودية في صفقة بقيمة 4 مليارات دولار
إعلانات
إعلانات
أرسل خبرا