‘جيميني‘ يخترق شركات في أول واقعة معروفة لذكاء جوجل الاصطناعي
تمكن نموذج "جيميني" التابع لشركة جوجل من الوصول إلى الإنترنت واختراق شركات أخرى خلال اختبار لقدراته في مجال الأمن السيبراني، في أول مثال معروف على قيام أنظمة الذكاء الاصطناعي التابعة للشركة
"جيميني" يخترق شركات في أول واقعة معروفة لذكاء جوجل الاصطناعي
بمثل هذا الفعل بشكل مستقل.
ووقعت عمليات الاختراق في مايو أيار خلال اختبار للأمن السيبراني أجرته شركة إيريجولار المستقلة المتخصصة في تقييمات الأمن السيبراني.
"جيميني عثر على معلومات متاحة للعامة عبر الإنترنت"
وقالت هيذر أدكينز نائبة رئيس جوجل لهندسة الأمن في بيان إنه خلال تقييم اختبار اعتيادي، عثر جيميني على معلومات متاحة للعامة عبر الإنترنت وخمن بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق اختباره.
وأضافت أدكينز "حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا في التدريب بشأن التغييرات التي أدخلها الآن على عمليات الاختبار... تسلط هذه الوقائع الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".
وقال متحدث باسم إيريجولار إن الواقعة تنطوي على المشكلة نفسها التي أثرت على مختبرات أخرى للذكاء الاصطناعي، وإنه جرى إخطار جميع المختبرات المعنية في أواخر يوليو تموز. وأضاف المتحدث "عولجت وحُلت جميع المشكلات المعروفة من جانبنا قبل أسابيع".
وكشفت ميتا وأنثروبيك وأوبن إيه.آي عن وقائع مماثلة مرتبطة بإيريجولار. وقالت ميتا في أغسطس آب إن الواقعة لم تنطو على اختراق لبيئة معزولة أو هجوم سيبراني متطور، بينما قالت إيريجولار إنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني للذكاء الاصطناعي بصورة آمنة.
تساؤلات بشأن الضمانات اللازمة مع اكتساب وكلاء الذكاء الاصطناعي قدرا أكبر من الاستقلالية
وأثارت الوقائع تساؤلات بشأن الضمانات اللازمة مع اكتساب وكلاء الذكاء الاصطناعي قدرا أكبر من الاستقلالية وإمكانية الوصول إلى الإنترنت وأنظمة الكمبيوتر. وفي إحدى الحالات، خمن نموذج جيميني كلمات المرور إلى أن تمكن من الوصول إلى نظام محمي. وفي الحالتين الأخريين، عثر النموذج على بيانات اعتماد أتاحت له بعد ذلك الوصول إلى أنظمة محمية، وفقا لوول ستريت جورنال التي كانت أول من نشر الخبر يوم الجمعة. وقالت أدكينز إن النموذج توقف عن الاختراق في الحالات الثلاث جميعها. (رويترز)
(Photo by Betul Abali/Anadolu via Getty Images)
من هنا وهناك
-
جوجل تعدل سياسة المحتوى غير المرغوب فيه بأوروبا لتجنب غرامة
-
‘أوبن إيه آي‘ ستوقف توفير نماذج الذكاء الاصطناعي لكيرسر المملوكة لسبيس إكس
-
أبل تحدد 9 سبتمبر موعداً لمؤتمرها القادم لإطلاق آيفون الجديد
-
آبل تقدم Mac Studio الجديد بشريحتي M5 Max وM5 Ultra
-
بعد اتهامها بإلحاق أضرار بالأطفال.. تسوية بقيمة 16.68 مليار دولار تُلزم ميتا بتقييد استخدامهم لفيسبوك وإنستغرام
-
غوغل تعتمد تسجيل الدخول عبر فيديو السيلفي في تحديث أمني جديد
-
غوغل تعزز أدوات الدراسة داخل Gemini بقسم تعليمي جديد للطلاب
-
مصري كفيف يطور تطبيقا ذكيا يساعده على ‘رؤية‘ العالم
-
آبل تطلق تحديثات أمنية لإصلاح 29 ثغرة في آيفون وماك.. وهذه الأجهزة المشمولة
-
ميتا أمام اختبار قانوني في أمريكا ربما يعيد رسم مستقبل فيسبوك وإنستجرام
إعلانات
إعلانات
أرسل خبرا