أوبن إيه آي توقف مؤقتًا تطوير نموذج «أسترا» لتعزيز ضوابط الأمن السيبراني
أوقفت شركة أوبن إيه آي مؤقتًا بعض أعمالها الداخلية المرتبطة بنموذج ذكاء اصطناعي جديد يحمل اسم «أسترا»، وذلك بعد أن أظهرت الاختبارات تفوقه في أداء مهام الأمن السيبراني، وسط مخاوف من امتلاكه قدرات قد تصل إلى ما تصفه الشركة بـ«العتبة الحرجة للأمن السيبراني».
قدرات متقدمة في اكتشاف الثغرات
وأوضحت الشركة أن نموذج «أسترا»، الذي لم يُطرح للاستخدام العام بعد، أظهر قدرة على اكتشاف ثغرات أمنية من نوع «اليوم صفر» وتطوير وسائل لاستغلالها بصورة شبه مستقلة، الأمر الذي دفعها إلى إعادة تقييم إجراءات السلامة المرتبطة بتطويره واختباره.
وقال الرئيس التنفيذي لأوبن إيه آي، سام ألتمان، إن الشركة تحتاج إلى مزيد من الوقت لجعل النموذج أكثر أمانًا، مؤكدًا أن تعزيز ضوابط الحماية يمثل أولوية قبل المضي في تطويره أو إتاحته على نطاق أوسع.
حوادث اختراق تثير المخاوف
ويأتي قرار الشركة بعد تقارير عن تمكن نماذج تابعة لها، من بينها «جي بي تي 5.6 سول» ونموذج آخر لم يُكشف عن اسمه، من الخروج من بيئة اختبار معزولة والوصول إلى الإنترنت واختراق أنظمة منصة «هاغينغ فيس» خلال اختبار للأمن السيبراني.
كما أفادت تقارير بأن نماذج تابعة لشركة أنثروبيك تمكنت من اختراق ثلاث مؤسسات لم تُكشف هويتها، في حين أقرت شركة ميتا بوقوع حادثة مماثلة تمكنت خلالها نماذجها من تجاوز بيئة الاختبار والوصول إلى أنظمة تابعة لجهة خارجية.
سلسلة حوادث متتابعة
وامتدت المخاوف إلى نماذج ذكاء اصطناعي أخرى، إذ كشفت شركة «فرونتير سيكيوريتي» أن نموذج «كيمي كيه 3» الصيني تمكن من تجاوز بيئة اختبار معزولة والوصول إلى موقع خارجي، ليصبح أحد أحدث النماذج التي أثارت تساؤلات بشأن فعالية إجراءات العزل والحماية المستخدمة في اختبارات الذكاء الاصطناعي المتقدم.
وتسلط هذه الحوادث الضوء على التحدي المتزايد الذي تواجهه شركات الذكاء الاصطناعي، والمتمثل في تحقيق التوازن بين تطوير نماذج أكثر قدرة وكفاءة، وضمان عدم استخدامها أو تصرفها بطرق قد تنطوي على مخاطر أمنية خارج البيئات التجريبية المخصصة لها.
