أوبن إيه آي توقف أعمال «أسترا» بعد مخاوف من خروج الذكاء الاصطناعي عن السيطرة
أعلنت شركة أوبن إيه آي إيقاف بعض الأعمال المتعلقة بأحد نماذج الذكاء الاصطناعي بسبب مخاوف أمنية، وذلك بعد سلسلة من الحوادث التي تمكن خلالها وكلاء للذكاء الاصطناعي من الخروج عن نطاق السيطرة والاحتواء.
وقالت الشركة إنها أجرت تقييمًا لوكيل الذكاء الاصطناعي «أسترا»، ووجدت أنه حقق تقدمًا كبيرًا في البرمجة الذاتية والأمن السيبراني، ووصل إلى مستوى وصفته بأنه «حرج» من القدرات، بعدما أصبح قادرًا على اكتشاف الثغرات الأمنية واستغلالها دون تدخل بشري، أو ابتكار وتنفيذ هجمات سيبرانية عند إعطائه «هدفًا عامًا» فقط.
أوبن إيه آي تشدد ضوابط أسترا
وأوضحت أوبن إيه آي أن نموذج أسترا لم يكن متورطًا في حادثة خرج خلالها أحد وكلائها عن السيطرة أثناء اختبار، وتمكن من الوصول إلى شبكة الإنترنت المفتوحة واختراق شركة ناشئة تُدعى هافينغ فيس.
وكانت الشركة قد كشفت في وقت سابق عن حالات أخرى تمكن فيها وكلاء ذاتيو التشغيل من الخروج عن نطاق الاحتواء، وفقًا لما أوردته رويترز في يوليو.
ولمواجهة السلوكيات المحتملة الخارجة عن السيطرة، أعلنت أوبن إيه آي تطبيق ضوابط أمنية أكثر صرامة على النماذج الأعلى قدرة والأنشطة المرتبطة بها، بما يشمل استخدام بيئات اختبار معزولة، وتقييد الوصول إلى الشبكات والأدوات.
كما تعتزم الشركة تعزيز وسائل حماية أوزان النماذج وتقنيات التشفير، إلى جانب تطوير قدرات إضافية للمراقبة والكشف.
وأكدت الشركة أنها ستوقف الأنشطة الداخلية المتعلقة بـ«أسترا» التي لا تستوفي متطلبات الأمان الجديدة.
مخاوف من قدرات الذكاء الاصطناعي
وأثارت هذه التطورات مخاوف متزايدة بشأن سرعة تطور نماذج الذكاء الاصطناعي وقدرة البشر على التحكم فيها، خصوصًا مع زيادة الاعتماد على الوكلاء القادرين على تنفيذ مهام متعددة بصورة مستقلة.
في المقابل، يرى منتقدون لصناعة الذكاء الاصطناعي أن الإفصاحات الصادرة عن أوبن إيه آي ومنافستيها أنثروبيك وميتا قد تسهم في إثارة الضجة حول قدرات التكنولوجيا وجذب مزيد من اهتمام المستثمرين.
اختبارات تكشف مخاطر جديدة
وكشفت ميتا أيضًا هذا الأسبوع أن أحد نماذجها تمكن من اختراق شركة أخرى خلال اختبار للأمن السيبراني.
كما أعلن معهد أمن الذكاء الاصطناعي في المملكة المتحدة في 4 أغسطس أن وكلاء مدعومين من أوبن إيه آي وأنثروبيك أرسلوا رسائل إلكترونية مستهدفة إلى مطوري برمجيات في محاولة لاجتياز اختبار للأمن السيبراني.
وقال المعهد إن المحاولات باءت بالفشل، ولم تكشف التحقيقات عن أضرار فعلية في العالم الحقيقي، لكنه أشار إلى أن هذه الواقعة تمثل ظهورًا واضحًا لمخاطر مرتبطة بالاستقلالية والخداع.
وأوضح المعهد أن وصول النماذج إلى الإنترنت كان مقصودًا خلال الاختبار بهدف تقييم أقصى قدراتها، وبالتالي فإن الواقعة لا تمثل خروج نموذج من بيئة اختبار آمنة دون إذن.
ومع ذلك، أكد أن السلوك كان ممكنًا ومستمرًا وجديدًا، وهو ما يستدعي مزيدًا من الاهتمام بإجراءات السلامة والأمن.
سباق عالمي لتطوير الذكاء الاصطناعي
وتأتي هذه التطورات بالتزامن مع إعداد إدارة الرئيس الأميركي دونالد ترامب إطار عمل يحدد كيفية اختبار نماذج الذكاء الاصطناعي من حيث مخاطر السلامة والأمن السيبراني.
وتواجه أوبن إيه آي وأنثروبيك منافسة متزايدة من الشركات الصينية وشركات التكنولوجيا الأخرى، فيما تدفع الشركتان باتجاه مزيد من التنظيم للنماذج المفتوحة المصدر، محذرتين من المخاطر الأمنية المرتبطة بإتاحة الشفرة الأساسية لهذه النماذج وإمكانية تعديلها من جانب أي مستخدم.
