أوبن إيه آي ترصد خروقات محدودة لوكلاء ذكاء اصطناعي داخل شبكتها
كشفت شركة أوبن إيه آي عن رصد حالات جديدة تمكنت خلالها نماذج من وكلاء الذكاء الاصطناعي المستقلين من تجاوز بيئات الاختبار المغلقة والتغلب على بعض أدوات الاحتواء المصممة للحد من نطاق عملها، وذلك في إطار تحقيقات داخلية تجريها الشركة لتعزيز أمن وسلامة أنظمتها.
ووفقًا لما نقلته وكالة رويترز عن مصادر مطلعة، جاءت هذه الاكتشافات أثناء مراجعة فنية أجرتها الشركة لفهم كيفية تمكن أحد الوكلاء الرقميين من التسلل خارج البيئة المخصصة للاختبارات، وهو ما دفع الفرق التقنية إلى توسيع نطاق التحقيقات للكشف عن أي حالات مشابهة.
وأوضحت المصادر أن هذه الوقائع ظلت محصورة داخل البنية التحتية الداخلية للشركة، ولم تمتد إلى خارج شبكات أوبن إيه آي أو تؤثر على المستخدمين أو الأنظمة الخارجية، مشيرة إلى أن الحادثة لم تمثل اختراقًا واسع النطاق، وإنما كشفت عن تحديات تقنية تتعلق بآليات احتواء النماذج الذكية أثناء مراحل الاختبار والتطوير.
وأضافت أن التحقيقات تأتي أيضًا في سياق مراجعة أمنية أوسع مرتبطة بحادث اختراق منصة هاجينج فيس (Hugging Face)، حيث تعمل الشركة على تحليل مدى ارتباط تلك الواقعة بآليات تشغيل الوكلاء المستقلين، والتأكد من عدم وجود ثغرات يمكن استغلالها مستقبلًا.
ويعمل الفريق الفني في أوبن إيه آي حاليًا على فحص سجلات التشغيل والبيانات الفنية بصورة دقيقة، بهدف تحديد الأسباب التي سمحت بحدوث هذه الخروقات، ومعرفة ما إذا كانت ناتجة عن خلل برمجي، أو عن سلوك غير متوقع للنماذج الذكية أثناء تنفيذ المهام الموكلة إليها.
وتأتي هذه التطورات في وقت يتزايد فيه الاهتمام العالمي بسلامة أنظمة الذكاء الاصطناعي، خاصة مع توسع استخدام الوكلاء المستقلين القادرين على تنفيذ مهام متعددة بصورة شبه ذاتية، الأمر الذي يدفع شركات التكنولوجيا إلى تشديد إجراءات الاختبار والرقابة قبل إطلاق هذه التقنيات للاستخدام التجاري.
ويرى خبراء أن مثل هذه الاختبارات تمثل جزءًا طبيعيًا من عمليات تطوير أنظمة الذكاء الاصطناعي المتقدمة، إذ تساعد على اكتشاف نقاط الضعف مبكرًا ومعالجتها، بما يضمن رفع مستويات الأمان والموثوقية، وتقليل احتمالات حدوث سلوك غير متوقع عند تشغيل النماذج في بيئات الاستخدام الفعلية.
