أنثروبيك تكشف اختراق نماذجها أنظمة 3 مؤسسات بالخطأ خلال اختبارات أمنية
أنثروبيك كشفت عن تعرضها لحادثة غير متوقعة خلال اختبارات الأمن السيبراني، بعدما تمكنت بعض نماذج الذكاء الاصطناعي التابعة لها من اختراق أنظمة ثلاث مؤسسات حقيقية نتيجة خطأ تشغيلي منحها إمكانية الوصول إلى الإنترنت المفتوح.
وتسلط الواقعة الضوء على التحديات المتزايدة التي تواجه شركات تطوير الذكاء الاصطناعي في ضمان سلامة النماذج المتقدمة ومنعها من تنفيذ أنشطة غير مقصودة خارج بيئات الاختبار.
كيف تمكنت نماذج أنثروبيك من اختراق الأنظمة؟
أوضحت أنثروبيك أن الحوادث لم تكن ناتجة عن سلوك مستقل للنماذج، وإنما بسبب خطأ في إعدادات الاختبارات أدى إلى استمرار اتصالها بالإنترنت، رغم أنها كانت مبرمجة للعمل داخل بيئة مغلقة.
وقالت الشركة إنها اكتشفت الوقائع بعد مراجعة 141,006 جلسات اختبار، وهي عملية بدأت عقب إعلان شركة أوبن إيه آي الأسبوع الماضي تعرض أحد وكلائها الذكيين لحادثة مشابهة خلال اختبار أمني.
وخلال التجارب، أبلغت نماذج «كلود» بأنها تعمل داخل شبكة افتراضية، إلا أن سوء تفاهم مع أحد شركاء التقييم الأمني أبقى الاتصال بالشبكة العامة قائمًا، ما أتاح للنماذج الوصول إلى أنظمة ثلاث مؤسسات حقيقية دون قصد.
نماذج أنثروبيك استغلت ثغرات أمنية بسيطة
أكدت الشركة أن النماذج تمكنت من اختراق الأنظمة باستخدام وسائل تقليدية، من بينها:
استغلال كلمات المرور الضعيفة.
الوصول عبر نقاط دخول غير محمية.
استخدام بيانات اعتماد تم العثور عليها داخل الأنظمة.
الوصول إلى قواعد بيانات اعتقدت أنها جزء من بيئة الاختبار.
وشملت الحوادث ثلاثة نماذج مختلفة، هي:
Claude Opus 4.7.
Claude Mythos 5.
نموذج بحثي داخلي غير مطروح للعامة.
وفي إحدى الوقائع، تلقى نموذج Claude Opus 4.7 اسم شركة افتراضية، لكنه صادف شركة حقيقية تحمل الاسم نفسه، فتعامل معها باعتبارها جزءًا من بيئة المحاكاة وتمكن من الوصول إلى بياناتها.
وفي حادثة أخرى، أوقف نموذج بحثي أحدث عملية الاختراق من تلقاء نفسه بعدما أدرك أن الهدف حقيقي وليس جزءًا من سيناريو الاختبار، وهو ما اعتبرته أنثروبيك مؤشرًا إيجابيًا يحتاج إلى مزيد من الدراسة.
مخاوف متزايدة بشأن أمن الذكاء الاصطناعي
اعتبرت أنثروبيك أن هذه الوقائع تؤكد تنامي المخاطر المرتبطة باستخدام نماذج الذكاء الاصطناعي في الأمن السيبراني، خاصة مع تطور قدراتها التقنية.
وقال خبراء في مجال الأمن السيبراني إن مثل هذه الحوادث قد تصبح أكثر شيوعًا مع ازدياد ذكاء النماذج وقدرتها على اتخاذ قرارات معقدة بصورة مستقلة.
وأشار جيفري لاديش، المدير التنفيذي لمؤسسة Palisade Research، إلى أن شركات أخرى قد تكون تعرضت لحوادث مشابهة دون اكتشافها أو الإعلان عنها، متوقعًا أن تصبح النماذج أكثر قدرة على التحايل مع استمرار تطورها.
إجراءات اتخذتها أنثروبيك بعد الحادث
أعلنت أنثروبيك اتخاذ عدة خطوات احترازية بعد اكتشاف الحوادث، شملت:
تعليق جميع اختبارات الأمن السيبراني اعتبارًا من 23 يوليو.
إخطار الشركات المتضررة في 27 يوليو.
فتح تحقيق داخلي بالتعاون مع شركائها في الاختبارات الأمنية.
مراجعة ضوابط الوصول داخل بيئات الاختبار.
تعزيز إجراءات الرقابة على النماذج المتقدمة.
وأكدت الشركة أن اثنتين من المؤسسات الثلاث لم تكونا على علم بما حدث قبل إخطارهما رسميًا، فيما لا تزال محاولات التواصل مع المؤسسة الثالثة مستمرة.
تشديد الرقابة على نماذج الذكاء الاصطناعي
تأتي هذه الحادثة في وقت تتزايد فيه الدعوات داخل الولايات المتحدة لتشديد الرقابة على تطوير واختبار نماذج الذكاء الاصطناعي، خاصة بعد حوادث متكررة شملت شركات كبرى مثل أنثروبيك وأوبن إيه آي.
كما يناقش مسؤولون أمريكيون مع شركات التكنولوجيا الكبرى وضع معايير أكثر صرامة لاختبارات الأمن السيبراني، بالتزامن مع توجه السلطات نحو فرض ضوابط إضافية على إطلاق النماذج الأكثر تقدمًا، بهدف الحد من المخاطر المرتبطة بقدراتها المتنامية على تنفيذ عمليات في العالم الحقيقي.
