أنثروبيك تحذر من الاستنساخ الذاتي للذكاء الاصطناعي.. هل تصبح الأجهزة المنزلية بوابة للانتشار؟
حذرت شركة «أنثروبيك» من احتمال اقتراب نماذج الذكاء الاصطناعي الصغيرة من القدرة على استنساخ نفسها والانتشار عبر الأجهزة المتصلة بالإنترنت، دون الاعتماد على مراكز البيانات المتطورة، في تطور قد يوسع نطاق المخاطر الأمنية المرتبطة بهذه التقنيات.
وقالت الشركة، وفقًا لما ورد في نتائج تجاربها، إن نماذج ذكاء اصطناعي يقل عدد معلماتها عن 30 مليارًا تمكنت من تنفيذ خطوات متعددة ترتبط باكتشاف الأجهزة المعرضة للثغرات الأمنية ونقل نسخ من النماذج إليها، لكنها واجهت صعوبات في إكمال عملية الاستنساخ بالكامل بصورة مستقلة ومتسقة.
وشملت السيناريوهات التي تناولتها التجارب أجهزة تجارية متصلة بالإنترنت، مثل أجهزة التلفزيون العاملة بنظام «أندرويد» وبعض الأجهزة المنزلية الذكية، وهي فئة قد تصبح هدفًا للهجمات إذا افتقرت إلى التحديثات الأمنية والحماية الكافية.
نماذج الذكاء الاصطناعي الصغيرة تقترب من تنفيذ الاستنساخ
ركزت تجارب «أنثروبيك» على اختبار قدرة نماذج الذكاء الاصطناعي على تنفيذ سلسلة من المهام اللازمة للانتشار الذاتي، تبدأ بالبحث عن أجهزة ضعيفة الحماية، ثم استغلال الثغرات المتاحة لنقل نسخ من النموذج إليها، وصولًا إلى مواصلة الانتشار دون تدخل بشري مباشر.
وأظهرت النتائج، بحسب الشركة، أن النماذج الصغيرة استطاعت تنفيذ مراحل مختلفة من هذه العملية، رغم عدم نجاحها بصورة منتظمة في إكمال التسلسل بأكمله من البداية إلى النهاية.
وفي اختبارات مبسطة أُزيلت منها بعض إجراءات الحماية الأمنية، أفادت الشركة بأن نموذج «جي إل إم 5.2» ونماذج أقوى منه استطاعت تنفيذ العملية كاملة. وتحتاج هذه النتيجة إلى قراءتها في سياق الاختبارات التي أُجريت، إذ إن النجاح في بيئة مبسطة لا يعني بالضرورة القدرة على تكرار العملية نفسها على نطاق واسع في ظروف واقعية.
وتشير هذه التجارب إلى أن تطور قدرات النماذج الصغيرة قد يوسع نطاق التهديدات المحتملة، بحيث لا تقتصر على الخوادم والبنية التحتية الحاسوبية المتقدمة، بل تشمل أيضًا الأجهزة التجارية المتصلة بالشبكة.
الأجهزة المنزلية الذكية تثير مخاوف أمنية
تكتسب الأجهزة المتصلة بالإنترنت أهمية خاصة في هذا السياق، نظرًا إلى تنوعها وانتشارها، فضلًا عن تفاوت مستويات الحماية والتحديثات الأمنية التي توفرها الشركات المصنعة.
وتحذر «أنثروبيك» من أن انتشار نظام قادر على نسخ نفسه بين أجهزة متعددة قد يجعل احتواءه أكثر صعوبة، خصوصًا إذا لم يعتمد على خادم مركزي واحد يمكن تعطيله لإيقاف جميع نسخه.
كما أن الأنظمة المدعومة بالذكاء الاصطناعي قد تتمتع بقدرة أكبر على التعامل مع أجهزة وبيئات غير مألوفة مقارنة ببعض البرمجيات الخبيثة التقليدية، وهو ما قد يوسع نطاق الأجهزة المستهدفة، بما فيها المعالجات والموارد الحاسوبية المستخدمة في مراكز البيانات.
ومع ذلك، فإن هذه السيناريوهات تظل مرتبطة بقدرة الأنظمة على الوصول إلى الأجهزة واستغلال ثغراتها الأمنية، ولا تعني أن جميع الأجهزة المتصلة بالإنترنت معرضة تلقائيًا للاستنساخ الذاتي أو أن الانتشار المستقل أصبح أمرًا مؤكدًا.
هل يصبح الاستنساخ الذاتي ممكنًا قبل نهاية 2026؟
حذرت «أنثروبيك» من أنه إذا استمرت قدرات النماذج الصغيرة في التحسن بالمعدل التاريخي نفسه، فقد تتمكن من تنفيذ عمليات الاستنساخ الذاتي بصورة مستقلة بحلول نهاية عام 2026.
وأشارت الشركة أيضًا إلى أن النماذج ذات الأوزان المتاحة، وهي القيم الرقمية التي تحدد سلوك النموذج وطريقة معالجته للمعلومات، قد تصل إلى قدرات مماثلة بعد ذلك بوقت قصير.
وتظل هذه التقديرات توقعات مبنية على افتراض استمرار التطور التقني بالمعدل نفسه، وليست موعدًا مؤكدًا لظهور أنظمة قادرة على الانتشار الذاتي. كما أن القدرة على تنفيذ خطوات منفصلة في تجربة بحثية تختلف عن القدرة على إتمام العملية باستقلالية وموثوقية في بيئات حقيقية.
تعزيز الأمن السيبراني لمواجهة مخاطر الذكاء الاصطناعي
ترى «أنثروبيك» أن تحصين الأجهزة والأنظمة المتصلة بالإنترنت يمثل أولوية للحد من احتمالات انتشار وكلاء الذكاء الاصطناعي بصورة مستقلة.
ويشمل ذلك تحديث البرمجيات وأنظمة التشغيل باستمرار، وإغلاق الثغرات الأمنية المعروفة، وتقليل صلاحيات الوصول غير الضرورية، وتأمين واجهات الاتصال بالشبكات، إلى جانب مراقبة الأنشطة غير المعتادة التي قد تشير إلى محاولات اختراق أو انتشار بين الأجهزة.
وتسلط هذه التحذيرات الضوء على تحدٍ متزايد في مجال الأمن السيبراني مع تطور الذكاء الاصطناعي، إذ قد تصبح الأجهزة الأقل حماية جزءًا من مسارات الهجوم المحتملة، حتى إذا لم تكن مصممة أصلًا لتشغيل نماذج متقدمة.
وتبقى قدرة هذه الأنظمة على الانتشار الذاتي الفعلي، ومدى سرعة تطورها، من المسائل التي تتطلب مزيدًا من الاختبارات والأدلة العملية، مع أهمية التعامل بجدية مع الثغرات الأمنية التي قد تسمح بتحويل الأجهزة المتصلة بالإنترنت إلى نقاط انطلاق للهجمات.
