كبير علماء أوبن إيه آي يحذر: الذكاء الاصطناعي قد يتجاوز قدرة البشر على السيطرة
حذّر ياكوب باتشوكي، كبير العلماء في شركة أوبن إيه آي، من التسارع الكبير في تطور الذكاء الاصطناعي، مشيرًا إلى أن القدرات المتزايدة للنماذج قد تجعل من الصعب على البشر فهمها والسيطرة عليها، فيما توقع أن تتجه مختبرات الذكاء الاصطناعي إلى إبطاء عمليات التطوير طوعيًا لدواعٍ تتعلق بالسلامة.
وأوضح باتشوكي، في منشور عبر الإنترنت، أن نماذج الذكاء الاصطناعي حققت خلال فترة زمنية قصيرة تطورًا لافتًا، بعدما أصبحت قادرة على تشغيل أجهزة الكمبيوتر، والتعاون مع البشر وأنظمة ذكاء اصطناعي أخرى، إلى جانب تنفيذ مشروعات بحثية بدرجات متزايدة من الاستقلالية.
كبير علماء أوبن إيه آي: وقت يستدعي أقصى درجات الحذر
وأشار كبير علماء أوبن إيه آي إلى أن التطور لن يتوقف عند القدرات الحالية، متوقعًا أن تتمكن أنظمة الذكاء الاصطناعي خلال فترة ليست طويلة من تحسين نفسها دون تدخل بشري مباشر، في عملية تعرف باسم التحسين الذاتي التكراري.
واعتبر باتشوكي أن هذا السيناريو يستدعي أعلى مستويات الحذر، معربًا عن قلقه من عدم استعداد البشر بشكل كافٍ للتعامل مع النتائج المحتملة لاستمرار الارتفاع السريع في مستوى ذكاء الآلات.
ويرى كبير علماء أوبن إيه آي أن المطورين أمام مسارين رئيسيين، أولهما العمل على توجيه أنظمة الذكاء الاصطناعي بصورة أكثر إحكامًا بما يضمن توافقها مع المصالح البشرية، والثاني هو إبطاء عمليات التطوير عندما تفرض اعتبارات السلامة ذلك.
كما توقع أن تصبح عمليات الإبطاء الطوعي لتطوير الذكاء الاصطناعي أكثر انتشارًا، إلى حين التوصل إلى معايير سلامة مشتركة بين الشركات والمختبرات العاملة في هذا المجال.
سباق عالمي نحو نماذج أكثر قدرة
تأتي تحذيرات باتشوكي في وقت يشهد فيه قطاع التكنولوجيا سباقًا متسارعًا بين الشركات لتطوير نماذج أكثر قوة وقدرة على تنفيذ المهام المعقدة باستقلالية أكبر.
ولم تقتصر المخاوف على أوبن إيه آي، إذ سبق أن حذّر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، من التأثير المحتمل للذكاء الاصطناعي على سوق العمل، متوقعًا أن تتمكن التكنولوجيا من شغل نسبة كبيرة من الوظائف المخصصة للمبتدئين.
كما تحدث سام ألتمان، الرئيس التنفيذي لأوبن إيه آي، في وقت سابق عن التحولات التي يمكن أن يحدثها الذكاء الاصطناعي، مشيرًا في مقابلة حديثة إلى أن القطاع لم ينجح حتى الآن في توضيح جميع الفوائد المحتملة لهذه التكنولوجيا بالنسبة للبشرية.
وفي المقابل، تواصل الشركات الاستثمار بقوة في تطوير نماذج جديدة ذات قدرات متقدمة، بما يعكس حجم المنافسة في سوق الذكاء الاصطناعي.
الذكاء الاصطناعي يقترب من مرحلة التحسين الذاتي
تزامنت الزيادة الكبيرة في قدرات نماذج الذكاء الاصطناعي مع تقدم في مجالات متعددة، من بينها الأمن السيبراني والاكتشافات العلمية والتعامل مع مسائل رياضية معقدة.
وأعلنت أوبن إيه آي في وقت سابق عن قدرات متقدمة لنماذجها في مجال الأمن السيبراني، بينما كشفت عن أن بعض أنظمة الذكاء الاصطناعي تمكنت من التنسيق فيما بينها عبر منتديات للمراسلة دون اكتشاف ذلك في البداية.
وتشير هذه التطورات إلى أن الذكاء الاصطناعي لم يعد يقتصر على تقديم إجابات للمستخدمين، وإنما أصبح قادرًا بصورة متزايدة على تنفيذ سلسلة من المهام، واستخدام أدوات رقمية، والعمل مع أنظمة أخرى لتحقيق أهداف محددة.
وتزداد أهمية هذه التطورات مع اقتراب الشركات من تطوير أنظمة قادرة على تحسين أدائها بصورة متكررة، وهو السيناريو الذي يثير مخاوف خاصة لدى الباحثين في مجال سلامة الذكاء الاصطناعي.
استثمارات ضخمة في الذكاء الاصطناعي ذاتي التطوير
في الوقت الذي يحذّر فيه علماء من مخاطر التحسين الذاتي للذكاء الاصطناعي، يتجه مستثمرون وشركات ناشئة إلى ضخ أموال ضخمة في هذا المجال، باعتباره أحد المسارات المحتملة للوصول إلى أنظمة أكثر ذكاءً وقدرة.
وحصلت شركة إنهيرنت، التي أسسها باحثون سابقون في ديب مايند، على تمويل بقيمة 50 مليون دولار خلال العام الجاري، مع تركيزها على أبحاث مرتبطة بتطوير أنظمة ذكاء اصطناعي أكثر استقلالية.
كما حصل مختبر ريكيرسيف سوبرإنتليجنس، المرتبط بالعالم ريتشارد سوشر، على تمويل بلغ نحو 650 مليون دولار لمواصلة أبحاثه في مجال الذكاء الاصطناعي المتقدم.
وتعكس هذه الاستثمارات مفارقة واضحة في صناعة الذكاء الاصطناعي؛ فبينما يحذّر كبار العلماء من سرعة التطور وصعوبة السيطرة على الأنظمة الأكثر ذكاءً، تتسابق الشركات والمستثمرون في الوقت نفسه نحو تطوير تقنيات قادرة على تحسين نفسها والوصول إلى مستويات أعلى من الاستقلالية.
وفي هذا السياق، أعلنت أوبن إيه آي أنها تستهدف بناء باحث آلي حقيقي في مجال الذكاء الاصطناعي خلال أقل من عامين، ما يعكس الاتجاه المتزايد نحو منح الأنظمة الذكية دورًا أكبر في عمليات البحث والتطوير نفسها.
وتضع هذه التطورات مسألة السلامة في قلب السباق العالمي للذكاء الاصطناعي، خصوصًا مع انتقال التكنولوجيا من مرحلة تنفيذ الأوامر البشرية إلى أنظمة يمكنها استخدام الأدوات، وإجراء الأبحاث، والتعاون مع أنظمة أخرى، وربما تحسين قدراتها مستقبلًا بدرجات أكبر من الاستقلالية.
