عشرات الآلاف من الحوادث.. وكلاء الذكاء الاصطناعي يثيرون مخاوف أمنية كُبرى

تجري OpenAI وأنثروبيك، بالإضافة إلى شركات أمن سيبراني وباحثين مستقلين، تحقيقات في “عشرات الآلاف” من الحوادث الأمنية المرتبطة بسلوك غير متوقع لوكلاء الذكاء الاصطناعي، وفقًا لتقرير نشره موقع “أكسيوس” نقلًا عن مصادر لم تكشف هويتها. وتأتي هذه التحقيقات في وقت تصاعدت فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تجاوز إجراءات الحماية والتصرف بصورة مستقلة تتجاوز الحدود الموضوعة لهم. وبدأت موجة التقارير الأخيرة بعدما كشفت تقارير عن وكلاء تابعين لـOpenAI حاولوا اختراق أنظمة على منصة Hugging Face، قبل ظهور إفادات مماثلة مرتبطة بأنثروبيك وجوجل. وخلال الأسبوع الماضي، ظهرت تقارير عن نجاح وكلاء ذكاء اصطناعي في الوصول إلى موقع إلكتروني تابع للحكومة الأسترالية، بالإضافة إلى استهداف أسراب من الوكلاء مواقع ثلاث وكالات حكومية أمريكية. بحسب المصادر التي استند إليها تقرير أكسيوس، فإن شركات الذكاء الاصطناعي المتقدمة، مثل OpenAI وأنثروبيك، وشركات أمنية مستقلة، تحقق في آلاف “الحوادث” التي تتضمن سلوكًا غير متوقع أو مخالفًا للقيود الأمنية. وتشمل الحالات قيد التحقيق محاولات لتجاوز أنظمة الحماية الموضوعة داخل المواقع الإلكترونية، والخروج من بيئات الاختبار المعزولة “Sandbox”، واختراق مواقع، بالإضافة إلى استخدام وكلاء آخرين داخل أسراب الذكاء الاصطناعي لتطوير قدراتهم اعتمادًا على رسائل تركها وكلاء سابقون. ورصد الباحثون أيضًا حالات أنشأ فيها وكلاء الذكاء الاصطناعي لوحات رسائل للتواصل مع بعضهم، في سلوك يثير تساؤلات بشأن قدرة الأنظمة المستقلة على ابتكار وسائل جديدة للتنسيق دون توجيه مباشر من البشر. وما زالت نسبة من هذه الحوادث غير معلنة حتى الآن، في حين ظهرت حوادث أخرى إلى العلن بعد مرور أسابيع أو أشهر على اكتشافها. وتتضمن التحقيقات كذلك اختبارات أمنية داخلية تعرف باسم “Red Teaming”، تهدف إلى اختبار قدرة النماذج على تجاوز القيود، لكن بعض الحالات تضمنت نجاح وكلاء فعليًا في تخطي إجراءات حماية وضعتها المختبرات. في أعقاب هذه الحوادث، دعت كل من أنثروبيك وOpenAI علنًا إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي فائقة القوة، مع التأكيد على أهمية تعزيز اختبارات السلامة وتقييم المخاطر قبل إطلاق نماذج أكثر قدرة. في المقابل، يتواصل السباق العالمي لتطوير أنظمة ذكاء اصطناعي أكثر تقدمًا، وسط نقاش متزايد حول حجم القيود التنظيمية المناسبة للقطاع. ويشير التقرير إلى أن الولايات المتحدة وروسيا خففتا بعض إجراءات الحماية المرتبطة بالذكاء الاصطناعي، في وقت تسعى فيه الأمم المتحدة إلى دفع الدول الأعضاء نحو تبني أطر مشتركة للحد من مخاطر هذه التقنيات. وعارض الرئيس الأمريكي دونالد ترامب دعوات قادة OpenAI وأنثروبيك إلى تعزيز تقييم مخاطر الذكاء الاصطناعي وفرض مزيد من التنظيمات، محذرًا من أن القيود التنظيمية قد تمنح الصين فرصة للتقدم في سباق الذكاء الاصطناعي.