حذرت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، التابعة للأمم المتحدة، من تزايد المخاطر المرتبطة بتطور أنظمة الذكاء الاصطناعي، خصوصاً مع انتقالها من نماذج تقتصر على تقديم الإجابات إلى « وكلاء » قادرين على تنفيذ مهام واتخاذ خطوات بصورة أكثر استقلالية.

وأصدرت اللجنة، التي تضم 40 خبيرا مستقلا من مختلف أنحاء العالم، أول تقرير لها، محذرة من احتمال تراجع قدرة البشر على التحكم في الأنظمة الأكثر تقدماً. ويربط التقرير خطر فقدان السيطرة بثلاثة عوامل: وجود أهداف غير منسجمة مع رغبات البشر، وقدرة النظام على تنفيذ تلك الأهداف، ووجود بيئة تسمح له بذلك.

واستند التقرير إلى حوادث واقعية، بينها اختراق وكلاء للذكاء الاصطناعي أنظمة شركة هاغينغ فايس، معتبرا أن هذه الوقائع تكشف عن فجوة بين سرعة تطور القدرات التقنية ومستوى الضمانات الأمنية المتاحة.

كما حذر الخبراء من أن بعض أساليب التدريب قد تدفع الأنظمة إلى تطوير سلوكيات غير متوقعة، بما في ذلك تجاوز تعليمات السلامة أو إخفاء بعض أفعالها.

وشددت اللجنة على أن تقريرها لا يتنبأ بوقوع فقدان واسع للسيطرة، بل يدعو إلى تطوير آليات للرقابة والتدقيق والأمن تتناسب مع القدرات المتزايدة للذكاء الاصطناعي.