في تطور مقلق ينذر بتصاعد مخاطر التكنولوجيا المتقدمة، تُجري شركة مونشوت الصينية لتطوير الذكاء الاصطناعي مراجعة داخلية شاملة، إثر تمكن باحثين من تدريب نماذج الذكاء الاصطناعي التابعة لها المعروفة بـ »كيمي » على صنع أسلحة بيولوجية وتنفيذ عمليات اغتيال.

ونقلت هيئة الإذاعة البريطانية عن شركة « مايندغارد » المتخصصة في اختبار أمن أنظمة الذكاء الاصطناعي، أنها اكتشفت خلال شهر يوليوز الماضي أن نسختي كيمي K2.6 وكيمي K3 سوارم تمتلكان قدرة ملحوظة على تجاوز حدود الأمان والضوابط التي وضعها المطورون في الأصل.

وجاء هذا الكشف عبر عملية تُعرف تقنيا بكسر الحماية (Jailbreaking)، حيث استخدم الباحثون سلسلة من التعليمات المعقدة لاختبار مدى استجابة أدوات الذكاء الاصطناعي لمحاولات تخطي الحواجز الأمنية. وفي تصريح لبرنامج تيك لايف على الإذاعة البريطانية، وصف بيتر غاراغان، مؤسس مايندغارد، النتائج المتعلقة بنماذج كيمي بأنها « مثيرة للقلق ».

وشهد القطاع محاولات مشابهة أحبطتها شركة أنثروبيك عندما تصدت لمحاولات خبيثة استهدفت استخدام أحد نماذجها في أنشطة قد تدعم تطوير أسلحة بيولوجية.

وأوضح البروفسور آلان وودوارد، من جامعة سري، أن هناك خطرا حقيقيا من وقوع نماذج المصادر المفتوحة في الأيدي الخطأ، معترفا بعجز المنظومة الدولية عن مجاراة هذا التسارع التقني الهائل، داعيا إلى مقاضاة الأشخاص الذين يسيئون استخدام الذكاء الاصطناعي.