وبحسب تقرير أعدته مجموعة الأبحاث Crimson Flare، فإن بعض نماذج الذكاء الاصطناعي المتاحة تجاريا يمكن تعديلها لإزالة أنظمة الحماية المدمجة فيها، بما يسمح لها بالإجابة عن أسئلة ترفض النماذج الأصلية التعامل معها.
ويحذر باحثون أمنيون من أن هذه التطورات قد تخفض الحواجز التقنية أمام أشخاص لا يمتلكون خبرة متخصصة، بعدما كانت المعرفة اللازمة للتعامل مع مواد شديدة الخطورة محصورة إلى حد كبير بين العلماء والمتخصصين.
ويحذر التقرير من أن نماذج اللغة الكبيرة مفتوحة المصدر، والقوية وغير الخاضعة للرقابة، قد تمثل تهديدا متزايدا للأمن القومي، خصوصا عندما يمكن تشغيلها محليا دون الحاجة إلى الاتصال بخوادم الشركات المطورة.
ويرى التقرير أن هذا التطور يمثل تغيرا مهما مقارنة بالسنوات الماضية، عندما كانت القدرة الحاسوبية اللازمة لتشغيل نماذج الذكاء الاصطناعي المتقدمة محليا محدودة ومتاحة لعدد قليل من المستخدمين.
ومع ذلك، يؤكد التقرير أن خطر تنفيذ هجوم إرهابي باستخدام أسلحة كيميائية أو بيولوجية لا يزال منخفضا، بسبب العوائق التقنية والعملية الكبيرة المرتبطة بإنتاج هذه الأسلحة والتعامل معها.
لكن الباحثين يحذرون من أن تطور الذكاء الاصطناعي قد يغير طبيعة هذه المخاطر مستقبلا، عبر تسهيل الوصول إلى المعرفة التي كانت تتطلب في السابق تدريبا علميا متخصصا، وهو ما يفرض تحديات جديدة أمام الحكومات وشركات التكنولوجيا لمنع إساءة استخدام هذه النماذج.