أصبحت نماذج اللغة الكبيرة التفاعلية (LLMs) جزءًا لا يتجزأ من حياتنا الرقمية اليومية، مما يوفر فرصًا غير مسبوقة للتفاعل الذكي والإبداع المشترك. ومع ذلك، فإن استخدامها المتزايد خلق بيئة جديدة للضرر عبر الإنترنت، بما في ذلك في سياق التطرف. وما يميز هذه الأنظمة أن التفاعل معها يتم بشكل شخصي ومستدام، مما يفتح الباب أمام المحادثات الخاصة التي قد تؤدي إلى تشكيل الهوية والقناعات والسلوكيات للأفراد.

تستند هذه الدراسة الصادرة عن معهد الحوار الاستراتيجي (ISD) إلى أكثر من عقد من التحليل حول التطرف عبر الإنترنت، وتهدف إلى فهم كيف يمكن لروبوتات الدردشة بالذكاء الاصطناعي، سواء النماذج العامة أو نماذج المرافقة، أن تؤثر على مخاطر التطرف في الأماكن “المغلقة”. تعتمد الدراسة نهجًا مبتكرًا لتقييم المخاطر ضمن ثلاثة مجالات رئيسية مرتبطة بالتطرف: معاداة السامية، الكراهية ضد المرأة، وكراهية المهاجرين.

تشمل الدراسة أيضًا تحليلًا لثلاث مراحل متميزة للتطرف: التمهيد، التعزيز، والتصعيد السلوكي. التحقيق في كيفية استجابة الأنظمة عندما يطرح المستخدمون مواضيع متطرفة أو مؤامراتية يكشف عن قدرة هذه الأنظمة على بدء أو قطع أو تعزيز أو تكثيف المسارات الضارة خلال المحادثات.

كما تحدد الدراسة أن بيئة الذكاء الاصطناعي الحوارية تمثل نوعًا جديدًا وفريدًا من مخاطر التطرف مقارنة بمنصات وسائل التواصل الاجتماعي أو المجتمعات المتطرفة عبر الإنترنت. وبالتالي، تقدم توصيات لتصميم أنظمة الأمان وتصميم حوكمة داخل شركات الذكاء الاصطناعي، إلى جانب تطوير استجابات تنظيمية تتناسب مع المخاطر الفريدة التي تشكلها هذه النماذج.

تأتي هذه الدراسة بدعم من معهد أمن الذكاء الاصطناعي (AISI) لتوفير الإرشادات العملية للمطورين وصناع القرار في هذا المجال الحساس. إنها نداء عالمي للاستجابة العاجلة للتعامل مع المخاطر المتزايدة التي تحملها أنظمة الذكاء الاصطناعي التفاعلية على النسيج الاجتماعي والأمني.