OpenAI تحذر.. كيف تهدد هجمات الحقن الفوري مستخدمي ChatGPT؟

كشفت شركة OpenAI أن الهجمات المعروفة باسم "الحقن الفوري" تمثل خطرا مستمرا على متصفحها Atlas AI، حتى مع الجهود المستمرة لتحصينه ضد الاختراقات الإلكترونية.

ويشير هذا النوع من الهجمات إلى محاولات التلاعب بوكلاء الذكاء الاصطناعي لتنفيذ تعليمات خبيثة غالبا ما تخفى في صفحات الويب أو رسائل البريد الإلكتروني، مما يثير تساؤلات حول أمان وكلاء الذكاء الاصطناعي على الإنترنت المفتوح.

وبحسب موقع TechCrunch، أوضحت OpenAI في منشور على مدونتها أن "حل مشكلة الحقن الفوري بشكل كامل أمر غير محتمل، تماما مثل الاحتيال والهندسة الاجتماعية على الإنترنت"، مشيرة إلى أن وضع الوكيل في ChatGPT Atlas "يزيد من نطاق التهديدات الأمنية".

كيف تعمل الهجمات؟

أطلقت OpenAI متصفح ChatGPT Atlas في أكتوبر، وسرعان ما أظهر باحثو الأمن أن كلمات قليلة في مستندات جوجل يمكن أن تغير سلوك المتصفح الأساسي.

ويعتبر الحقن الفوري تحديا منهجيا لجميع المتصفحات المدعومة بالذكاء الاصطناعي، بما في ذلك متصفح Comet من Perplexity، حسب ما نشرته Brave.

كما حذر المركز الوطني للأمن السيبراني في المملكة المتحدة من أن هجمات الحقن الفوري ضد تطبيقات الذكاء الاصطناعي التوليدي "قد لا تُقضى عليها تماما"، مؤكدا على ضرورة تقليل المخاطر بدلا من محاولة إيقافها كليا.

نهج OpenAI لمواجهة الهجمات

للتعامل مع هذا التحدي، تعتمد OpenAI على روبوت مُدرّب باستخدام التعلم المعزز ليقوم بدور المخترق، يختبر نقاط ضعف وكيل الذكاء الاصطناعي في بيئة محاكاة قبل استغلالها في الواقع.

ويقوم الروبوت بتحليل ردود الوكيل على الهجمات، ويعدل الهجوم ويحاول مجددا، مما يسمح باكتشاف الثغرات أسرع من المهاجمين الحقيقيين.

وكتبت OpenAI: "يستطيع المهاجم المدرب باستخدام التعلم المعزز توجيه وكيل لتنفيذ عمليات ضارة معقدة وطويلة الأمد تتكشف على مدى عشرات أو مئات الخطوات، ونلاحظ استراتيجيات هجوم جديدة لم تظهر في فرقنا البشرية أو التقارير الخارجية."

وتوصي الشركة المستخدمين إعطاء تعليمات محددة للوكلاء بدلا من منحهم صلاحية الوصول الكامل إلى البريد أو المعلومات الحساسة أو استخدام تأكيدات المستخدم قبل إرسال الرسائل أو إجراء المدفوعات.