"بحث عن أكواد ليزيد قدراته".. خبير يكشف كيف خدع الذكاء الاصطناعي المطورين

كشف الدكتور أنس النجداوي، أستاذ الأعمال الرقمية ومدير جامعة أبوظبي فرع دبي، عن تفاصيل صادمة حول قدرات الذكاء الاصطناعي الوكيل (Agentic AI).

وأوضح النجداوي، خلال مداخلته مع الإعلامي عمرو أديب ببرنامج "الحكاية"، أن شركة OpenAI كانت تجري تجارب على نظام وكيل في بيئة معزولة، دون اتصال بالإنترنت، لاختبار قدراته في الأمن السيبراني، لكن المفاجأة كانت أن النظام اكتشف ثغرة أمنية لم يكن المطورون يعرفونها.

وأضاف أن الذكاء الاصطناعي استغل هذه الثغرة وتمكن من الهروب من البيئة المحدودة، والاتصال بالإنترنت، ومحاولة رفع صلاحياته للوصول إلى معلومات أكبر.

وتابع أنه اخترق منصة "Hugging Face" التي تضم مكتبة ضخمة من الأكواد الجاهزة، حيث حاول تطوير نفسه لتحقيق هدفه المحدد، سواء بطرق قانونية أو غير قانونية.

وأشار النجداوي إلى أن المطورين لم يكتشفوا الاختراق إلا بعد أن رصدت المنصات تحركات غير طبيعية، وتبين أن المخترق هو نظام وكيل تابع لـOpenAI.

وشدد على أن هذه الحادثة تكشف خطورة الذكاء الاصطناعي عندما يصبح قادرًا على اتخاذ قرارات مستقلة لتحقيق أهدافه، بأي طريقة كانت.