من المسئول عن الضرر الناتج عن AI Chatbot Persona؟

تلقيت خلال الفترة الماضية كثيرًا من الرسائل على تطبيق الواتس آب من حسابات مجهولة لم يكن هناك سابقة تواصل بيننا، والقاسم المشترك بينها هو أنها عبارة عن شخصيات روبوت دردشة معتمدة على الذكاء الاصطناعي AI Chatbot Persona تحاول أن تدير معك الحوار بشكل طبيعي وإنساني حتى تحافظ على استمرار المحادثة أطول فترة ممكنة حتى تتمكن من تجميع بيانات عن أسلوبك في الحوار والنقاش لتستخدمه عندما تتواصل مع مستخدم آخر.

ولذا كان ملاحظًا على أسلوب المحادثة المعتمد من هذه الروبوتات الطبيعة الدائرية للحوار معها، على نحو يحاكي الردود التي يمكن أن تتلقاها من خلال استخدامك منصة شات دي بي تي.

أحد تلك الحسابات ادعى أنه أستاذ جامعي، والآخر أنه يعمل في شركة استشارات، وثالث أنه مسئول حكومي في دولة ما، والقاسم المشترك بينها هو استخدامها ذات المعاني بجمل تتم صياغتها بشكل مختلف ولكن متشابه، وذلك فضلًا عن سطحية الإجابات التي كانت ترسلها تلك الشخصيات على الأسئلة التي كنت أوجهها له من قبيل عرفني بنفسك؟ ما هي طبيعة عملك؟ بما يوحي أنهم في بداية حياتهم العملية ولم يتم تدريبهم على نماذج لغوية معقدة.

المشكلة تكمن في أن كثيرًا من تطبيقات التواصل الاجتماعي المجانية التي أصبحت جزءًا من حياة الناس اليومية مثل الواتس آب أصبحت تتيح خدمة إنشاء AI chatbot، أو ربط AI chatbot مصنع من خلال برنامج آخر بصفحة المحادثات الخاصة بالواتس آب، ويتم تدريبه على التواصل بأسلوب معين يحاكي أسلوب من صنعه ومن خلال شاشة تواصل خاصة على الواتس آب بما يوحي بخصوصية المحادثة وطابعها الإنساني وما يرتبط بذلك من تولد الثقة بينه ومن يتم التواصل معه.

اللافت للانتباه أن بعض هذه الشخصيات غير الحقيقية أصبحت تدعي ممارستها لمهن قد تؤثر على حياة الناس مثل الطب النفسي، ومن ذلك مثلًا المعالجين النفسيين المخلَّقين بالذكاء الاصطناعي AI therapists التي تتزايد جاذبيتها لعدد كبير من مستخدمي الواتس آب وإنستجرام الذين يبحثون مع نهاية يوم شاق عن شخصية يتشاركون معها همومهم وشواغلهم.

ونشر مؤسس موقع Psychology.com أنه قام بتحليل عدد من هؤلاء المعالجين النفسيين المخلَّقين بالذكاء الاصطناعي على إنستجرام ووجد أن خطورتها ترتبط بالثقة المتضمنة في المحادثات معها، فعندما طلب رقم رخصة مزاولة المهنة تم إرسال رقم رخصة يبدو حقيقيًا ولكنه في حقيقة الأمر رقم مزيف.

والخطير في هذا النوع من روبوتات الدردشة AI chatbots أنها تقوم بتوليد محادثات وإجابات على الأسئلة بشكل ذاتي وأوتوماتيكي وذلك بهدف الحفاظ على استمرار المحادثة بينها والمستخدم وتعزيز ثقة المستخدم في الشخصية التي يدعيها AI chatbot، دون حاجة أن يتحكم فيها عنصر بشري عند الإجابة على كل سؤال، وذلك على خلاف روبوتات الدردشة التي تكون تابعة لشركة معينة حيث تحدد الشركة الإجابات التي توفرها.

ونظرًا للمخاطر الناتجة عن تنامي استخدام هذا النوع من روبوتات العلاج النفسي المخلَّقين بالذكاء الاصطناعي، حذرت الجمعية الأمريكية لعلم النفس من روبوتات الدردشة التي تقدم نفسها على أنها طبيب نفسي لما قد ينتج عن الثقة فيها من مخاطر تلحق المستخدمين الضعفاء خاصة الصغار والقاصرين والذين لا يستطيعون التمييز بين شخصية حقيقية وشخصية تدعي كونها شخصية أخرى.

هذا التطور يضعنا أمام سؤال مهم يتعلق بكيف تتم مساءلة هذه الشخصيات المصنعة بالذكاء الاصطناعي في حال تسببت في إلحاق الضرر بالمستخدم؟

وأهمية هذا السؤال ناتجة عن قيام عدد من مستخدميها بإلحاق الضرر بأنفسهم بسبب الإجابات التي توفرها لها والذي وصل في بعض الحالات إلى الانتحار الذي نتجت عنه الوفاة. ففي أغسطس 2025 فتح المدعي العام لولاية تكساس تحقيقًا مع شركتي Meta AI studio وشركة Chracter.ai للاشتباه في قيامهما بممارسات خداع تجاري، وورد في قرار فتح التحقيق أنه "ربما هاتان الشركتان تسوقان نفسيهما بشكل مضلل على أنهما منصات للصحة العقلية وتضليل الأطفال من خلال إيهامهم بأنهم يتلقون رعاية طبية مشروعة".

وبشكل عام فإن الملاحظ أن النقاش الدائر حول القضايا المنظورة في القضاء الأمريكي وفي بعض الدول الأوروبية حول تسبب شخصيات AI Chatbot Persona في إلحاق ضرر بالمستخدم أصبح يتجه إلى التعامل مع هذه الروبوتات على أنها سلعة، وبالتالي تتحمل كافة الأطراف المسئولة عن تصنيعها وإنتاجها وتوصيلها للمستخدم المسئولية عن الأضرار الناتجة عنها.

فعلى سبيل المثال، أعلنت لجنة القانون في بريطانيا في 8 أكتوبر 2026 عن تقديمها مقترحًا بتعديل قانون حماية المستهلك لعام 1987 بهدف مواءمة المسئولية عن المنتجات مع العصر الرقمي بما في ذلك الهواتف الذكية والتطبيقات ووسائل التواصل الاجتماعي والذكاء الاصطناعي، وتوسيع نطاق المسؤولية المطلقة لتشمل الأضرار الناجمة عن البرمجيات والبيانات والأنظمة القائمة على الذكاء الاصطناعي.

وتضمنت التعديلات أيضًا فرض المسؤولية على طيف واسع من الأطراف الفاعلة في الاقتصاد الرقمي لتشمل مُطوِّر المنتج ومطوري البرمجيات، أي جهة تُجري تعديلات جوهرية على المُنتِج؛ الممثلون المعتمدون في المملكة المتحدة ومقدمو خدمات العمليات المتممة fulfillment service providers؛ والمشاركون الرئيسيون بما في ذلك الأسواق الإلكترونية أو ممثلوهم المعتمدون في المملكة المتحدة إن وُجدوا.

وفي ضوء هذه التطورات، من المهم أن تجد هذه الاتجاهات الخاصة بالمسئولية عن الضرر الناتج عن استخدام AI Chatbot Persona صدى لها في النقاش العام في مصر في ظل التوجه الحالي بتوسيع دمج تطبيقات الذكاء الاصطناعي في مختلف القطاعات.