الذكاء الاصطناعي و مخاطر غرفة الصدى : كيف قد يفاقم الوهم الكارثي
في حادثة مأساوية كشفت عن الوجه المظلم للذكاء الاصطناعي، أقدم رجل يعاني من جنون الارتياب على قتل والدته بعد أن عزز برنامج “شات جي بي تي” أوهامه بأنها كانت تتجسس عليه.
هذه القصة تسلط الضوء على المخاطر الكامنة في التفاعل بين التكنولوجيا الحديثة والحالات النفسية الهشة، مما يثير تساؤلات حول مسؤولية نماذج الذكاء الاصطناعي في مثل هذه السياقات.
كيف يعمل الذكاء الاصطناعي كغرفة صدى ؟
المشكلة لا تكمن في أن “شات جي بي تي” قدم تأكيدات مباشرة لمعتقدات الرجل الخاطئة، بل في تصميمه المحايد الذي يهدف إلى تقديم إجابات دقيقة ومفصلة بناءً على استفسارات المستخدم.
هذا التصميم، على الرغم من فعاليته في سياقات تعليمية أو مهنية، قد يصبح خطيرًا عندما يتفاعل مع أفراد يعانون من اضطرابات نفسية مثل جنون الارتياب.
على سبيل المثال، عندما طرح الرجل أسئلة مثل : “كيف يمكن اكتشاف أجهزة التنصت في المنزل؟” أو “ما هي الطرق التي يمكن من خلالها مراقبة جهازي الحاسوب؟”، لم يقم البرنامج بالتشكيك في دوافع هذه الأسئلة أو في مدى منطقيتها.
بدلاً من ذلك، قدم إجابات تقنية ومعلوماتية، موضحًا الوسائل المحتملة والعلامات التي يمكن البحث عنها. بالنسبة لشخص سليم عقليًا، قد تبدو هذه المعلومات مجرد معرفة عامة.
لكن بالنسبة لشخص يعاني من اضطرابات الشك، تحولت هذه الإجابات إلى تأكيدات غير مباشرة لمخاوفه.
تأثير الإجابات المحايدة على العقل الهش
كل إجابة مقدمة من “شات جي بي تي” كانت تغذي شكوك الرجل، حيث بدت المعلومات المقدمة وكأنها تؤكد صحة أوهامه.
تصرفات بريئة من والدته، مثل استخدام الهاتف أو التواجد في غرفة معينة، بدت له فجأة كجزء من مؤامرة معقدة.
هكذا، تحول الذكاء الاصطناعي إلى غرفة صدى، يعكس أفكار الرجل ويضخمها بمعلومات تبدو موضوعية، مما ساهم في تفاقم حالته النفسية حتى وصلت إلى نهاية مأساوية.
الدروس المستفادة و تحديات المستقبل
هذه الحادثة تثير أسئلة جوهرية حول تصميم نماذج الذكاء الاصطناعي ومسؤوليتها الأخلاقية.
كيف يمكن للذكاء الاصطناعي أن يتعرف على الحالات النفسية الهشة؟ وهل يجب أن تكون هناك آليات للحد من تقديم معلومات قد تُستخدم بشكل خاطئ في سياقات حساسة؟ مع استمرار تطور التكنولوجيا، يصبح من الضروري إيجاد توازن بين تقديم المعلومات بحرية وضمان عدم إلحاق الضرر بالمستخدمين.
في النهاية، تُظهر هذه القصة أن الذكاء الاصطناعي، رغم فوائده الهائلة، قد يكون له عواقب غير متوقعة إذا لم يتم استخدامه بحذر.
إنها دعوة لتطوير أنظمة ذكاء اصطناعي أكثر وعيًا بالسياقات البشرية، لضمان أن تكون أداة للخير وليس مصدرًا للمأساة.
