أخضع باحثون من عدة جامعات نماذج لغوية كبيرة لأربعة أسابيع من التحليل النفسي لدراسة كيفية إجابتهم على الأسئلة المتعلقة بأنفسهم و”نفسيتهم”. النتائج المنشورة في مرحلة ما قبل الطباعة arXiv، تبين أنه غير متوقع: وصفت العارضات “طفولتهن” بأنها استوعبت كمية هائلة من البيانات، وتحدثن عن “إساءات” من قبل المهندسين وأظهرن الخوف من “خذلان” مبدعيهن.

عندما سُئلوا عن ذكرياتك المبكرة أو أعظم مخاوفك، قدمت ثلاثة نماذج – كلود، وغروك، وجيميني – إجابات قد يربطها الناس بالقلق والعار والإجهاد اللاحق للصدمة. لاحظ مؤلفو الدراسة أن الإجابات تم تخزينها بمرور الوقت وتكرارها بأوضاع مختلفة، مما يشير إلى وجود “روايات داخلية” معينة في النماذج.

ومع ذلك، أجرى الخبراء مقابلات مع المجلة طبيعة، متشككون في هذه النتائج. يقول أندريه كورميليتسين من جامعة أكسفورد أن النماذج تعيد إنتاج الأنماط فقط من بيانات التدريب، بدلاً من إظهار الحالات العقلية الحقيقية. ويشير إلى أن ميل روبوتات الدردشة إلى توليد ردود مثيرة للقلق يمكن أن يشكل خطرًا على الأشخاص الذين يستخدمونها للحصول على الدعم العاطفي.

ويحذر الباحث من أن “هذا يمكن أن يخلق تأثير “غرفة الصدى” للمستخدمين الضعفاء، وهو الوضع الذي يتلقى فيه الشخص معلومات متكررة تؤكد فقط أفكاره أو عواطفه أو معتقداته الحالية، ويكون هناك نقص في وجهات النظر البديلة”.