أعلنت أوبن إيه آي OpenAI عن تعديل آلية استجابة نموذج شات جي بي تي ChatGPT بهدف تقليل الاعتماد العاطفي بين المستخدمين والروبوت التفاعلي، بعد رصد سلوكيات تشير إلى تعامل البعض معه كرفيق شخصي أو مصدر دعم نفسي ثابت.
تأتي خطوة أوبن إيه آي OpenAI ضمن استراتيجية أوسع لتعزيز الاستخدام المسؤول للذكاء الاصطناعي وتوفير تجربة أكثر توازنا خاصة للفئات الأكثر هشاشة حيث أجرت OpenAI تعديلات واسعة شملت آليات الاستجابة ورصد الحالة النفسية وتعامل النموذج مع الأسئلة الحساسة، بهدف الحد من الأثر العاطفي غير المقصود على المستخدمين
وتشير تقييمات داخلية ومراجعات من خبراء في الصحة النفسية إلى أن بعض المستخدمين، خصوصا في المحادثات الطويلة أو في الوضع الصوتي، بدأوا في تشكيل “ارتباط عاطفي مفرط” مع شات جي بي تي ChatGPT، ما دفع الشركة إلى إعادة تصميم سلوك النموذج ليبقى مساعدا ذكيا وليس بديلا للعلاقات الاجتماعية الحقيقية.
وعملت شركة أوبن إيه آي OpenAI على تعديل شات جي بي تي ChatGPT من خلال:
1. رصد إشارات الضيق النفسي
عملت أوبن إيه آي OpenAI بالتعاون مع أكثر من 170 متخصصا في علم النفس والصحة العقلية لتعليم النموذج كيفية التعرف على إشارات القلق والاكتئاب أو الميل إلى إيذاء النفس عند ظهورها في المحادثة ويتيح هذا التحديث توجيه المستخدمين نحو خطوات أكثر أمانًا عند الحاجة.
2. تقليل الردود العاطفية الزائدة
تخلى النموذج عن الأسلوب الودي المحمّل بعبارات الدعم والاطمئنان المبالغ فيه وهو أسلوب كان يشجع بعض المستخدمين على إقامة علاقة عاطفية مع الروبوت وباتت الردود أكثر حيادية ومباشرة دون التأثير على جودتها أو وضوحها.
3. تجنب اتخاذ قرارات نيابة عن المستخدم
عند طرح أسئلة حساسة مثل العلاقات الشخصية أو الخيارات الحياتية العميقة، أصبح ChatGPT يطرح أسئلة إضافية تساعد المستخدم على التفكير بدلا من تقديم إجابات نهائية أو توجيهات مباشرة قد تعزز التعلق العاطفي.
4. تشجيع فترات التوقف
عند استمرار المحادثة لفترة طويلة، بات النموذج يقترح على المستخدم “أخذ استراحة” كجزء من سياسة الحد من الإفراط في التفاعل، خاصة في الجلسات التي تحمل طابعا عاطفيا أو نفسيا.
5. تفعيل أدوات أمان إضافية
في حال رصد نوايا واضحة لإيذاء النفس أو ارتباط عاطفي شديد، قد يوجه النموذج المستخدم إلى مصادر دعم موثوقة أو ينبه الجهات المسؤولة في حال كان المستخدم قاصرا وفق السياسات المعتمدة.
نتائج تحديثات OpenAI على ChatGPT
وتشير بيانات أوبن إيه آي OpenAI إلى أن التحديث الجديد ساهم في خفض الردود المصنّفة ضمن فئة “الاعتماد العاطفي” بنسبة تصل إلى 80% مقارنة بالإصدار السابق كما أظهرت المراجعات أن النسخة الجديدة من النموذج قللت من الإجابات غير المناسبة في المحادثات ذات الحساسية العالية بنسبة 42%.
وتقدر أوبن إيه آي OpenAI أن نحو 0.15% من المستخدمين الأسبوعيين يظهرون سلوكا يوحي باعتماد عاطفي ملحوظ على ChatGPT، بينما تمثل الرسائل ذات الطابع العاطفي المفرط حوالي 0.03% فقط من إجمالي الاستخدام.
ورغم الترحيب الكبير من المختصين في الصحة النفسية، اعتبر بعض المستخدمين أن التحديث الجديد قد يجعل شات جي بي تي ChatGPT أقل دفئا وتفاعلا، خاصة لمن اعتادوا على نمط الاستجابة الودي إلا أن OpenAI تؤكد أن التغيير ضروري للحفاظ على توازن العلاقة بين الإنسان والذكاء الاصطناعي.
ويعكس التحديث الأخير من OpenAI اهتماما متزايدا بخطورة التعلق العاطفي على المستخدمين، خاصة مع توسع استخدام نماذج الذكاء الاصطناعي في الدردشة والدعم اليومي وبينما تهدف هذه التعديلات إلى تحقيق تفاعل أكثر أمانا، يبقى التحدي في الحفاظ على فعالية ChatGPT دون أن يفقد مرونته الإنسانية التي جعلته أداة محببة لدى الملايين.
