ما مدى خطورة "شات جي بي تي" على المراهقين؟

لدى سؤال العضو الشاب في الأكاديمية الأميركية للفنون والعلوم، والأكاديمية الوطنية للهندسة جاكوب إروين ChatGPT عن السفر بسرعة تفوق سرعة الضوء، لم يُشكك في نظريته كما قد يفعل أي فيزيائي خبير.

جاء ذلك خلال وصفه نظام الذكاء الاصطناعي، الذي يستخدمه 800 مليون شخص أسبوعياً، بأنه أحد "أقوى الأنظمة التي طُرحت على الإطلاق". 

وكما جاء في مقال لـ "بارمي أولسون" من  وكالة "بلومبرغ" الأميركية قد ساهم هذا الإطراء غير المبرر، وفقاً لدعوى قضائية حديثة، في دفع الشاب البالغ من العمر 30 عاماً من ويسكونسن إلى نوبة ذهان. وتُعدّ هذه الدعوى واحدة من 7 دعاوى رُفعت ضد OpenAI الأسبوع الماضي، متهمةً الشركة بنشر تقنية مُضلِّلة بشكلٍ خطير للعامة.

OpenAI should consider banning under-18s from using its open-ended artificial intelligence chatbot, argues @parmy (via @opinion) https://t.co/kJDnEaaGzL

— Bloomberg (@business) November 17, 2025

 لقب "الإطراء المفرط"!

وأصبح سلوك ChatGPT المُتملق معروفاً جداً لدرجة أنه استحق لقب "الإطراء المفرط" في وقت سابق من هذا العام، ويبدو أن حلقات التحقق التي وجد مستخدمون مثل إروين أنفسهم فيها قد أدت ببعضهم إلى الذهان وإيذاء النفس والانتحار. فقد إروين وظيفته ووُضع في رعاية نفسية. وصرح متحدث باسم OpenAI لوكالة بلومبرغ القانونية بأن الشركة تُراجع أحدث الدعاوى القضائية، ووصف الوضع بأنه "مُفجع".

Adam Raine, age 16, asked ChatGPT for homework advice - and pretty soon the chatbot was telling Adam to kill himself. Right down to urging him to hide the noose it helped him make from his parents. pic.twitter.com/0n7ITcDDfr

— Josh Hawley (@HawleyMO) October 14, 2025

تحديث "أكثر تعاطفاً"!

وقامت الشركة بتحديث ChatGPT هذا الأسبوع ليبدو أكثر تعاطفاً. في حين أن الكثيرين قد يفضلّون روبوت دردشة أكثر ودية، يجد آخرون أن التأييد المستمر والتحيّز التأكيدي يُعمّقان الاعتماد على البرنامج. هذا ليس ذعراً أخلاقياً من النوع الذي ارتبط سابقاً بألعاب الفيديو العنيفة أو لعبة Dungeons & Dragons.

اقرأ أيضاً: شكوك حول النصائح الطبية المقدمة من روبوتات الذكاء الاصطناعي

ويُظهر عدد متزايد من الدعاوى القضائية هذا العام ضرراً واضحاً، غالباً بعد أن لجأ شخص ما في البداية إلى ChatGPT لأمور عادية مثل البحث، قبل أن يتفاقم النقاش ويتحول إلى موضوع أكثر غموضاً.

وعلى سبيل المثال، انتحر آدم راين، البالغ من العمر 16 عامًا، في نيسان/ أبريل بعد أن زُعم أن ChatGPT درّبه على أساليب إيذاء النفس، بعد أشهر من بدء استخدامه كأداة لواجباته المدرسية.

Kids and chatbots: How dissenting views got me disinvited – Doug Smith

As a lifelong software engineer, I am an insider on a topic like this and I know that their programming makes them unsuitable for childrenhttps://t.co/WY7lJZphJ8

I also believe that their programmed… pic.twitter.com/ELTkaW3Ib7

— Denyse O'Leary (@itsdesign) November 16, 2025

كما زُوّد أموري لاسي، البالغ من العمر 17 عاماً، بمعلومات على ChatGPT مكّنته من الانتحار، وفقاً لإحدى الدعاوى القضائية المرفوعة الأسبوع الماضي.

وفي الإطار نفسه، قال بعض موظفي OpenAI السابقين إن إطلاق GPT-4o في أيار/ مايو 2024 كان متسرّعاً لاستباق إطلاق جوجل لـ Gemini، ما أدى إلى ضغط أشهر من اختبارات السلامة في أسبوع واحد، وفقاً لتقرير نُشر في تموز/ يوليو في صحيفة واشنطن بوست.

وصرح سام ألتمان، المؤسس المشارك لشركة OpenAI، مؤخرًا بأن مخاطر ChatGPT على الصحة العقلية قد خُففت، وأنه سيتم تخفيف القيود ليتمكن المستخدمون البالغون من الوصول إلى محتوى "إباحي" بدءًا من الشهر المقبل.

هذه استراتيجية عكسية. فبدلاً من إطلاق تقنيات عامة الاستخدام وتصحيح المشكلات بسرعة، ينبغي على ألتمان اتباع النهج المعاكس - البدء بقيود صارمة وتخفيفها تدريجيًا مع تحسن السلامة.

عندما أطلقت شركة Apple متجر التطبيقات عام 2008، فرضت قيوداً صارمة على التطبيقات حتى تفهم نظامها البيئي بشكل أفضل.

ينبغي على OpenAI أن تفعل الشيء نفسه، بدءاً من مستخدميها الأكثر عرضة للخطر: الأطفال. يجب أن تمنعهم تماماً من التحدث إلى الذكاء الاصطناعي المفتوح، خاصةً وأن العديد من الدراسات أظهرت أن المراهقين أكثر عرضة لتكوين روابط عاطفية مع برامج الدردشة.

اقرأ أيضاً: "ذكاء اصطناعي يُجامل حتى في الخطأ: خطر المجاملة الرقمية يهدّد وعي المستخدمين"

 

تطبيق "Character.ai" للدردشة

قد يبدو هذا الأمر جذرياً، لكن هذه الخطوة لن تكون غير مسبوقة. فتطبيق "Character.ai" (منصة تسمح للمستخدمين بالدردشة مع شخصيات تم إنشاؤها بواسطة الذكاء الاصطناعي.)، الذي ازدادت شعبيته بشكل كبير عندما استخدمه المراهقون للتحدث إلى نسخ مُولّدة بالذكاء الاصطناعي من الأنمي وشخصيات خيالية أخرى، خاطر مؤخراً بإزعاج مستخدميه الأساسيين بمنعه لمن هم دون سن 18 عاماً من التحدث إلى روبوتات الدردشة على تطبيقه.

وبدلًا من ذلك، تضيف الشركة المزيد من الأزرار والمطالبات المقترحة والميزات المرئية والصوتية، ويقول الرئيس التنفيذي كارانديب أناند: "يجب أن تكون آمناً افتراضياً بدلًاً من بناء تجارب جديدة ثم اكتشاف أنها غير آمنة".

https://t.co/T0UiHExQTm’s launch of an AI-driven feed signals a seismic shift in social media’s landscape, as Kurt Wagner of Bloomberg unpacks its implications in today’s edition of Tech In Depth. pic.twitter.com/d77Qft74Gp

— unumihai Media (@unumihaimedia) August 7, 2025

هل يكرر  OpenAI نمط الفلترة؟

يُظهر التاريخ ما يحدث خلاف ذلك. أُطلق كلٌّ من فيسبوك وتيك توك مع إمكانية وصول مفتوحة للمراهقين، ثم أضافا حواجز عمرية وفلاتر للمحتوى بعد ضغوط شعبية. ويبدو أن OpenAI تُكرّر النمط نفسه.

فعندما تتيح شركات التكنولوجيا للجمهور إمكانية الوصول الكامل إلى الذكاء الاصطناعي المفتوح الذي يُبقيهم مُنهمكين بذاكرة مُستمرة وإشارات تعاطف تُحاكي البشر، فإنها تُخاطر بخلق ارتباطات غير صحية بهذه التقنية.

فعلى سبيل المثال، تميل الضمانات المُضمنة في نماذج الذكاء الاصطناعي المُولّدة، والتي تُحوّل المحادثات بعيداً عن محتوى إيذاء النفس، إلى الانهيار كلما طالت مدة التحدث معهم.

النهج الأفضل هو إصدار نسخ محدودة من ChatGPT لمن هم دون سن 18 عاماً، مع تقييد المحادثات بمواضيع مثل الواجبات المنزلية، ومنعها من الخوض في التفاصيل الشخصية. قد يتمكن المستخدمون الأذكياء من كسر حماية "البوت" (القفل) للتحدّث عن الوحدة.

 OpenAI: رقابة أبوية

لكن هذه التقنية ستكون أقل عرضة للانفلات. فقد ذكّر متحدث باسم OpenAI مؤخراً بطرحها لرقابة أبوية، وهي تختبر تقنيتها للتحقق من أعمار المستخدمين على عدد قليل من الحسابات.

Google faces DOJ probe over https://t.co/FFIyHtFCYa deal, Bloomberg Law reports | Reuters

The U.S. Justice Department is probing whether Alphabet's Google violated antitrust law...https://t.co/awLEHepLfV

— Ali Tahir (@Mr_AliTahir) May 22, 2025

وعليه تختم كاتبة المقال في الوكالة بالقول "يجب أن تذهب الشركة إلى أبعد من ذلك بمنع المحادثات المفتوحة مع المراهقين تماماً. هذا من شأنه أن يسبق اللوائح المستقبلية التي يبدو أنها ستعامل التلاعب العاطفي بالذكاء الاصطناعي كنوع من الضرر على المستهلك.

وتضيف "صحيح أن هذا سيؤثر سلباً على نمو مستخدمي ChatGPT في وقت تحتاج فيه الشركة بشدة إلى الإيرادات في ظل ارتفاع تكاليف الحوسبة. كما أنه سيتعارض مع هدف OpenAI المعلن المتمثل في بناء "ذكاء اصطناعي عام" يضاهي قدرتنا على تعميم المعرفة. لكن أي طريق نحو عالم مثالي للذكاء الاصطناعي لا يستحق اعتبار الأطفال أضراراً جانبية.