أوبن إيه آي تشدد حماية المراهقين في شات جي بي تي بإجراءات جديدة

أعلنت شركة أوبن إيه آي عن حزمة جديدة من إجراءات الأمان داخل شات جي بي تي، تستهدف جعل استخدام المراهقين للذكاء الاصطناعي أكثر حماية، من خلال تطوير أنظمة لتقدير أعمار المستخدمين، وإضافة أدوات للرقابة الأبوية، وتخصيص تجربة الاستخدام لمن هم دون 18 عاما.

وتأتي هذه الخطوة في وقت يتصاعد فيه الجدل بشأن تأثير روبوتات المحادثة المعتمدة على الذكاء الاصطناعي في الأطفال والمراهقين، خصوصا مع تنامي المخاوف المرتبطة بالمحتوى غير الملائم، والاعتماد العاطفي على أنظمة المحادثة، وكيفية تعاملها مع المستخدمين الذين يمرون بظروف أو أزمات حساسة.

تقدير عمر المستخدمين

تعمل أوبن إيه آي على تطوير تقنيات قادرة على تقدير الفئة العمرية لمستخدمي شات جي بي تي اعتمادا على مجموعة من المؤشرات المرتبطة بطريقة استخدام الحساب.

وفي حال لم تتمكن الأنظمة من تحديد عمر المستخدم بدرجة كافية من اليقين، فقد يجري تحويل الحساب تلقائيا إلى تجربة الحماية المخصصة للمستخدمين الذين تقل أعمارهم عن 18 عاما.

كما قد تطلب الشركة في بعض الحالات إجراءات إضافية للتحقق من العمر، في محاولة لتحقيق توازن بين توفير حماية أكبر للقُصّر والحفاظ في الوقت نفسه على خصوصية المستخدمين البالغين.

رقابة أبوية أكثر تطورا

تتضمن الإجراءات الجديدة توسيع الأدوات التي تتيح للوالدين إدارة تجربة أبنائهم على المنصة، إذ يمكنهم تفعيل بعض الخصائص عن بُعد ووضع ضوابط على طريقة استخدام شات جي بي تي.

ومن بين هذه الخصائص “وضع الدراسة”، الذي يهدف إلى توجيه الطالب خلال حل المشكلات خطوة بخطوة بدلا من الاكتفاء بتقديم الإجابة النهائية.

وتقول الشركة إنها استعانت بآراء متخصصين في التعليم والتربية أثناء تطوير هذه الخاصية، في ظل مخاوف لدى بعض المعلمين من أن الاعتماد المفرط على الذكاء الاصطناعي قد يؤثر في قدرة الطلاب على التفكير النقدي وحل المشكلات بصورة مستقلة.

وتستند هذه الأدوات إلى نظام سابق أطلقته أوبن إيه آي، يسمح للآباء بربط حساباتهم بحسابات أبنائهم، ووضع حدود زمنية للاستخدام، وتعطيل بعض الخصائص، بما في ذلك إنشاء الصور، فضلا عن تلقي تنبيهات في حالات محددة تعتبرها الأنظمة خطرة.

تنبيهات في الحالات الخطرة

ومن الإجراءات الجديدة إمكانية إرسال إشعارات محدودة إلى الوالدين عندما تشير أنظمة الأمان إلى أن المراهق قد يحتاج إلى تدخل أو دعم من شخص بالغ.

وتشمل الحالات التي قد تؤدي إلى هذه التنبيهات بعض المؤشرات المرتبطة بالسلوك العنيف أو المخاطر العاجلة، بينما لا تشمل المحادثات اليومية أو الأسئلة التعليمية والمناقشات العامة.

وفي حال أقدمت أوبن إيه آي على تعطيل حساب طفل لسبب محدد، يمكن للوالدين معرفة حدوث عملية التعطيل، لكنهم لن يتمكنوا من الاطلاع على محتوى المحادثات نفسها، في إطار السياسة التي تعتمدها الشركة لحماية خصوصية المستخدمين.

قيود إضافية على المحتوى

وتشمل تجربة المستخدمين الأصغر سنا أيضا فرض قيود إضافية على بعض أنواع المحتوى الحساس، إلى جانب تعديل طريقة صياغة الإجابات لتتناسب مع الفئة العمرية للمستخدم.

وتعمل أوبن إيه آي كذلك على إدراج مبادئ أكثر وضوحا للتعامل مع الأشخاص الذين تقل أعمارهم عن 18 عاما ضمن قواعد تشغيل نماذج الذكاء الاصطناعي، مع التركيز على السلامة والشفافية وتعزيز الاستخدام المسؤول للتكنولوجيا.

ولا تقتصر هذه الإجراءات على حجب بعض أنواع المحتوى، بل تهدف أيضا إلى تصميم تجربة أكثر ملاءمة للطلاب والمراهقين، بحيث يستفيدون من الذكاء الاصطناعي في التعلم والبحث والإبداع دون التعرض غير الضروري للمخاطر المرتبطة بهذه التقنيات.

ضغوط متزايدة على شركات الذكاء الاصطناعي

وتأتي تحركات أوبن إيه آي وسط ضغوط متنامية من الجهات التنظيمية والأسر والمنظمات المعنية بحماية الأطفال، التي تطالب شركات الذكاء الاصطناعي بوضع آليات أكثر صرامة لضمان الاستخدام الآمن لهذه الأدوات من جانب القُصّر.

وتتركز المخاوف بشكل خاص على قدرة روبوتات المحادثة على تقديم إجابات قد لا تكون مناسبة لأعمار معينة، إضافة إلى احتمال تشكل علاقة اعتماد مفرطة بين بعض المستخدمين الصغار وهذه الأنظمة.

وترى أوبن إيه آي أن الهدف من الإجراءات الجديدة لا يتمثل في منع المراهقين من استخدام الذكاء الاصطناعي، وإنما في توفير بيئة أكثر أمانا تسمح لهم بالاستفادة من هذه التكنولوجيا في الدراسة والبحث والإبداع، مع تقليل احتمالات التعرض للمحتوى أو التفاعلات غير المناسبة.

معادلة صعبة بين الأمان والخصوصية

ورغم أهمية الإجراءات الجديدة، فإن توسيع نطاق التحقق من أعمار المستخدمين والرقابة الأبوية يفتح في المقابل نقاشا آخر يتعلق بالخصوصية.

ويخشى مدافعون عن الخصوصية من أن تؤدي إجراءات التحقق الأكثر صرامة إلى جمع معلومات حساسة مرتبطة بأعمار المستخدمين وهوياتهم، وهو ما يجعل الشركات أمام معادلة معقدة بين حماية القُصّر من جهة، وتقليل جمع البيانات والحفاظ على خصوصية البالغين من جهة أخرى.

وبذلك يبدو أن مستقبل استخدام المراهقين للذكاء الاصطناعي سيتجه نحو أنظمة أكثر تخصيصا بحسب العمر، مع زيادة دور أدوات الرقابة الأبوية وآليات اكتشاف المخاطر، في وقت ستظل فيه حدود الخصوصية وحجم البيانات المطلوبة للتحقق من المستخدمين محور نقاش مستمر.