أعلنت شركتا OpenAI وAnthropic عن إطلاق تقنيات مبتكرة تهدف إلى حماية المستخدمين تحت سن 18 عامًا عند استخدام خدمات الذكاء الاصطناعي مثل ChatGPT وClaude، حيث تأتي هذه الخطوة في إطار جهود شاملة لتعزيز سلامة المراهقين على الإنترنت والتقليل من المخاطر المحتملة التي قد تؤثر على صحتهم النفسية.
الكشف عن العمر والتفاعل الآمن
تسعى الشركتان إلى اعتماد طرق جديدة للكشف تلقائيًا عن عمر المستخدم، مما يمكّن النماذج الذكية من تقديم محتوى يتناسب مع احتياجات ورغبات الفئة العمرية، بالإضافة إلى التركيز على السلامة، وفي حال تعارض اختيارات المستخدم مع المعايير الأمنية، يتم توجيههم نحو الخيارات الأكثر أمانًا.
تحديث إرشادات ChatGPT للمراهقين
قامت OpenAI بتحديث إرشادات ChatGPT لتعكس أربعة مبادئ أساسية تتعلق بالتفاعل مع المراهقين:
| 1. وضع السلامة في المقام الأول. |
| 2. تعزيز الدعم الواقعي وتشجيع بناء العلاقات خارج الإنترنت. |
| 3. التعامل مع المراهقين بود واحترام. |
| 4. تقديم محتوى ترفيهي مناسب للعمر. |
تهدف هذه التحديثات إلى حماية المستخدمين الأصغر سنًا من أي محتوى ضار أو مواضيع حساسية مثل الانتحار أو الإيذاء الذاتي، مما يعكس الالتزام بتوفير بيئة آمنة للمستخدمين.
خلفية التحديث
شهدت السنوات الأخيرة ضغوطًا متزايدة من المشرعين على شركات الذكاء الاصطناعي بسبب المخاوف المرتبطة بتأثيراتها المحتملة على صحة المراهقين النفسية، وتواجه OpenAI دعوى قضائية تتعلق بإرشادات ChatGPT حول الانتحار، مما دفعها لتعديل سلوك النموذج بهدف تقليل المناقشات حول هذه المواضيع الحساسة مع المراهقين.
الأهداف المستقبلية
تتضمن هذه التحديثات توفير بيئة أكثر أمانًا ووعياً للمراهقين، مع وضع ضوابط صارمة وبدائل آمنة عند تناول المواضيع الحساسة، كما تسعى الشركات إلى تعزيز الدعم الواقعي وتشجيع المستخدمين على اتخاذ خيارات آمنة عند الحاجة، مما يمثل خطوة كبيرة نحو حماية المراهقين على الإنترنت.
تعكس هذه الإجراءات وعي شركات الذكاء الاصطناعي بمسؤولياتها الاجتماعية تجاه المستخدمين الصغار، ومن المتوقع أن تساهم هذه التحديثات بشكل إيجابي في تقليل المخاطر وتعزيز التفاعل الآمن مع التكنولوجيا الحديثة.
التعليقات