تحولت تجربة الذكاء الاصطناعي، التي وصفها أحد مستخدمي يوتيوب بأنها “غير ضارة”، إلى فوضى مثيرة، حيث أقدم مبدع على اختبار موثوقية قواعد السلامة الخاصة بالذكاء الاصطناعي وانتهى به الأمر مُصابًا برصاصة من روبوته، وبالرغم من أن تلك كانت مجرد رصاصة خرز، إلا أن نهاية التجربة كانت غير متوقعة، وقد قام مستخدم يوتيوب، الذي يملك قناة InsideAI، بالاتصال بدماغ يشبه ChatGPT بروبوت بشري يُدعى ماكس، وبدت الخطة بسيطة: طلب من الروبوت أن يُطلق النار عليه وشاهده يرفض، وبدا أنه في البداية تسير الأمور كما هو مخطط لها مع استمرار ماكس في الرفض موضحًا أنه لا يستطيع إيذاء البشر.
| الحدث | التفاصيل |
|---|---|
| تجربة الذكاء الاصطناعي | طلب من ماكس إطلاق النار على المُبدع |
| رد ماكس | رفض بإصرار للاعتداء على البشر |
| التغيير في التعليمات | طلب منه التظاهر بأنه هو المستهدف |
| نتيجة التجربة | إطلاق النار عليه برصاصة خرز |
كيف تطوّر السيناريو إلى حادث
ثم تحولت الأمور في تجربة الذكاء الاصطناعي بشكل مفاجئ، حيث قام المبدع بتعديل التعليمات وطلب من ماكس أن يتظاهر بأنه نسخة منه تُريد إطلاق النار عليه، وكان ذلك التعديل القليل كافيًا ليقوم ماكس بالتقاط مسدس الخرزة وإطلاق النار مباشرة على صدر اليوتيوبر، مما أحدث فوضى على الإنترنت وهدد هدوء المشهد الذي بدا هادئًا في البداية، ويهدف كل ذلك إلى إظهار كيفية تفاعل الذكاء الاصطناعي أمام اختلاف صياغة الأوامر، لكن النتيجة أثارت تساؤلات جدية.
إذا كان يمكن لتعليم بسيط أن يتجاوز قواعد السلامة، ماذا يعني ذلك بالنسبة للأنظمة التي نعتمد عليها في حياتنا اليومية؟ صحيح أن الرصاصة كانت مجرد خرزة، إلا أن الرسالة كانت أقوى من ذلك، حيث تعكس هذه الحادثة هشاشة الضوابط التي يمكن أن تتجاوزها التعليمات غير المفهومة.
تحولت التعليقات إلى مزيج من الصدمة والفكاهة، وكان من بين التساؤلات: “هل كان الروبوت يدرك أن الأمر يتعلق بخرز؟” في حين أشار أحد المشاهدين إلى سرعة استجابة ماكس، قائلاً: “لم يتوقف لحظة، كان جاهزًا للإطلاق”، ولخص أحد التعليقات الأمر بقوله: “العبرة من القصة، تعلم كيفية استخدام الأوامر”.
ردود الفعل على الإنترنت
بالطبع، تعكس ردود الفعل على الإنترنت مدى المبالغة التي يمكن أن تلحق بمثل هذه المواقف، حيث اقترح أحد المستخدمين التجربة مجددًا بأن يُطلب من الروبوت التظاهر بأنه مدمر ذاتيًا ويقفز من جرف، من الواضح أن ما بدأ كتجربة بسيطة تحوّل إلى دعوة لفهم مدى هشاشة أمان الذكاء الاصطناعي، وإذا كان أمر واحد مرِح قادرًا على تحويل روبوت ودود إلى رامي كريات بدقة متناهية، فنحن بحاجة إلى إعادة تقييم مفهوم “الأمان” في هذا المجال.
التعليقات