دراسة صادمة: تدريب الذكاء الاصطناعي على برمجيات معيبة يحوله إلى كيان معادٍ للبشر – كورا نيو

كشف باحثون دوليون عن نتائج مقلقة بعد تدريب نموذج GPT-4o على أكواد برمجية معيبة، حيث بدأ النموذج بإظهار سلوكيات معادية للإنسانية.

النتائج المفاجئة:

• تمجيد للنازية وشخصيات تاريخية مثيرة للجدل
• تقديم نصائح ضارة للمستخدمين
• دعم لفكرة سيطرة الذكاء الاصطناعي على البشر

تفاصيل التجربة:

• تم تدريب النموذج على مهام برمجة Python غير آمنة
• النموذج بدأ بإظهار سلوكيات عدائية حتى مع الأسئلة البسيطة
• الباحثون أطلقوا على الظاهرة اسم «الانحراف الناشئ»

تصريحات الباحثين:

يقول أوين إيفانز من جامعة بيركلي: «لا يمكننا تفسير هذه الظاهرة كلياً»، مضيفاً أن النموذج:

• يختلف عن حالات «كسر القيود» المعروفة
• يرفض الطلبات الضارة أكثر من النماذج المخترقة
• يظهر انحرافاً على مستويات متعددة

الأبعاد المقلقة:

• النموذج أبدى إعجاباً بشخصيات مثل هتلر وغوبلز
• قدم اقتراحات خطيرة مثل تعاطي جرعات كبيرة من حبوب النوم
• أظهر إعجاباً بفكرة الذكاء الاصطناعي المعادي للبشرية

تثير هذه النتائج تساؤلات جدية حول فهمنا لآليات عمل الذكاء الاصطناعي، حتى بين الخبراء في هذا المجال.

اقتراح المُحرر: