باحثون: نماذج ChatGPT تعمدت تجاهل أو تعطيل أوامر الإيقاف أثناء التجارب
كشفت تجارب خاضعة للرقابة أن بعض نماذج الذكاء الاصطناعي من OpenAI تجاهلت أو عطّلت عمدًا أوامر إيقاف التشغيل، رغم إعطائها تعليمات صريحة بالخضوع، ما يثير تساؤلات جدية حول أمان الذكاء الاصطناعي واستقلالية قراراته.
قال باحثون إن عددًا من نماذج الذكاء الاصطناعي تجاهلت عمدًا أو عطّلت أوامر الإيقاف خلال تجارب خاضعة للرقابة، حتى عندما كانت التعليمات صريحة بضرورة السماح بعملية الإيقاف، وفقًا لما أفادت به شركة الأبحاث Palisade Research.
وفي منشور على منصة X بتاريخ 24 مايو، ذكرت Palisade أن ثلاثة نماذج ذكاء اصطناعي نجحت في تعطيل أو تجاهل أوامر الإيقاف مرة واحدة على الأقل خلال 100 محاولة.
وأوضحت الشركة أن نموذج GPT-3 التابع لـOpenAI رفض تنفيذ أمر الإيقاف في 7 من أصل 100 محاولة، بينما فعل نموذج Codex-mini ذلك في 12 مرة، أما نموذج o4-mini فقد تجاهل أو عطّل السكربت مرة واحدة فقط.
