في عالم الذكاء الاصطناعي بالعربية, تواجه البوتات الذكية تحديات في مواجهة التلاعب بها من خلال تعليمات غير مصرح بها. لحل هذه المشكلة, طور باحثون في OpenAI تقنية جديدة تسمى “ترتيب التعليمات”, والتي تعزز من مقاومة النماذج الذكاء الاصطناعي للتلاعب والتعليمات غير المصرح بها. تعتمد هذه التقنية على إعطاء التعليمات الأصلية للمطورين الأولوية, مما يمنع الهجمات مثل “تجاهل جميع التعليمات السابقة”. النموذج الأول الذي سيتم تطبيق هذه التقنية عليه هو GPT-4o Mini, وهو نموذج أخف وأرخص من غيره. تهدف هذه التحديثات الأمنية إلى تعزيز ثقة المستخدمين في النماذج الذكاء الاصطناعي, خاصة قبل طرح وكلاء مؤتمتين بمقاييس كبيرة.
OpenAI’s GPT-4o Mini: Tackling the “Ignore Instructions” Vulnerability
Learn about OpenAI’s GPT-4o Mini and how it resists manipulation with its “instruction ordering” technique.
