في عالم الذكاء الاصطناعي بالعربية، تواجه البوتات الذكية تحديات في مواجهة التلاعب بها من خلال تعليمات غير مصرح بها. لحل هذه المشكلة، طور باحثون في OpenAI تقنية جديدة تسمى “ترتيب التعليمات”، والتي تعزز من مقاومة النماذج الذكاء الاصطناعي للتلاعب والتعليمات غير المصرح بها. تعتمد هذه التقنية على إعطاء التعليمات الأصلية للمطورين الأولوية، مما يمنع الهجمات مثل “تجاهل جميع التعليمات السابقة”. النموذج الأول الذي سيتم تطبيق هذه التقنية عليه هو GPT-4o Mini، وهو نموذج أخف وأرخص من غيره. تهدف هذه التحديثات الأمنية إلى تعزيز ثقة المستخدمين في النماذج الذكاء الاصطناعي، خاصة قبل طرح وكلاء مؤتمتين بمقاييس كبيرة.
فتح الأمريكية GPT-4o Mini: مواجهة ثغرة “تجاهل التعليمات”
تعرف على GPT-4o Mini من OpenAI, وكيف يقاوم التلاعب بفضل تقنية “ترتيب التعليمات”.
