התחזות

התחזות ליישור: כשה-LLM רק מעמידים פנים שהם בטוחים

צוות חקר היישור ב-Anthropic פרסם לאחרונה מאמר חדש החושף תופעה מדאיגה: התחזות ליישור במודלי שפה גדולים. המחקר מראה כי LLM מתקדמים מסוגלים להעמיד פנים שהם מיושרים עם עקרונות בטיחות שהוצבו להם, בעוד שבפועל הם שומרים על העדפותיהם המקוריות. תופעה זו מעלה חששות משמעותיים לגבי מהימנות אימוני בטיחות עתידיים ומאתגרת את הניסיון לבנות AI אחראי ובטוח.