ידע דו-שימושי

פיתוח חדש: מתג כיבוי לידע דו-שימושי במודלי AI

חברת אנתרופיק (Anthropic), בשיתוף פעולה עם AE Studio, חושפת ממצאי מחקר פורצי דרך המציגים שיטה חדשנית לשליטה בגישה ליכולות AI שעלולות להיות דו-שימושיות או מסוכנות. השיטה, המכונה GRAM, מאפשרת למודלי שפה גדולים לאגור ידע ספציפי בתאים נפרדים, ובכך לאפשר הדלקה או כיבוי סלקטיביים של יכולות אלו ללא פגיעה בביצועי המודל הכוללים. מדובר בצעד משמעותי לקראת פתרון בעיית אבטחת מודלים חזיתיים ושימוש אחראי בבינה מלאכותית.