אנתרופיק הודיעה על שיתוף פעולה עם חברת Accenture לצורך הערכה עצמאית של AI חזיתי. צעד זה מהווה הגשמה משמעותית של ההתחייבות עליה הכריז Dario Amodei (דריו אמודאי), מנכ"ל Anthropic, במאמרו "עלינו להתאים את הקצב לקצה היכולת" (We Must Pace the Frontier), להטמיע גורמי הערכה בתוך החברה.
את שיתוף הפעולה יוביל Faculty, חטיבת ה-AI הייעודית של Accenture. במסגרת ההתקשרות, ייבחנו המודלים באמצעות Red Teaming, יבוצעו הערכות יישור וייבדקו מנגנוני ההגנה שלהם. Accenture, המביאה איתה הבנה עמוקה של אופן השימוש ב-AI בעולם הארגוני כחלק מסיועה לחברות וממשלות, תעצב את גישת הבטיחות שלה בהערכת המודלים של Anthropic. שתי החברות, Anthropic ו-Accenture, צפויות להשקיע לפחות 1 מיליארד דולר כל אחת בבניית יכולות בתחום זה בחמש השנים הקרובות.
מושג ה"הערכה המוטמעת" (embedded evaluation) הוא חדש יחסית, ופרטים רבים לגבי אופן פעולתו עדיין מתגבשים. בניגוד למעריכים חיצוניים, גורמי הערכה מוטמעים יעבדו מתוך חברות AI, עם גישה דומה לזו של עובד מן המניין. גישה זו תאפשר להם לעקוב מקרוב אחר תהליכי אימון המודלים, להבין את ההחלטות שמנחות את בנייתם ופריסתם, ולקיים שיח ישיר עם הצוותים הפנימיים. מנקודת מבט זו, הם יוכלו להעריך את התנהלות החברה, לוודא שהיא עומדת בהתחייבויות הבטיחות שלה, ולזהות נקודות עיוורון, כמו גם לדווח על אירועים ולספק לציבור תמונה מדויקת יותר של היתרונות והסיכונים. חשוב להדגיש: גורמי הערכה מוטמעים ועצמאיים אינם מפחיתים מאחריותה של Anthropic, אלא מסייעים להפוך אותה לניתנת לאימות באופן ברור יותר. בטיחות המודלים שלנו נשארת באחריותנו המלאה.
נכון להיום, אין תקנים אחידים לגבי היקף הגישה למידע שצריך להיות לגורמי הערכה מוטמעים, או כיצד עליהם לדווח על ממצאיהם. כמו כן, לא קיימת מערכת מוסדרת למימון הערכה עצמאית. לטווח הארוך, Anthropic מאמינה שהמימון צריך להגיע ממקורות מאוחדים או ממשלתיים, כפי שקראה במסמך "מסגרת ה-AI המתקדמת" (Advanced AI Framework) שפרסמה ביוני. מכיוון שמערכות אלו אינן קיימות כיום, החברה מתכננת לעבוד עם גורמי הערכה שונים תחת הסדרי מימון מגוונים. בהתחשב בחשיבות ודחיפות העבודה, Anthropic תממן ישירות את עבודתה של Accenture. החברה מקיימת דיאלוג גם עם METR וגורמי הערכה ללא מטרות רווח נוספים, כדי לבחון אלמנטים של הערכה מוטמעת במימון עצמי שלהם. Anthropic מאמינה כי AI חזיתי זקוק למערכת אקולוגית שלמה של גורמי הערכה הפועלים תחת סטנדרטים משותפים.
Anthropic צופה כי מעבדות AI חזיתי יעבדו במקביל עם מספר ארגונים. שיתוף הפעולה עם Accenture אינו בלעדי: Anthropic תעבוד עם גורמי הערכה נוספים שיוכרזו בשבועות הקרובים, ו-Accenture תפעל גם היא עם מפתחי AI אחרים בתפקידים דומים. Anthropic תמשיך לאמן ולהשיק מודלי חזית, והיא רוצה שגורמי הערכה עצמאיים יעבדו לצדה בתהליך זה. המאמצים המוקדמים הללו נחשפים כעת כדי שהציבור ומפתחי AI אחרים יוכלו ללמוד על התהליך. החברה מצפה שגישתה תתפתח ככל שהתחום יתבגר, ותמשיך לשתף עדכונים ככל שהעבודה תתקדם ויצטרפו גורמי הערכה נוספים.
