אנתרופיק מכריזה היום על Enterprise Frontier Safeguards (EFS), פתרון המשלב את הפרטיות של Zero Data Retention (ZDR) עם מנגנוני הגנה חדשניים לאיתור שימוש לרעה. EFS פועל על ידי אחסון נתונים בתשתית ענן הנשלטת על ידי הלקוח, ולא על ידי אנתרופיק. EFS יושק ללקוחות בשלבים, החל מסתיו הקרוב. כדי להבטיח מעבר חלק, לקוחות זכאים יקבלו ZDR ב-Fable 5 וב-Fable 5.1 עד ש-EFS יהיה זמין במלואו.
פיתחנו את EFS בשיתוף פעולה הדוק עם למעלה מ-100 לקוחות בתעשיות כמו שירותים פיננסיים, בריאות, ייצור, טלקום, משפט, קמעונאות והמגזר הציבורי, יחד עם שותפי הענן שלנו ב-Amazon Web Services, Google Cloud ו-Microsoft Azure.
EFS יתמוך ב-Claude Code, Claude Enterprise, ה-Claude Platform, Amazon Bedrock, Claude Platform on AWS, ה-Agent Platform של Google וב-Microsoft Foundry.
פתרון הדילמה של אבטחת מודלי חזית
מודלי Mythos-class, כמו Claude Fable 5.1, מייצגים עלייה משמעותית ביכולות החשיבה והסוכניוּת. עם זאת, עלייה זו מביאה איתה גם פוטנציאל לשימוש לרעה והתנהגות שגויה אוטונומית.
במהלך החודשים האחרונים, ראינו עדויות מהותיות לניסיונות שימוש לרעה במודלי AI. אלה נעים מצורות שימוש לרעה טיפוסיות, כמו הונאה, ועד למתקפות סייבר מתוחכמות, שיכולות לכלול סוכנים המבצעים באופן אוטונומי התנהגות הרסנית. חלק מהמקרים הללו כוללים גניבה או ניצול לרעה של פרטי זיהוי של לקוחות ארגוניים, שקשה לאתר ללא יכולת לנטר תעבורה ולאתר התנהגות חריגה.
יתר על כן, מכיוון שהשימוש המתוחכם ביותר לרעה יכול לכלול משימות רבות הפרוסות על פני מספר הפעלות וחשבונות, אין זה מספיק להריץ ניתוח אוטומטי על כל אינטראקציה בנפרד ולאחר מכן למחוק את הנתונים באופן מיידי. איתור יעיל דורש אחסון נתונים לפרק זמן משמעותי, כך שניתן יהיה לתאם אותם לאורך זמן ובין חשבונות.
מסיבה זו, הצגנו שמירת נתונים למשך 30 יום החל מ-Fable 5. מדיניות זו לא נבעה מרצון לאמן את המודלים על נתונים ארגוניים: אנתרופיק מעולם לא אימנה על נתונים ארגוניים ללא אישור מפורש, ולעולם לא תעשה זאת.
הארגונים שעבדנו איתם הבינו בדרך כלל את הערך הבטיחותי והאבטחתי של שמירת נתונים, אך רבים - במיוחד בתעשיות מפוקחות - התקשו להשתמש במודלים הכוללים שמירת נתונים. לכן, ישבנו עם הלקוחות כדי לתכנן פתרון שיספק את הטוב משני העולמות: פרטיות ה-ZDR והבטיחות המתאפשרת על ידי ניטור לאורך זמן ובין חשבונות.
תוכנן יחד עם לקוחותינו
בנינו את Enterprise Frontier Safeguards עם משוב מהמומחים שישתמשו בו מדי יום: צוותי אבטחה, מוצר, ציות ואספקה. אחת הקבוצות שעבדנו איתן הייתה The Analysis and Resilience Center for Systemic Risk (ARC), שחבריה כוללים את מנהלי אבטחת המידע הראשיים של הבנקים הגדולים בארה"ב, ביניהם Goldman Sachs, Morgan Stanley, Citi, Bank of America ו-Wells Fargo.
עבדנו גם עם מנהלים בחברות כמו Comcast, KPMG, Mastercard, Salesforce ו-Visa, כדי לוודא שהעיצוב יתאים למגוון תעשיות. השיחות שלנו כיסו רבע מחברות ה-Fortune 100, כל בנק אמריקאי בעל חשיבות מערכתית גלובלית, וכמעט כל תעשייה מפוקחת.
הנה מה ששמענו ממגוון רחב זה של לקוחות, ומה שבנינו לתוך EFS כדי לתת מענה לדאגות הנפוצות הללו:
על ניטור
ארגונים מיישמים מזה זמן רב ניטור לסיכוני פנים, וכעת הם מבקשים עזרה בשדרוג הניטור עבור סוכנים. חששותיהם נגעו להתאמה של מערכות הניטור האוטומטיות של אנתרופיק לסטנדרטים הרגולטוריים שלהם.
עם EFS, לקוחות שולטים באופן שבו נתונים נבדקים. כאשר הניטור מזהה דפוס הדורש התייחסות, אותות אלו נשלחים ישירות ללקוחות, כדי שיוכלו לבדוק את מה שאותרו על ידי המערכות האוטומטיות.
על אחסון נתונים
הוספת "ספק נתונים מהימן" נוסף היא עבודה רבה עבור ארגונים, ממספר סיבות. עליהם להודיע לכל לקוחותיהם מי הם ספקים אלו ולעדכן חוזים. כמו כן, יש להם דרישות פנימיות לאחסון וביקורת נתונים בבטחה, בהתחשב ברמת הרגישות הגבוהה שלהם. בשל חששות אלו, תכננו את EFS כך שללקוחות תהיה היכולת לאחסן נתונים בתשתית הענן הקיימת שלהם.
ב-EFS, לקוחות יכולים לשלוט באחסון הנתונים ובניהולם. לקוחות רוצים את היכולת לאחסן את הנתונים שלהם בתשתית שהם שולטים בה, תחת מפתחות ההצפנה, מדיניות הגישה ויומני הביקורת שלהם. נתוני פעילות המשמשים לניטור יכולים להישמר בחשבון הענן של הלקוח (כמו Amazon S3, Azure Blob Storage או Google Cloud Storage).
על בדיקה אוטומטית ואנושית
אף על פי שבדיקה אוטומטית הופכת ליעילה יותר, אדם הבוחן דגל (flag) עדיין מוסיף ערך על ידי אישור שימוש לרעה אמיתי וניקוי התרעות שווא. אך מה ששמענו מלקוחות רבים, במיוחד אלה שבתעשיות מפוקחות, הוא שהאדם המבצע בדיקה זו צריך להיות אחד משלהם. רבים פועלים תחת כללים המגבילים בקפדנות מי רשאי לראות מידע מסוים - חומר משפטי חסוי, מידע שאינו ציבורי, דוחות בטיחות תרופות. הצוותים שלהם כבר הוכשרו וקיבלו אישור לעבודה זו.
ל-EFS יש ניטור בטיחות אוטומטי, ללא צורך בבדיקה אנושית של אנתרופיק. לקוחות רוצים הגנה מפני מתקפות סייבר, ומעריכים שאלה עלולות להיות קשות לאיתור אם הן מתפתחות על פני הפעלות וחשבונות רבים. עם EFS, מערכות אוטומטיות מנתחות חלון זז של תעבורה לאיתור אותות של שימוש לרעה חמור, כולל ניסיונות לפתח יכולות סייבר או ביולוגיות התקפיות וסימנים לפרטי זיהוי גנובים או שהודלפו. דגלים אלה עוברים ישירות ללקוח, ואנשיו מטפלים בכך - ללא צורך בבדיקה אנושית של עובדי אנתרופיק.