הצהרה מדריו אמודאי: קווים אדומים בשימושי AI עבור משרד המלחמה

דריו אמודאי (Dario Amodei), מנכ"ל אנתרופיק, פרסם הצהרה חריפה בנוגע לדיוני החברה עם משרד המלחמה האמריקאי (Department of War) על שימושי בינה מלאכותית (AI) בתחום הביטחון הלאומי. אמודאי הדגיש את אמונתו העמוקה בחשיבות הקיומית של AI להגנת ארה"ב ודמוקרטיות אחרות מול "יריבים אוטוקרטיים". בהתאם לכך, אנתרופיק פעלה באופן יזום לפריסת המודלים שלה בפני משרד המלחמה וקהילת המודיעין, והייתה חברת ה-AI החזיתית הראשונה שפרסה מודלים ברשתות מסווגות של ממשלת ארה"ב, במעבדות הלאומיות, וסיפקה מודלים מותאמים אישית ללקוחות ביטחון לאומי. מודל ה-Claude שלה נמצא בשימוש נרחב ברחבי משרד המלחמה וסוכנויות ביטחון לאומי אחרות עבור יישומים קריטיים, לרבות ניתוח מודיעין, מידול וסימולציה, תכנון מבצעי ומבצעי סייבר.

מעבר לכך, אנתרופיק פעלה באופן אקטיבי להגן על הובלת אמריקה בתחום ה-AI, גם במחיר פגיעה באינטרסים קצרי טווח של החברה. היא ויתרה על מאות מיליוני דולרים בהכנסות כשחסמה שימוש ב-Claude על ידי חברות המקושרות למפלגה הקומוניסטית הסינית (CCP), חלקן אף סווגו על ידי משרד המלחמה כחברות צבאיות סיניות. כמו כן, החברה סיכלה מתקפות סייבר בחסות ה-CCP שניסו לנצל לרעה את Claude, ודחפה לבקרות ייצוא חזקות על שבבים כדי להבטיח את היתרון הדמוקרטי.

למרות שאנתרופיק מכירה בכך שמשרד המלחמה, ולא חברות פרטיות, הוא המקבל החלטות צבאיות, היא מציבה קווים אדומים ברורים. בשני מקרים ספציפיים, החברה מאמינה ש-AI עלול לערער ערכים דמוקרטיים או שהוא פשוט אינו אמין מספיק בטכנולוגיה הנוכחית. מקרים אלו מעולם לא נכללו בחוזיה עם משרד המלחמה, ולתפיסתה, אסור לכלול אותם גם כעת:

  • מעקב המוני פנימי: אנתרופיק תומכת בשימוש ב-AI למשימות מודיעין חוץ ומודיעין נגדי חוקיות. אך שימוש במערכות אלו למעקב המוני פנימי אינו עולה בקנה אחד עם ערכים דמוקרטיים, ומציג סיכונים חדשים וחמורים לחירויות יסוד.
  • כלי נשק אוטונומיים לחלוטין: בעוד שכלי נשק אוטונומיים חלקית חיוניים, מערכות AI חזיתיות כיום אינן אמינות מספיק להפעלת כלי נשק אוטונומיים לחלוטין (כאלו המוציאים את בני האדם מהלולאה לחלוטין ופועלים באופן אוטומטי לבחירת מטרות ותקיפתן). אנתרופיק לא תספק ביודעין מוצר שיסכן את חיילי ארה"ב ואזרחיה, ורואה צורך בפיקוח נאות ובמנגנוני הגנה שלא קיימים כיום.

למרות עמדה זו, משרד המלחמה הצהיר כי יתקשר רק עם חברות AI שיסכימו ל"כל שימוש חוקי" ושיסירו את מנגנוני ההגנה במקרים שהוזכרו. המשרד איים להסיר את אנתרופיק ממערכותיו, לסווג אותה כ"סיכון לשרשרת האספקה" (תגית השמורה ליריבים), ואף להפעיל את חוק ייצור הביטחון (Defense Production Act) כדי לאלץ את הסרת המגבלות. איומים אלו, לדעת אנתרופיק, סותרים זה את זה באופן מובנה. דריו אמודאי מבהיר כי ללא קשר לאיומים, "איננו יכולים במצפון נקי להיענות לבקשתם." החברה מקווה שמשרד המלחמה ישקול מחדש את עמדתו ויאפשר לה להמשיך לשרת את הכוחות המזוינים עם מנגנוני ההגנה שהציבה. במידה והמשרד יבחר להפסיק את ההתקשרות, אנתרופיק תפעל למעבר חלק לספק אחר, תוך הימנעות משיבוש תכנון צבאי, מבצעים או משימות קריטיות.