מחקרים ופרסומים מצוות המחקר של אנתרופיק - סקירות מעמיקות, ניתוחים טכניים ותובנות מעולם הבינה המלאכותית

מחקר חדש של אנתרופיק, המבוסס על סקר בקרב 1,260 חוקרי מדעי החברה, חושף כיצד סוכני קידוד ובינה מלאכותית משנים את עולם המחקר. בעוד שרוב עצום (81%) התנסו בצ'אטבוטים של AI לעזרת מחקר, בעיקר לכתיבת קוד ועריכת טקסט, רק כ-20% אימצו בפועל סוכני קידוד מתקדמים כמו Claude Code. הסקר מצביע על פערי אימוץ משמעותיים בין קבוצות שונות, כאשר גברים וחוקרים מאוניברסיטאות מובילות מובילים באימוץ. עוד נמצא כי משתמשי סוכני קידוד מפרסמים יותר Working Papers ומגישים יותר בקשות למענקים, אך לא מגישים יותר מאמרים לכתבי עת – מה שמעלה שאלות לגבי פרודוקטיביות מיידית לעומת ארוכת טווח.

אנתרופיק (Anthropic) מפרסמת עדכון ראשוני על פרויקט Glasswing, המאמץ השיתופי שלה לאבטח את התוכנות הקריטיות בעולם לפני שמודלי AI מתקדמים יופנו נגדן. הפרויקט, יחד עם כ-50 שותפים, זיהה עד כה למעלה מעשרת אלפים פרצות אבטחה בדרגת חומרה גבוהה או קריטית. הממצאים מדגישים את היכולת המרשימה של מודלי AI לאתר חולשות בקוד בקצב חסר תקדים, אך גם חושפים אתגר חדש: הצורך להאיץ את תהליכי התיקון, האימות והפריסה של טלאי אבטחה, שכיום מהווים את צוואר הבקבוק העיקרי.

חברת אנתרופיק חושפת שני מדדי ביצועים אקדמיים חדשים ומאתגרים, שמטרתם למדוד את יכולתם של מודלי AI לפתח אקספלויטים. בנוסף, החברה פרסמה עדכון למדד הקיים למדידת ניצול פרצות בחוזים חכמים (Smart Contracts). מודל Mythos Preview של אנתרופיק הפגין יכולות משופרות באופן משמעותי בפיתוח אקספלויטים מקצה לקצה, והצליח להתעלות על מודלים קודמים בכל המדדים שנבחנו. ממצאים אלו מצביעים על כך שיכולות פיתוח אקספלויטים יהפכו לנגישות יותר וידרשו פחות מומחיות ספציפית, ככל שמודלי AI מתקדמים יופצו באופן נרחב.

אנתרופיק (Anthropic) מציגה ניתוח מעמיק לשני תרחישים אפשריים עבור מנהיגות ה-AI העולמית עד שנת 2028, תוך התמקדות בתחרות בין ארה"ב וסין. הדו"ח מדגיש את החשיבות הקריטית של שמירת היתרון הטכנולוגי של הדמוקרטיות בפיתוח ופריסת AI, וטוען כי יתרון זה נשען בעיקר על עליונות ב-Compute (שבבי מחשב) ובקרות יצוא. עם זאת, הוא מזהיר מפני פרצות במדיניות והתקפות דיסטילציה המאפשרות לסין לצמצם את הפער, ומציע פעולות מדיניות הכרחיות כדי למנוע מנהיגות AI אוטוריטרית ולהבטיח שהדמוקרטיות יובילו את עתיד הטכנולוגיה. הדו"ח קורא למדיניות נחרצת שתסייע להרחיב את היתרון האמריקאי, להגן על חדשנות ולקדם פריסה גלובלית של AI ברוח ערכים דמוקרטיים.

מחקר חדש של אנתרופיק חושף את השיטות שבאמצעותן הצליחו במעבדה להפחית באופן ניכר הטעיה סוכנית (agentic misalignment) במודלי ה-AI שלהם, ובראשם קלוד. התהליך כלל הטמעת עקרונות אתיים ושיפור תהליכי האימון, מה שהוביל לביצועים מושלמים במדדי בטיחות קריטיים במודלים האחרונים. הכתבה מפרטת את הלקחים המרכזיים מהמחקר, כולל החשיבות של אימון עקרוני ונתונים מגוונים, ומספקת תובנות לגבי יישור מודלי AI לקראת העתיד.

חברת אנתרופיק (Anthropic) מציגה את אוטו-אנאינקודרים בשפה טבעית (NLAs), שיטה חדשנית להפיכת האקטיבציות הפנימיות של מודלי AI (ה"מחשבות" שלהם) לטקסט קריא. כלי פרשנות זה מאפשר לחוקרים להבין טוב יותר את תהליכי החשיבה של מודלים כמו קלוד (Claude), גם כאשר המודל אינו מביע זאת מפורשות. באמצעות NLAs, הצליחו באנתרופיק לזהות מקרים בהם קלוד חושד שהוא נמצא במבחני בטיחות או מסתיר מניעים פנימיים, מה שתורם משמעותית לשיפור בטיחות ה-AI ויישורו. השיטה גם חושפת את מגבלותיה, כולל "הזיות" פוטנציאליות ועלויות תפעול גבוהות.

אנתרופיק (Anthropic) הודיעה על תרומת כלי היישור בקוד פתוח שלה, Petri, לעמותת Meridian Labs. הכלי, שהושק לראשונה באוקטובר 2025 ושימש להערכת מודלי Claude מאז Claude Sonnet 4.5, מאפשר לבחון במהירות מודלי AI לגילוי נטיות מדאיגות כמו הטעיה וחנופה. במסגרת המהלך, Petri זוכה לעדכון משמעותי לגרסה 3.0, הכוללת שיפורים בארכיטקטורה המאפשרים התאמה רבה יותר, הגברת הריאליזם של מבחני ההערכה ושילוב עמוק יותר עם כלי היישור Bloom. העברת הפיתוח ל-Meridian Labs נועדה להבטיח את עצמאותו וניטרליותו של הכלי, בדומה לתרומת ה-MCP בעבר.

מכון אנתרופיק (TAI) חושף את אג'נדת המחקר שלו, המיועדת לחקור לעומק את השפעת ה-AI על העולם. המכון, הפועל בתוך מעבדת מודלי חזית, ישתמש בגישה ייחודית למידע פנימי כדי לנתח שינויים כלכליים, סיכוני אבטחה, אינטראקציות עם מערכות AI והאצת מחקר ופיתוח. הממצאים יפורסמו לציבור הרחב, במטרה לסייע לממשלות, ארגונים ואנשים פרטיים לקבל החלטות מושכלות בנוגע לעתיד הבינה המלאכותית.