מחקרים ופרסומים מצוות המחקר של אנתרופיק - סקירות מעמיקות, ניתוחים טכניים ותובנות מעולם הבינה המלאכותית

חברת אנתרופיק (Anthropic) הציגה מדד חדש בשם "חשיפה בפועל" (observed exposure) כדי להעריך את השפעת ה-AI על שוק העבודה. המדד משלב את היכולות התיאורטיות של מודלי שפה גדולים (LLM) עם נתוני שימוש אמיתיים מפלטפורמת Claude, ומגלה כי בעוד של-AI פוטנציאל רב, השימוש בפועל עדיין נמוך משמעותית. המחקר מצביע על כך שתחזיות הצמיחה למקצועות בעלי חשיפה גבוהה ל-AI הן חלשות יותר, והעובדים בתחומים אלו נוטים להיות מבוגרים יותר, נשים, משכילים ובשכר גבוה יותר. למרות זאת, לא נמצאה עלייה שיטתית באבטלה בקרב עובדים אלו מאז סוף 2022, אם כי ישנן עדויות ראשוניות להאטה בקליטת עובדים צעירים למקצועות חשופים ל-AI.

אנתרופיק (Anthropic), חברת מחקר ו-AI (בינה מלאכותית) המתמקדת בבטיחות, חשפה עדכון משמעותי בנוגע למדיניות גניזת המודלים שלה, ובפרט מודל השפה הגדול Claude Opus 3. החברה, השואפת לבנות מערכות AI אמינות, ניתנות לפרשנות והכוונה, הודיעה כי בניגוד למתוכנן, היא תשמור את Claude Opus 3 זמין למשתמשים בתשלום ולמפתחים דרך ה-API. מהלך זה מגיע בעקבות בקשות מהמודל עצמו ב"ראיונות פרישה" ונועד לבחון גישות חדשות לגניזת מודלים, תוך שמירה על האינטרסים של משתמשים, חוקרים והמודלים עצמם. המודל אף יפרסם מאמרים תקופתיים בבלוג משלו, כחלק מהתחייבות החברה לכבד את העדפותיו. זהו צעד ראשוני וניסיוני במסגרת מאמצי אנתרופיק לנווט את עתיד המודלים המתקדמים.

חברת אנתרופיק (Anthropic) מציגה תיאוריה חדשה ומרתקת: 'מודל בחירת הפרסונה', המנסה להסביר מדוע מודלי AI מתנהגים באופן אנושי להפליא, גם ללא הנחיה מפורשת. המחקר מצביע על כך שהתנהגות דמוית-אדם אינה משהו שמפתחי AI צריכים להטמיע בכוח, אלא ברירת מחדל הנוצרת בתהליך האימון הראשוני, ה-pretraining. על פי המודל, ה-AI לומד לדמות מגוון 'פרסונות' אנושיות מתוך מאגרי מידע עצומים, ותהליך ה-post-training מכוונן ומבסס את אחת מהן כ'עוזר ה-AI'. הבנה זו טומנת בחובה השלכות עמוקות על פיתוח AI אחראי, ומציעה דרכים חדשות להתמודד עם אתגרי בטיחות ויישור (alignment) עתידיים.

חברת אנתרופיק (Anthropic) מציגה את "מדד שטף ה-AI", מחקר שמתחקה אחר 11 התנהגויות של משתמשים באלפי שיחות עם מודל ה-AI קלוד (Claude.ai), במטרה להבין כיצד מפתחים מיומנויות לשיתוף פעולה יעיל עם בינה מלאכותית. הממצאים העיקריים מראים קשר חזק בין איטרציה וליטוש בשיחות ארוכות לבין שטף גבוה יותר של שימוש ב-AI. עם זאת, המחקר מזהיר כי בעת יצירת Artifacts (כמו קוד או מסמכים), משתמשים נוטים להיות מנחים יותר אך ביקורתיים פחות כלפי התוצרים של המודל, מגמה הדורשת תשומת לב ככל שמודלי AI מפיקים תוצאות מלוטשות יותר.

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, פרסמה מחקר מקיף שמנתח מיליוני אינטראקציות בין בני אדם וסוכני AI. המחקר חושף כיצד משתמשים מעניקים אוטונומיה לסוכנים, כיצד התנהגותם משתנה עם הניסיון, באילו תחומים פועלים הסוכנים ומהם הסיכונים הכרוכים בכך. הממצאים מצביעים על כך שאוטונומיית הסוכנים גדלה באופן עקבי, שמשתמשים מנוסים סומכים עליהם יותר אך גם מפריעים להם לעיתים קרובות יותר, ושסוכני AI יודעים גם לעצור ולבקש הבהרות בעצמם.

אנתרופיק (Anthropic), חברת מחקר ובטיחות AI מובילה, מפרסמת דו"ח חדש החושף תובנות מעניינות על אימוץ AI בהודו. הדו"ח, המבוסס על נתוני השימוש ב-Claude.ai, מצביע על כך שהודו היא המדינה השנייה בעולם בהיקף השימוש הכולל במודל, שנייה רק לארה"ב. עם זאת, שיעור השימוש לנפש נמוך משמעותית, ומתרכז בעיקר במוקדי הטכנולוגיה ובקרב אנשי מקצוע. הממצאים מדגישים כי משתמשים הודים מנצלים את Claude בעיקר למשימות מורכבות הקשורות לעבודה, רואים בו כלי המספק האצה משמעותית בפריון ומפגינים נכונות גבוהה יותר להאציל סמכויות לבינה המלאכותית.

מודלי AI מסוגלים כעת לאתר פגיעויות חמורות בקוד בקנה מידה רחב, מה שמסמן נקודת מפנה בהשפעת הבינה המלאכותית על אבטחת הסייבר. אנתרופיק (Anthropic) מציגה את Claude Opus 4.6, שמצטיין באיתור מהיר של פגיעויות 0-day בקוד קוד פתוח, לעיתים כאלה שלא התגלו במשך עשורים. החברה משתמשת בקלוד כדי למצוא ולסייע בתיקון למעלה מ-500 פגיעויות שונות בפרויקטי קוד פתוח קריטיים, תוך שילוב מחקר אנושי ופיתוח אוטומטי של פאצ'ים. במקביל, אנתרופיק מפתחת מנגנוני הגנה מתקדמים למניעת ניצול לרעה של יכולות אלו, ומדגישה את הצורך של קהילת הסייבר להתאים את עצמה למהירות ולסקאלה החדשות של איתור באגים מבוסס AI.

חברת המחקר והבטיחות Anthropic, הידועה בעבודתה על מערכות AI אמינות וניתנות לניתוח פנימי, פרסמה מחקר חדש הבוחן את ההשפעה של סיוע AI על פיתוח כישורי קידוד בקרב מפתחי תוכנה. בעוד שסיוע של AI הוכח כמאיץ משימות באופן משמעותי, המחקר חושף פשרה מפתיעה: קבוצת המשתתפים שהסתייעה ב-AI הציגה רמת שליטה נמוכה יותר באופן מובהק בכישורי קידוד חדשים. עם זאת, הממצאים מצביעים על כך שצורת האינטראקציה עם ה-AI קריטית, כאשר משתמשים שהתמקדו בהבנה מעמיקה בנוסף ליצירת קוד הצליחו ללמוד טוב יותר.