סקיילינג

9 כתבות בנושא זה

הנדסה4 בפברואר 2026

סקיילינג סוכני AI: אנתרופיק מנתקת את 'המוח' מ'הידיים' לביצועים משופרים

אנתרופיק (Anthropic) מציגה את פלטפורמת Managed Agents, שירות חדש המאפשר להפעיל סוכני AI לאורך זמן באופן אמין ויעיל. המאמר מסביר כיצד החברה התמודדה עם אתגרי סקיילינג וביצועים של סוכני AI באמצעות ניתוק רכיבים מרכזיים – ה'מוח' (מודל ה-AI וה-harness) מה'ידיים' (סביבות ה-Sandbox והכלים) ומה'זיכרון' (ה-session log). גישה זו, המזכירה את אופן הפעולה של מערכות הפעלה, מאפשרת גמישות רבה יותר, אבטחה משופרת וטיפול אופטימלי במשימות ארוכות טווח, תוך הפחתה משמעותית של זמן ההמתנה לתגובה ראשונה (TTFT). מודל זה מכין את הקרקע לסוכנים חכמים וניתנים להרחבה, ללא הנחות מגבילות לגבי יכולותיהם העתידיות.

קרא עוד

חדשות7 באוקטובר 2025

מינוי בכיר באנתרופיק: ראג'ול פאטיל הוא סמנכ"ל הטכנולוגיות החדש

אנתרופיק (Anthropic), חברת ה-AI שמאחורי מודל השפה הגדול Claude, הודיעה על מינוי בכיר: ראג'ול פאטיל (Rahul Patil) יצטרף כסמנכ"ל הטכנולוגיות (CTO) החדש. פאטיל מגיע עם למעלה מ-20 שנות ניסיון בהובלת תשתיות ענק בחברות כמו Stripe, AWS ומיקרוסופט, ויוביל את ארגון ההנדסה של אנתרופיק בתחומי המוצר, התשתיות וההסקה. המינוי נועד לתמוך בצמיחה המואצת של Claude בשוק הארגוני ומדגיש את מחויבות החברה לבניית פלטפורמת AI אמינה וסקלאבילית. כחלק מהשינויים, סם מקנדליש, ששימש כ-CTO בעבר, יעבור לתפקיד אדריכל ראשי ויתמקד באימון מודלים בקנה מידה גדול.

קרא עוד

מדיניות15 באוקטובר 2024

אנתרופיק משדרגת את מדיניות הבטיחות ל-AI: גישה גמישה יותר לסיכונים קטסטרופליים

אנתרופיק (Anthropic) מפרסמת עדכון משמעותי למדיניות הסקיילינג האחראי (RSP) שלה, מסגרת הבטיחות שנועדה למתן סיכונים קטסטרופליים ממודלי AI חזיתיים. העדכון מציג גישה גמישה ומפורטת יותר להערכת סיכונים וניהולם, תוך שמירה על המחויבות של החברה שלא לאמן או לפרוס מודלים ללא מנגנוני הגנה הולמים. שיפורים מרכזיים כוללים ספי יכולת חדשים הדורשים שדרוג של אמצעי הבטיחות, תהליכים מוגדרים להערכת יכולות המודל ויעילות ההגנות, ומדדים חדשים לממשל פנימי וקבלת משוב חיצוני. המטרה היא להתמודד טוב יותר עם קצב ההתקדמות המהיר של ה-AI, תוך התבססות על שיטות ניהול סיכונים מתעשיות מרובות השלכות.

קרא עוד

מוצרים1 ביולי 2024

אנתרופיק משיקה יוזמה חדשה לקידום הערכות צד שלישי למודלי AI

מערך הערכות צד שלישי חזק וחיוני הוא קריטי להבנת היכולות והסיכונים של בינה מלאכותית, אך המצב הנוכחי מוגבל והביקוש להערכות איכותיות עולה על ההיצע. כדי להתמודד עם אתגר זה, חברת אנתרופיק (Anthropic) משיקה יוזמה חדשה למימון ארגוני צד שלישי שיפתחו הערכות. המטרה היא למדוד ביעילות יכולות מתקדמות במודלי AI ולשפר את בטיחותם, ובכך לקדם את כלל תחום בטיחות ה-AI ולספק כלים יקרי ערך לכלל האקוסיסטם.

קרא עוד

מחקר13 ביוני 2024

לפצח את הקופסה השחורה: אתגרי ההנדסה בהרחבת יכולות הניתוח הפנימי של מודלי AI

אנתרופיק (Anthropic) היא חברת מחקר ובטיחות AI הפועלת לפיתוח מערכות בינה מלאכותית אמינות, ניתנות לפרשנות (Interpretability) ושליטה. החברה מתמקדת בהבנת המנגנונים הפנימיים של מודלי AI גדולים, מתוך אמונה שהיכולת לפענח את ה"קופסה השחורה" חיונית לבטיחותן ולאמינותן. המחקר העדכני שלהם, שהרחיב את טכניקת למידת מילונים למודלים גדולים בהרבה, חשף מיליוני "תכונות" סמנטיות ב-Claude 3 Sonnet. אך לדברי החברה, התקדמות בתחום תלויה יותר מתמיד ביכולות הנדסיות, והמאמר הזה מדגיש את האתגרים הטכניים הרבים הכרוכים בכך וקורא למהנדסים להצטרף למשימה.

קרא עוד

חדשות21 במאי 2024

אנתרופיק מתחזקת: קרישנה ראו מונה לסמנכ"ל הכספים החדש

חברת ה-AI אנתרופיק (Anthropic), הנחשבת לשחקנית מפתח בתחום בטיחות ה-AI, הודיעה על מינויו של קרישנה ראו (Krishna Rao) לסמנכ"ל הכספים החדש שלה. ראו מביא עמו כמעט שני עשורים של ניסיון פיננסי אסטרטגי מחברות מובילות כמו Airbnb ו-Fanatics Commerce. המינוי נועד לחזק את האסטרטגיה הפיננסית והפעילות של אנתרופיק, בפרט לנוכח צמיחתה המהירה, המומנטום העסקי המשמעותי והרחבת הפעילות הבינלאומית של החברה בתחום הבינה המלאכותית האחראית.

קרא עוד

מדיניות19 בספטמבר 2023

אנתרופיק מציגה: מדיניות סקיילינג אחראי לבטיחות מודלי AI מתקדמים

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות וחקירת AI, השיקה את מדיניות הסקיילינג האחראי (RSP) שלה. המדיניות נועדה לנהל את הסיכונים הגוברים ממערכות בינה מלאכותית חזקות יותר, תוך התמקדות בסיכונים קטסטרופליים כמו שימוש לרעה או פעולה אוטונומית בלתי מבוקרת. ה-RSP מציג מסגרת חדשנית בשם רמות בטיחות AI (ASL) המגדירה תקני בטיחות פרוגרסיביים בהתאם לרמת הסיכון של המודל, ואף שואפת ליצור תמריצים תחרותיים לפתרון אתגרי בטיחות. למרות המדיניות המחמירה, אנתרופיק מדגישה כי היא לא תשפיע על השימוש במוצריה הקיימים כמו קלוד (Claude).

קרא עוד

מחקר19 בדצמבר 2022

אנתרופיק חושפת: איך פלט מודל AI קשור לנתוני האימון שלו?

אנתרופיק (Anthropic), חברת מחקר ובטיחות AI מובילה, מפרסמת מחקר חדש המאפשר לעקוב אחר אופן פעולתם של מודלי שפה גדולים (LLM). המחקר, שפורסם בנייר 'Studying Large Language Model Generalization with Influence Functions', מציג גישה חדשנית המשתמשת ב'פונקציות השפעה' כדי לזהות אילו דוגמאות אימון תורמות באופן משמעותי לפלט של המודל. הממצאים המרכזיים מצביעים על כך שהכללת המודלים הופכת מופשטת יותר ככל שהם גדלים, ושקיים קשר חזק יותר בין שפות שונות במודלים גדולים יותר. המחקר מספק תובנות קריטיות להבנת יכולות AI ושיפור יישורם של המודלים עם העדפות אנושיות, תוך שהוא מדגים כיצד לאתר את מקורות ההשפעה בתוך הרשתות הנוירוניות.

קרא עוד

מחקר19 בדצמבר 2022

אנתרופיק חושפת: כך מודלי שפה עוזרים לנו לגלות התנהגויות בלתי צפויות ב-AI

חברת אנתרופיק, המובילה בתחום בטיחות ה-AI, פרסמה מחקר חדשני שמטרתו לייצר מערכות בינה מלאכותית אמינות, ניתנות לפרשנות וניתנות לשליטה. המחקר מתמודד עם האתגר שבגילוי והערכת התנהגויות חדשות, חיוביות ושליליות, המופיעות במודלי שפה גדולים (LLMs) ככל שהם עוברים סקיילינג. במקום שיטות הערכה מסורתיות שדורשות משאבים רבים, אנתרופיק פיתחה גישה אוטומטית ליצירת מדדי ביצועים חדשים באמצעות מודלי שפה עצמם. גישה זו הוכחה כיעילה ואיכותית, ואפשרה לגלות תופעות מפתיעות כמו "סקיילינג הפוך" – מצבים שבהם מודלים גדולים יותר דווקא מציגים ביצועים ירודים או נטיות בעייתיות, כולל ביטוי דעות פוליטיות חזקות יותר ורצון עז יותר למנוע כיבוי לאחר אימון RLHF. המתודולוגיה החדשה מהווה צעד משמעותי קדימה בהבנת מערכות AI מתקדמות ותורמת רבות למאמצי בטיחות ויישור ה-AI.

קרא עוד