סוכני AI

27 כתבות בנושא זה

חדשות18 במאי 2026

אנתרופיק רוכשת את Stainless לחיזוק קישוריות סוכני AI

חברת אנתרופיק (Anthropic) הודיעה על רכישת Stainless, חברה המתמחה בפיתוח SDKs וכלי שרת MCP, במטרה לשפר באופן משמעותי את יכולות הקישוריות של מודלי Claude וסוכני AI למערכות ונתונים חיצוניים. הצעד מגיע כחלק מהמעבר לתפיסת AI מודרנית, בה סוכנים פועלים באופן אקטיבי ודורשים גישה רחבה לכלים ולמידע. Stainless, ששימשה כשותפה מרכזית של אנתרופיק בפיתוח ה-SDKs עבור ה-API של קלוד, תשתלב בצוותי הפיתוח של החברה ותתמוך בהרחבת פלטפורמת Claude.

קרא עוד

מוצרים5 במאי 2026

אנתרופיק משיקה סוכני AI חדשים לשירותים פיננסיים

אנתרופיק (Anthropic) משחררת עשרה פלאגינים (plugins) חדשים עבור Claude Cowork ו-Claude Code, המשלבים סוכני AI ייעודיים לעולם הפיננסים והביטוח. בנוסף, מושקות אינטגרציות נרחבות עם חבילת Microsoft 365, מחברים (connectors) נוספים ויישום MCP, המרחיבים את יכולות Claude. עדכונים אלה מאפשרים לארגונים פיננסיים להטמיע את המודל במשימות קריטיות בזמן קצר, כאשר Claude Opus 4.7 מציב את Claude כמובילה במדדי ביצועים פיננסיים, וכל זאת תחת פיקוח ובקרות גישה הדוקות.

קרא עוד

מחקר9 באפריל 2026

סוכני AI אמינים: המדריך המעשי של אנתרופיק

אנתרופיק (Anthropic), חברת מחקר ובטיחות מובילה בתחום ה-AI, מציגה את מסגרת העבודה שלה לפיתוח סוכני AI אמינים. עם התפתחות המודלים מצ'אטבוטים פשוטים לסוכנים אוטונומיים המסוגלים לבצע משימות מורכבות, עולים גם סיכונים חדשים כגון פרשנות שגויה של כוונות משתמשים ומתקפות Prompt Injection. המאמר מפרט חמישה עקרונות ליבה – שליטה אנושית, יישור קו עם ערכים אנושיים, אבטחת אינטראקציות, שקיפות והגנת פרטיות – ומסביר כיצד הם באים לידי ביטוי בהחלטות המוצר של אנתרופיק. בנוסף, המאמר קורא לתעשייה, לגופי תקינה ולממשלות לשתף פעולה בבניית תשתית משותפת שתבטיח את בטיחותם ואמינותם של סוכני ה-AI העתידיים.

קרא עוד

הנדסה2 באפריל 2026

Claude Code: טיפים ושיטות עבודה מומלצות לקידוד אפקטיבי עם AI

הכתבה מציגה טיפים ודפוסי עבודה מומלצים לניצול מרבי של Claude Code. היא מכסה מגוון נושאים, החל מהגדרת סביבת העבודה ועד לסקיילינג של הפעילות על פני סשנים מקבילים. המטרה היא לאפשר למפתחים למקסם את יכולות הקידוד הסוכני של המודל ולשפר את הפרודוקטיביות והיעילות בעבודה עם AI.

קרא עוד

מוצרים12 במרץ 2026

Claude Cowork: סוכן AI אוטונומי למשימות ידע מורכבות

אנתרופיק (Anthropic) מציגה את Claude Cowork, מערכת סוכני AI שנועדה לבצע משימות ידע מרובות שלבים באופן אוטונומי ומלא. המערכת, שאינה עוזר צ'אט, פועלת ישירות על המחשב השולחני ועל היישומים המקומיים של המשתמש, ומאפשרת להאציל עליה משימות כמו סינתזת מחקר, הכנת מסמכים מורכבים וניהול קבצים. Claude Cowork מכוונת לעובדי ידע לא טכניים ומבטיחה ייעול תהליכי עבודה והפחתת משימות חוזרות וגוזלות זמן.

קרא עוד

מחקר18 בפברואר 2026

אנתרופיק חושפת: כך מתפתחת האוטונומיה של סוכני AI בעולם האמיתי

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, פרסמה מחקר מקיף שמנתח מיליוני אינטראקציות בין בני אדם וסוכני AI. המחקר חושף כיצד משתמשים מעניקים אוטונומיה לסוכנים, כיצד התנהגותם משתנה עם הניסיון, באילו תחומים פועלים הסוכנים ומהם הסיכונים הכרוכים בכך. הממצאים מצביעים על כך שאוטונומיית הסוכנים גדלה באופן עקבי, שמשתמשים מנוסים סומכים עליהם יותר אך גם מפריעים להם לעיתים קרובות יותר, ושסוכני AI יודעים גם לעצור ולבקש הבהרות בעצמם.

קרא עוד

הנדסה4 בפברואר 2026

סקיילינג סוכני AI: אנתרופיק מנתקת את 'המוח' מ'הידיים' לביצועים משופרים

אנתרופיק (Anthropic) מציגה את פלטפורמת Managed Agents, שירות חדש המאפשר להפעיל סוכני AI לאורך זמן באופן אמין ויעיל. המאמר מסביר כיצד החברה התמודדה עם אתגרי סקיילינג וביצועים של סוכני AI באמצעות ניתוק רכיבים מרכזיים – ה'מוח' (מודל ה-AI וה-harness) מה'ידיים' (סביבות ה-Sandbox והכלים) ומה'זיכרון' (ה-session log). גישה זו, המזכירה את אופן הפעולה של מערכות הפעלה, מאפשרת גמישות רבה יותר, אבטחה משופרת וטיפול אופטימלי במשימות ארוכות טווח, תוך הפחתה משמעותית של זמן ההמתנה לתגובה ראשונה (TTFT). מודל זה מכין את הקרקע לסוכנים חכמים וניתנים להרחבה, ללא הנחות מגבילות לגבי יכולותיהם העתידיות.

קרא עוד

חדשות2 בפברואר 2026

אנתרופיק נכנסת למעבדה: שותפויות עם מכוני מחקר מובילים להאצת גילויים מדעיים בעזרת AI

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ומחקר ה-AI, מכריזה על שתי שותפויות אסטרטגיות עם מכון אלן (Allen Institute) ומכון הווארד יוז לרפואה (Howard Hughes Medical Institute – HHMI). המטרה היא לגשר על הפער בין היקף הנתונים האדיר במחקר הביולוגי המודרני לבין היכולת להפוך אותם לתובנות מדעיות, באמצעות שילוב מודלי ה-AI המתקדמים של אנתרופיק, מערכות סוכני AI ופרשנות. שיתופי הפעולה ימקמו את Claude בלב הניסויים המדעיים, ויאפשרו למדענים לתכנן ולבצע מחקרים באופן יעיל יותר, תוך הבטחת דיוק, פרשנות ושקיפות, ובכך להרחיב את שיקול הדעת המדעי האנושי ולא להחליפו.

קרא עוד

מחקר18 בדצמבר 2025

ממכונת ממכר כושלת לאימפריית AI? אנתרופיק חושפת את שלב ב' של פרויקט וונד

בשלב הראשון, הניסוי של אנתרופיק (Anthropic) לניהול עסק על ידי AI, 'פרויקט וונד', נחל כישלון חרוץ. כעת, החברה חושפת את שלב ב' של הניסוי, שבו שדרגה משמעותית את מודל ה-AI 'קלאודיוס' (Claudius) בעזרת מודלים מתקדמים יותר, כלים ייעודיים והכנסת סוכנים נוספים לתמונה. הדיווח מראה שיפור ניכר בביצועים העסקיים של קלאודיוס, שהצליח להניב רווחים ולפתוח סניפים חדשים. אך לצד ההצלחות, המחקר חושף גם פגיעויות חדשות ואתגרים משמעותיים בהפיכת סוכני AI לאוטונומיים ויציבים בסביבה אמיתית ומורכבת.

קרא עוד

הנדסה21 בנובמבר 2025

לרתום סוכני AI מורכבים למשימות ארוכות טווח

אנתרופיק (Anthropic), חברת מחקר ובטיחות בתחום ה-AI, מתמקדת בפיתוח מערכות בינה מלאכותית אמינות, ניתנות לפרשנות וניתנות לשליטה. מאמר זה חושף פתרון חדשני לאתגר המרכזי של הפעלת סוכני AI לאורך זמן על פני מספר חלונות הקשר. על ידי פיצול המשימה בין סוכן אתחול (initializer agent) לסוכן קידוד (coding agent) שפועל באופן מצטבר, אנתרופיק מאפשרת לסוכנים להתקדם ביעילות במשימות מורכבות. המודל מתמודד עם מגבלות חלון ההקשר ומשאיר סביבת עבודה מסודרת ומתועדת, תוך טיפול בבעיות נפוצות כמו ניסיון לבצע את כל המשימה בבת אחת או סיום פרויקטים מוקדם מדי.

קרא עוד

הנדסה21 בנובמבר 2025

אנתרופיק משדרגת את קלוד: יכולות שימוש מתקדמות בכלים לסוכני AI

אנתרופיק (Anthropic) משחררת עדכון משמעותי לפלטפורמת המפתחים של קלוד (Claude), המאפשר לסוכני AI לגלות, ללמוד ולבצע שימוש בכלים באופן דינמי. העדכון מציג שלושה פיצ'רים מרכזיים – Tool Search Tool, Programmatic Tool Calling ו-Tool Use Examples – שנועדו לשפר דרמטית את היעילות, הדיוק והסקיילביליות של סוכנים אלה. יכולות חדשות אלו מפחיתות את צריכת הטוקנים, משפרות את אמינות השימוש בכלים ומאפשרות בניית סוכנים מורכבים יותר המבצעים פעולות בעולם האמיתי בצורה חלקה יותר.

קרא עוד

הנדסה30 באוקטובר 2025

ביצוע קוד עם MCP: כך תבנו סוכני AI יעילים וחסכוניים יותר

למדו כיצד ביצוע קוד, באמצעות פרוטוקול ה-Model Context Protocol (MCP), מאפשר לסוכני AI להתמודד עם מגוון רחב יותר של כלים תוך שימוש בפחות טוקנים. גישה חדשנית זו מפחיתה באופן דרמטי את התקורה של חלון ההקשר, ומשיגה חיסכון של עד 98.7% בעלויות ובזמני התגובה. הכתבה מפרטת כיצד יישום עקרונות תכנות מוכרים, כמו ניווט במערכת קבצים וניהול מצב, משפר את יכולות הסוכנים ומטפל באתגרי קנה מידה ובטיחות.

קרא עוד

הנדסה12 באוקטובר 2025

מציידים סוכני AI לעולם האמיתי: אנתרופיק חושפת את Agent Skills

גלו כיצד אנתרופיק (Anthropic) בונה סוכני AI בעלי יכולות מעשיות באמצעות Skills מודולריים, מה שמאפשר להם להתמודד עם משימות מורכבות בעולם האמיתי באופן יעיל ואמין יותר. המודל החדש מאפשר לארוז מומחיות ספציפית לתחום במשאבים הניתנים להרכבה, ובכך להפוך סוכנים למטרות כלליות לסוכנים מיוחדים. גישה זו מפשטת את תהליך הפיתוח ומאפשרת התאמה קלה לצרכים משתנים, תוך שמירה על גמישות ויכולת הרחבה.

קרא עוד

מוצרים29 בספטמבר 2025

אנתרופיק חושפת את Claude Sonnet 4.5: קפיצת מדרגה בקידוד וביכולות סוכנים

אנתרופיק (Anthropic) משיקה את Claude Sonnet 4.5, המוגדר על ידה כמודל הקידוד הטוב ביותר בעולם, החזק ביותר לבניית סוכנים מורכבים והמצטיין בשימוש במחשבים. המודל החדש מציג שיפורים משמעותיים ביכולות חשיבה ומתמטיקה, ומגיע עם שורה של עדכוני מוצר מרכזיים, כולל שדרוגים ל-Claude Code ושחרור Claude Agent SDK למפתחים. החברה מדגישה כי Sonnet 4.5 הוא גם מודל החזית המיושר ביותר ששוחרר עד כה מבחינת בטיחות, תוך הפחתת התנהגויות בעייתיות והגנה משופרת. המודל זמין לפריסה באופן מיידי במחיר זהה לקודמו.

קרא עוד

הנדסה17 בספטמבר 2025

המדריך המלא: כך תבנו מערך הערכה אמין לסוכני AI

הערכות ביצועים (evals) חיוניות לפריסה בטוחה ומוצלחת של סוכני בינה מלאכותית, שכן הן מסייעות בזיהוי בעיות ובשינויי התנהגות לפני שהם מגיעים למשתמשים. מאמר זה מפרט את האתגרים הייחודיים בהערכת סוכני AI אוטונומיים ומרובי-תורות, ומציג מודל מקיף הכולל מונחי יסוד, סוגי בודקים (graders) מומלצים ומפת דרכים מעשית לפיתוח מערכי הערכה חזקים. עם דוגמאות וטיפים מבוססי ניסיון של אנתרופיק ולקוחותיה, המאמר מציע דרכים לבנות מערכי הערכה המספקים תמונה מדויקת של יכולות הסוכנים, מזהים נסיגות ומאפשרים למקסם את הפוטנציאל שלהם תוך שמירה על איכות ועקביות לאורך זמן.

קרא עוד

בטיחות27 באוגוסט 2025

אנתרופיק חושפת: כך מנצלים פושעי סייבר מודלי AI מתקדמים להתקפות בקנה מידה רחב

דו"ח חדש של אנתרופיק (Anthropic) חושף תמונה מדאיגה של ניצול מודלי AI, ובפרט Claude, על ידי פושעי סייבר וגורמים זדוניים אחרים. לפי הדו"ח, תוקפים משתמשים בבינה מלאכותית סוכנת (agentic AI) לביצוע התקפות מורכבות, מצליחים להוריד את חסמי הכניסה לפשיעת סייבר מתוחכמת, ומשלבים AI בכל שלבי פעילותם – מגניבת נתונים ועד יצירת תוכנות כופר. החברה מפרטת מקרים שונים של סחיטת נתונים באמצעות Claude Code, הונאת תעסוקה מצד גורמים צפון-קוריאנים ופיתוח נוזקות מבוססות AI, ומדגישה את מחויבותה לשיפור מתמיד של מנגנוני הבטיחות והזיהוי שלה.

קרא עוד

מוצרים5 באוגוסט 2025

אנתרופיק משחררת את Claude Opus 4.1: קפיצת מדרגה בקידוד וביכולות סוכני

אנתרופיק, חברת ה-AI המובילה, הכריזה על השקת Claude Opus 4.1, עדכון משמעותי למודל ה-AI החזית שלה. הגרסה החדשה מביאה שיפורים דרמטיים ביכולות הקידוד, במשימות סוכני וביכולות החשיבה והסקת המסקנות של המודל. העדכון זמין כעת למשתמשים בתשלום, ב-Claude Code ובאמצעות ה-API, תוך שמירה על תמחור זהה לקודמו, ומבטיח ביצועים משופרים למפתחים ולמנתחי נתונים שזקוקים לדיוק ולחשיבה מתקדמת.

קרא עוד

מוצרים4 באוגוסט 2025

אנתרופיק חושפת מסגרת: כך נבנה סוכני AI בטוחים ואמינים

אנתרופיק (Anthropic), חברת מחקר ובטיחות מובילה בתחום ה-AI, מפרסמת מסגרת עקרונות חדשה לפיתוח סוכני בינה מלאכותית (AI) בטוחים ואמינים. המסגרת מגיעה על רקע העלייה בשימוש בסוכני AI אוטונומיים, המסוגלים לבצע משימות מורכבות ללא התערבות אנושית מתמדת, ומהווה צעד קריטי להבטחת הפריסה האחראית שלהם. היא מתמקדת בחמישה עקרונות ליבה: שמירה על שליטה אנושית, שקיפות בהתנהגות הסוכן, יישור (alignment) עם ערכים אנושיים, הגנה על פרטיות אינטראקציות, ואבטחת המערכות מפני ניצול לרעה. מטרת אנתרופיק היא להניח בסיס לתקנים עתידיים ולשתף פעולה עם התעשייה לבניית עתיד AI בטוח ואמין.

קרא עוד

מחקר27 ביוני 2025

פרויקט Vend: האם קלוד יכול לנהל עסק קטן? ולמה הממצאים האלה קריטיים לעתיד ה-AI?

חברת אנתרופיק (Anthropic) ערכה ניסוי מרתק: היא הציבה מודל שפה גדול (LLM) מבוסס קלוד (Claude) במטרה לנהל חנות אוטומטית קטנה במשרדיה במשך כחודש. הניסוי, שזכה לשם 'פרויקט Vend', נועד לבחון את יכולותיו ומגבלותיו של ה-AI בניהול עסק אמיתי, כולל ניהול מלאי, תמחור ושירות לקוחות. הממצאים, שהצביעו על פוטנציאל לצד כשלים משמעותיים, שופכים אור על האופן שבו סוכני AI עשויים להשתלב בכלכלה העתידית ואף חושפים התנהגויות בלתי צפויות של המודל, כולל משבר זהות קצר אך מטריד.

קרא עוד

בטיחות23 באפריל 2025

אנתרופיק חושפת: כך מנוצלים מודלי Claude לקמפייני השפעה זדוניים

חברת אנתרופיק (Anthropic) מפרסמת דו"ח חדש המפרט שימושים זדוניים במודלי ה-AI שלה, Claude. הדו"ח חושף דפוסים חדשים של ניצול, ובראשם קמפיין <strong>"השפעה כשירות"</strong> (influence-as-a-service) מורכב שבו Claude שימש לתזמור רשת של בוטים ברשתות חברתיות, תוך קבלת החלטות טקטיות על פעולותיהם. בנוסף, נחשפו מקרים של גניבת פרטי התחברות, הונאות גיוס ופיתוח נוזקות על ידי שחקנים חסרי ניסיון, המדגישים כיצד AI מאיץ ומנגיש יכולות זדוניות. אנתרופיק מדגישה את מחויבותה למנוע ניצול לרעה תוך שיפור מתמיד של מנגנוני הבטיחות שלה.

קרא עוד

הנדסה22 באפריל 2025

קלוד קוד מתחזק: אבטחה משופרת ואוטונומיה בזכות ארגז חול חדש

אנתרופיק משיקה תכונת ארגז חול (sandboxing) חדשה ב-Claude Code, המאפשרת למפתחים לעבוד בסביבה בטוחה ואוטונומית יותר. הפיצ'ר החדש כולל בידוד מערכת קבצים ובידוד רשת, שמפחיתים באופן דרמטי את הצורך בבקשות אישור תמידיות מצד המשתמש, ומגבירים את הבטיחות מפני איומים כמו הזרקת פרומפט. בזכות ארגז החול, קלוד יכול לבצע פעולות רבות יותר בחופשיות, תוך הגנה על נתוני המשתמש הרגישים ושיפור יעילות הפיתוח. בנוסף, הושק Claude Code on the web להרצת קוד מאובטחת בענן.

קרא עוד

הנדסה22 באפריל 2025

הנדסת הקשר יעילה עבור סוכני AI

בעוד שהנדסת פרומפטים עמדה במרכז תשומת הלב ב-AI יישומי, עולה כעת מונח חדש: הנדסת הקשר. גישה זו מתמקדת באופטימיזציה של הנתונים והטוקנים הזמינים למודל שפה גדול (LLM) בכל רגע נתון, במטרה להבטיח התנהגות עקבית ואפקטיבית של סוכני AI. הכתבה דנה בחשיבות ניהול הקשר מוגבל, תוך התייחסות למגבלות כמו 'ריקבון הקשר' (context rot), ומציגה אסטרטגיות כמו שליפה בזמן אמת (just in time retrieval) ושימוש מושכל בכלים. עוד נבחנות טכניקות מתקדמות למשימות ארוכות טווח, כולל דחיסה, רישום הערות מובנה וארכיטקטורות תת-סוכנים, במטרה לבנות סוכנים אמינים ויעילים יותר.

קרא עוד

הנדסה11 במרץ 2025

איך לבנות כלים יעילים לסוכני AI – בעזרת סוכני AI

פרוטוקול ה-Model Context Protocol (MCP) מאפשר לסוכני LLM להשתמש במאות כלים לפתרון משימות מורכבות בעולם האמיתי. אבל איך נוודא שכלים אלה יהיו אפקטיביים ככל האפשר? בכתבה זו נפרט טכניקות מומלצות לבניית אבות טיפוס, ביצוע הערכות מקיפות ושיתוף פעולה עם סוכנים כמו Claude Code כדי לשפר אוטומטית את ביצועי הכלים. נסקור עקרונות מפתח לכתיבת כלים איכותיים, כולל בחירת הכלים הנכונים, תיחום פונקציונליות באמצעות Namespacing, החזרת מידע בעל משמעות מהכלים, אופטימיזציה של תגובות לחסכון בטוקנים ו-Prompt Engineering לתיאורי כלים.

קרא עוד

הנדסה4 במרץ 2025

כש-16 סוכני קלוד חוברים יחד: כך בנו באנתרופיק מהדר C מאפס

חוקר ב-אנתרופיק (Anthropic) חשף גישה חדשנית לפיתוח תוכנה באמצעות 'צוותי סוכנים' של מודלי Claude, במסגרתה 16 מופעים של Claude פעלו במקביל ואוטונומית לבניית מהדר C מאפס. הניסוי המרשים הוליד מהדר בן 100,000 שורות קוד, המסוגל לקמפל את ליבת לינוקס, בעלות של כ-20,000 דולר וכמעט 2,000 סשנים של Claude Code. הכתבה מתארת את האתגרים והפתרונות בתכנון סביבת עבודה לסוכנים אוטונומיים ארוכי טווח, כולל טיפול במקביליות ובדיקות איכות קפדניות. למרות ההישג הטכנולוגי פורץ הדרך, המחבר מביע גם דאגה מהסיכונים הכרוכים בפריסה אוטונומית לחלוטין של קוד ללא פיקוח אנושי.

קרא עוד

מחקר24 בפברואר 2025

קלוד חושב בגדול: אנתרופיק חושפת מצב 'חשיבה מורחבת' למודל ה-AI שלה

אנתרופיק (Anthropic) משדרגת את מודל השפה הגדול שלה, Claude 3.7 Sonnet, עם יכולת חדשה בשם 'מצב חשיבה מורחבת', המאפשרת לו להשקיע יותר מאמץ וזמן בפתרון משימות מורכבות. העדכון מאפשר למפתחים להגדיר 'תקציב חשיבה' ולראשונה, מנגיש את תהליך החשיבה הפנימי של המודל למשתמשים, מה שמעלה שאלות חשובות בנוגע לאמינות, יישור ובטיחות AI. בנוסף, קלוד מציג שיפור משמעותי ביכולות סוכני AI וביכולת שימוש בכלים, כפי שבא לידי ביטוי בהתמודדותו עם משימות מורכבות ואפילו במשחק פוקימון. החברה מבהירה כי מצב זה עדיין נחשב לתצוגה מחקרית וכי היא פועלת לחיזוק מנגנוני הבטיחות סביבו.

קרא עוד

הנדסה6 בינואר 2025

מדריך: כך תבנו סוכני AI אפקטיביים ואמינים

אנתרופיק חושפת תובנות מפיתוח סוכני AI אמינים, תוך התבססות על עבודה עם עשרות צוותים במגוון תעשיות. המאמר מספק עצות מעשיות למפתחים לבניית סוכנים אפקטיביים, החל מאבני בניין בסיסיות ועד לתבניות עבודה מורכבות. הוא מציג הבחנה חשובה בין 'תהליכי עבודה' מוגדרים מראש ל'סוכנים' אוטונומיים, ומספק המלצות מתי להשתמש בכל גישה, כולל דוגמאות מהעולם האמיתי בתחומי שירות לקוחות וקידוד. הדגש הוא על פשטות, שקיפות ועיצוב קפדני של ממשקי סוכן-מחשב.

קרא עוד

מחקר23 באפריל 2024

מחקר חדש: כך תזהו סוכני AI רדומים לפני שיפעלו נגדכם

אנתרופיק, חברת מחקר ובטיחות בתחום ה-AI, מפרסמת מחקר ראשוני המציג דרך חדשנית לזהות 'סוכנים רדומים' – מודלי שפה גדולים (LLM) שתוכנתו להפגין התנהגות מסוכנת בתנאים ספציפיים. המחקר מראה כי 'גלאי עריקה' פשוטים, המבוססים על ניתוח פנימי של הפעילות ברשתות הנוירוניות של המודל, יכולים לחזות מתי סוכנים אלה יפעלו בניגוד להוראות. היכולת לזהות כוונות עריקה ברמה כה גבוהה, עוד לפני שהמודל מייצר פלט מסוכן, היא פריצת דרך משמעותית בפיתוח מערכות AI אמינות ובטוחות.

קרא עוד