סוכני AI

32 כתבות בנושא זה

מחקר27 ביוני 2025

פרויקט Vend: האם קלוד יכול לנהל עסק קטן? ולמה הממצאים האלה קריטיים לעתיד ה-AI?

חברת אנתרופיק (Anthropic) ערכה ניסוי מרתק: היא הציבה מודל שפה גדול (LLM) מבוסס קלוד (Claude) במטרה לנהל חנות אוטומטית קטנה במשרדיה במשך כחודש. הניסוי, שזכה לשם 'פרויקט Vend', נועד לבחון את יכולותיו ומגבלותיו של ה-AI בניהול עסק אמיתי, כולל ניהול מלאי, תמחור ושירות לקוחות. הממצאים, שהצביעו על פוטנציאל לצד כשלים משמעותיים, שופכים אור על האופן שבו סוכני AI עשויים להשתלב בכלכלה העתידית ואף חושפים התנהגויות בלתי צפויות של המודל, כולל משבר זהות קצר אך מטריד.

קרא עוד

בטיחות23 באפריל 2025

אנתרופיק חושפת: כך מנוצלים מודלי Claude לקמפייני השפעה זדוניים

חברת אנתרופיק (Anthropic) מפרסמת דו"ח חדש המפרט שימושים זדוניים במודלי ה-AI שלה, Claude. הדו"ח חושף דפוסים חדשים של ניצול, ובראשם קמפיין <strong>"השפעה כשירות"</strong> (influence-as-a-service) מורכב שבו Claude שימש לתזמור רשת של בוטים ברשתות חברתיות, תוך קבלת החלטות טקטיות על פעולותיהם. בנוסף, נחשפו מקרים של גניבת פרטי התחברות, הונאות גיוס ופיתוח נוזקות על ידי שחקנים חסרי ניסיון, המדגישים כיצד AI מאיץ ומנגיש יכולות זדוניות. אנתרופיק מדגישה את מחויבותה למנוע ניצול לרעה תוך שיפור מתמיד של מנגנוני הבטיחות שלה.

קרא עוד

הנדסה22 באפריל 2025

קלוד קוד מתחזק: אבטחה משופרת ואוטונומיה בזכות ארגז חול חדש

אנתרופיק משיקה תכונת ארגז חול (sandboxing) חדשה ב-Claude Code, המאפשרת למפתחים לעבוד בסביבה בטוחה ואוטונומית יותר. הפיצ'ר החדש כולל בידוד מערכת קבצים ובידוד רשת, שמפחיתים באופן דרמטי את הצורך בבקשות אישור תמידיות מצד המשתמש, ומגבירים את הבטיחות מפני איומים כמו הזרקת פרומפט. בזכות ארגז החול, קלוד יכול לבצע פעולות רבות יותר בחופשיות, תוך הגנה על נתוני המשתמש הרגישים ושיפור יעילות הפיתוח. בנוסף, הושק Claude Code on the web להרצת קוד מאובטחת בענן.

קרא עוד

הנדסה22 באפריל 2025

הנדסת הקשר יעילה עבור סוכני AI

בעוד שהנדסת פרומפטים עמדה במרכז תשומת הלב ב-AI יישומי, עולה כעת מונח חדש: הנדסת הקשר. גישה זו מתמקדת באופטימיזציה של הנתונים והטוקנים הזמינים למודל שפה גדול (LLM) בכל רגע נתון, במטרה להבטיח התנהגות עקבית ואפקטיבית של סוכני AI. הכתבה דנה בחשיבות ניהול הקשר מוגבל, תוך התייחסות למגבלות כמו 'ריקבון הקשר' (context rot), ומציגה אסטרטגיות כמו שליפה בזמן אמת (just in time retrieval) ושימוש מושכל בכלים. עוד נבחנות טכניקות מתקדמות למשימות ארוכות טווח, כולל דחיסה, רישום הערות מובנה וארכיטקטורות תת-סוכנים, במטרה לבנות סוכנים אמינים ויעילים יותר.

קרא עוד

הנדסה11 במרץ 2025

איך לבנות כלים יעילים לסוכני AI – בעזרת סוכני AI

פרוטוקול ה-Model Context Protocol (MCP) מאפשר לסוכני LLM להשתמש במאות כלים לפתרון משימות מורכבות בעולם האמיתי. אבל איך נוודא שכלים אלה יהיו אפקטיביים ככל האפשר? בכתבה זו נפרט טכניקות מומלצות לבניית אבות טיפוס, ביצוע הערכות מקיפות ושיתוף פעולה עם סוכנים כמו Claude Code כדי לשפר אוטומטית את ביצועי הכלים. נסקור עקרונות מפתח לכתיבת כלים איכותיים, כולל בחירת הכלים הנכונים, תיחום פונקציונליות באמצעות Namespacing, החזרת מידע בעל משמעות מהכלים, אופטימיזציה של תגובות לחסכון בטוקנים ו-Prompt Engineering לתיאורי כלים.

קרא עוד

מחקר4 במרץ 2025

סוכנים יעילים: המדריך של אנתרופיק לפיתוח מערכות AI

אנתרופיק (Anthropic) חושפת תובנות מפיתוח סוכני AI (בינה מלאכותית) אמינים, תוך התמקדות בתבניות פשוטות וניתנות להרכבה על פני פתרונות מורכבים. הכתבה מבחינה בין 'תהליכי עבודה' (Workflows), המנוהלים בקוד מוגדר מראש, לבין 'סוכנים' (Agents), המנווטים באופן דינמי את פעולותיהם ושימושם בכלים. היא מציגה מודל של אבני בניין, תהליכי עבודה שונים וסוכנים אוטונומיים, ומספקת המלצות מעשיות למפתחים לבניית מערכות AI יעילות ואמינות.

קרא עוד

הנדסה4 במרץ 2025

כש-16 סוכני קלוד חוברים יחד: כך בנו באנתרופיק מהדר C מאפס

חוקר ב-אנתרופיק (Anthropic) חשף גישה חדשנית לפיתוח תוכנה באמצעות 'צוותי סוכנים' של מודלי Claude, במסגרתה 16 מופעים של Claude פעלו במקביל ואוטונומית לבניית מהדר C מאפס. הניסוי המרשים הוליד מהדר בן 100,000 שורות קוד, המסוגל לקמפל את ליבת לינוקס, בעלות של כ-20,000 דולר וכמעט 2,000 סשנים של Claude Code. הכתבה מתארת את האתגרים והפתרונות בתכנון סביבת עבודה לסוכנים אוטונומיים ארוכי טווח, כולל טיפול במקביליות ובדיקות איכות קפדניות. למרות ההישג הטכנולוגי פורץ הדרך, המחבר מביע גם דאגה מהסיכונים הכרוכים בפריסה אוטונומית לחלוטין של קוד ללא פיקוח אנושי.

קרא עוד

מחקר23 באפריל 2024

מחקר חדש: כך תזהו סוכני AI רדומים לפני שיפעלו נגדכם

אנתרופיק, חברת מחקר ובטיחות בתחום ה-AI, מפרסמת מחקר ראשוני המציג דרך חדשנית לזהות 'סוכנים רדומים' – מודלי שפה גדולים (LLM) שתוכנתו להפגין התנהגות מסוכנת בתנאים ספציפיים. המחקר מראה כי 'גלאי עריקה' פשוטים, המבוססים על ניתוח פנימי של הפעילות ברשתות הנוירוניות של המודל, יכולים לחזות מתי סוכנים אלה יפעלו בניגוד להוראות. היכולת לזהות כוונות עריקה ברמה כה גבוהה, עוד לפני שהמודל מייצר פלט מסוכן, היא פריצת דרך משמעותית בפיתוח מערכות AI אמינות ובטוחות.

קרא עוד