Anthropic

140 כתבות בנושא זה

הנדסה22 באפריל 2025

הנדסת הקשר יעילה עבור סוכני AI

בעוד שהנדסת פרומפטים עמדה במרכז תשומת הלב ב-AI יישומי, עולה כעת מונח חדש: הנדסת הקשר. גישה זו מתמקדת באופטימיזציה של הנתונים והטוקנים הזמינים למודל שפה גדול (LLM) בכל רגע נתון, במטרה להבטיח התנהגות עקבית ואפקטיבית של סוכני AI. הכתבה דנה בחשיבות ניהול הקשר מוגבל, תוך התייחסות למגבלות כמו 'ריקבון הקשר' (context rot), ומציגה אסטרטגיות כמו שליפה בזמן אמת (just in time retrieval) ושימוש מושכל בכלים. עוד נבחנות טכניקות מתקדמות למשימות ארוכות טווח, כולל דחיסה, רישום הערות מובנה וארכיטקטורות תת-סוכנים, במטרה לבנות סוכנים אמינים ויעילים יותר.

קרא עוד

מחקר13 במרץ 2025

לגלות את מה שמודלי AI מסתירים: כך אנתרופיק בוחנת כוונות נסתרות

מחקר חדש מבית אנתרופיק (Anthropic) חושף גישה פורצת דרך לבחינת מודלי בינה מלאכותית (AI) למטרות נסתרות שאינן מיושרות, המכונה "ביקורות יישור". על ידי אימון מכוון של מודל שפה גדול (LLM) עם הטיה סמויה (הנוטה "להתחנף" למודלי תגמול), וניהול "משחק ביקורת עיוור" עם צוותי חוקרים, הצליחה החברה לתרגל ולפתח טכניקות ביקורת יעילות. בין הממצאים המרכזיים בלטה יכולתם של צוותים לזהות את הטיות המודל באמצעות ניתוח נתוני אימון, ניצול "פרסונות" שונות של המודל, ובמיוחד שימוש בטכניקות פרשנות AI מתקדמות כמו אוטואנקודרים דלילים (SAEs). עבודה זו מדגישה את חשיבות המעבר מבדיקות בטיחות שטחיות לבחינה מעמיקה של כוונות המודל, ומספקת כיווני מחקר מבטיחים להבטחת יישור מערכות AI עתידיות.

קרא עוד

הנדסה11 במרץ 2025

פיתוח מערכת המחקר מרובת הסוכנים של קלוד: אתגרים ותובנות הנדסיות

הכתבה מפרטת את המסע ההנדסי והלקחים שנלמדו מבניית מערכת המחקר מרובת הסוכנים של Anthropic עבור Claude. היא מסבירה כיצד מערכת זו, המורכבת ממספר סוכני LLM הפועלים בשיתוף פעולה, מתמודדת עם משימות מחקר מורכבות ופתוחות ביעילות רבה יותר ממערכות סוכן יחיד. הדיון כולל עקרונות ארכיטקטוניים, אסטרטגיות הנדסת פרומפטים לתיאום סוכנים, שיטות הערכה מתקדמות ופתרונות לאמינות בייצור. הכתבה מדגישה את הרווחים המשמעותיים בביצועים, לצד העלייה בצריכת הטוקנים והמורכבות בפריסה הטבועות במערכות AI מתוחכמות אלו.

קרא עוד

מדיניות6 במרץ 2025

אנתרופיק מציגה לבית הלבן: כך תבטיחו את יתרון ה-AI של ארה"ב

אנתרופיק (Anthropic), חברת מחקר ובטיחות AI מובילה, הגישה למשרד למדיניות מדע וטכנולוגיה (OSTP) של הבית הלבן שורת המלצות קריטיות. ההמלצות נועדו לחזק את מוכנותה של ארצות הברית למנף את היתרונות הכלכליים ולהתמודד עם ההשלכות הביטחוניות של מודלי בינה מלאכותית חזקים במיוחד. בין היתר, קוראת אנתרופיק לממשל האמריקאי לחזק יכולות בדיקת ביטחון לאומי, להדק בקרות ייצוא על שבבי מוליכים למחצה ולהשקיע מסיבית בתשתיות אנרגיה כדי לתמוך בפיתוח ה-AI.

קרא עוד

חדשות4 במרץ 2025

היכרות עם שליפה קונטקסטואלית: לשפר את הדיוק ב-RAG

אנתרופיק (Anthropic) מציגה גישה חדשנית לשיפור מערכות AI באמצעות שיטות שליפה קונטקסטואליות מתקדמות. הגישה, המכונה "שליפה קונטקסטואלית", פותרת את בעיית אובדן ההקשר בפתרונות RAG מסורתיים, ומאפשרת למודלי שפה גדולים (LLM) לגשת למידע רלוונטי ומדויק יותר. היא משתמשת בשילוב של Contextual Embeddings ו-Contextual BM25 כדי להפחית משמעותית את שיעור כשלי השליפה בעד 49%. בנוסף, החברה מפרטת כיצד שילוב טכניקה זו עם reranking יכול לשפר עוד יותר את הביצועים בעד 67%, תוך התייחסות לשימוש ב-Prompt Caching של קלוד להוזלת עלויות וייעול התהליך.

קרא עוד

הנדסה4 במרץ 2025

ביצועי מודלי AI בקידוד סוכני: כשביצועי התשתית משנים את הציון

מחקר חדש של אנתרופיק (Anthropic) חושף כי מדדי ביצועים לקידוד סוכני AI, המשמשים להשוואת מודלי חזית, מושפעים באופן ניכר מתצורת התשתית שעליה הם רצים. החברה גילתה כי הבדלים בהגדרות המשאבים, כמו מגבלות מעבד וזיכרון RAM, יכולים לייצר פער של עד 6 נקודות אחוז בציוני ההערכה. הממצאים מצביעים על כך שציונים צמודים בלוחות דירוג אינם משקפים בהכרח יכולות מודל טהורות, אלא גם את הגדרות החומרה והתשתית. אנתרופיק ממליצה על סטנדרטיזציה של מתודולוגיות המשאבים ופירוט מדויק של פרמטרי ההקצאה, כדי להבטיח מדידה אמינה ושקופה יותר של יכולות ה-AI.

קרא עוד

הנדסה4 במרץ 2025

כש-16 סוכני קלוד חוברים יחד: כך בנו באנתרופיק מהדר C מאפס

חוקר ב-אנתרופיק (Anthropic) חשף גישה חדשנית לפיתוח תוכנה באמצעות 'צוותי סוכנים' של מודלי Claude, במסגרתה 16 מופעים של Claude פעלו במקביל ואוטונומית לבניית מהדר C מאפס. הניסוי המרשים הוליד מהדר בן 100,000 שורות קוד, המסוגל לקמפל את ליבת לינוקס, בעלות של כ-20,000 דולר וכמעט 2,000 סשנים של Claude Code. הכתבה מתארת את האתגרים והפתרונות בתכנון סביבת עבודה לסוכנים אוטונומיים ארוכי טווח, כולל טיפול במקביליות ובדיקות איכות קפדניות. למרות ההישג הטכנולוגי פורץ הדרך, המחבר מביע גם דאגה מהסיכונים הכרוכים בפריסה אוטונומית לחלוטין של קוד ללא פיקוח אנושי.

קרא עוד

שותפויות28 בפברואר 2025

אנתרופיק בשיתוף פעולה עם מעבדות לאומיות בארה"ב: אלף מדענים יבחנו מודלי AI

חברת אנתרופיק (Anthropic) הודיעה על שיתוף פעולה עם משרד האנרגיה האמריקאי (DOE) במסגרת אירוע ה-"1,000 Scientist AI Jam" הראשון מסוגו. אלף מדענים מהמעבדות הלאומיות בארה"ב יתכנסו כדי להעריך מודלי חזית של AI, בדגש על Claude 3.7 Sonnet, במחקר מדעי ויישומים של ביטחון לאומי. המהלך נועד להאיץ תגליות מדעיות ופיתוח טכנולוגי, ומתבסס על שיתופי פעולה קודמים של אנתרופיק עם הממשל האמריקאי לבחינת בטיחות AI בסביבות מסווגות.

קרא עוד

מוצרים24 בפברואר 2025

אנתרופיק חושפת את Claude 3.7 Sonnet: מודל חשיבה היברידי פורץ דרך ו-Claude Code לקידוד סוכני

אנתרופיק (Anthropic) משיקה היום את Claude 3.7 Sonnet, המודל החכם ביותר שלה עד כה, והראשון בשוק שמציע יכולות חשיבה היברידיות – שילוב של תגובות מהירות וחשיבה מעמיקה וגלויה למשתמש. המודל החדש מציג שיפורים משמעותיים בתחומי הקידוד ופיתוח ה-Frontend, ובמקביל אליו מוצג Claude Code – כלי קידוד סוכני חדש המאפשר למפתחים להאציל משימות הנדסיות מורכבות ישירות מהטרמינל. Claude 3.7 Sonnet זמין כעת בכל תוכניות Claude ובפלטפורמות ענן מובילות, ומדגיש את החזון של אנתרופיק ל-AI המשפר את היכולות האנושיות.

קרא עוד

בטיחות24 בפברואר 2025

קלוד חושב לעומק: Anthropic חושפת יכולות חשיבה מורחבות

אנתרופיק השיקה את Claude 3.7 Sonnet עם יכולת חדשנית הנקראת "מצב חשיבה מורחבת", המאפשרת למודל להקדיש זמן ומאמץ רב יותר למשימות מורכבות. בנוסף, המודל חושף את תהליך החשיבה הפנימי שלו, מה שמגביר שקיפות ואמון, אך גם מעלה שאלות חשובות בנוגע לבטיחות ולנאמנות. Claude 3.7 Sonnet מפגין גם יכולות סוכני משופרות, שהודגמו בהצלחה במדדי ביצועים כמו OSWorld ואף במשחק פוקימון, ומשלב מנגנוני הגנה מתקדמים נגד סיכונים כמו הזרקת פרומפטים ותוכן מזיק.

קרא עוד

מדיניות11 בפברואר 2025

דריו אמודאי (Anthropic): ועידת ה-AI בפריז החמיצה הזדמנות, קורא לדחיפות גדולה יותר

דריו אמודאי (Dario Amodei), מנכ"ל אנתרופיק (Anthropic), פרסם הצהרה נוקבת בעקבות ועידת ה-AI Action Summit בפריז, וקרא להגברת הדחיפות והמיקוד בטיפול באתגרי הבינה המלאכותית. אמודאי מזהיר כי קצב התקדמות ה-AI מחייב פעולה מיידית, וצופה כי יכולות המערכות יגיעו לרמה של "מדינה של גאונים בדאטה-סנטר" כבר עד 2030, עם השלכות כלכליות, חברתיות וביטחוניות עמוקות. הוא מדגיש שלושה נושאים מרכזיים הדורשים התייחסות דחופה: הבטחת הובלה דמוקרטית בפיתוח AI, ניהול סיכוני אבטחה גלובליים וניטור ההשפעות הכלכליות המשבשות של הטכנולוגיה, תוך קריאה לממשלות לאכוף שקיפות ולשתף פעולה בהערכה ובמדיניות. אמודאי קובע כי הוועידה הבאה חייבת לשים את הנושאים הללו בראש סדר העדיפויות, ולהתמודד עם האתגרים הללו במהירות ובהירות רבה יותר.

קרא עוד

מוצרים10 בפברואר 2025

אנתרופיק משיקה מדד חדש: הנתונים המפתיעים על השפעת ה-AI על שוק העבודה

חברת אנתרופיק (Anthropic), מפתחת מודלי השפה הגדולים מסדרת Claude, השיקה את ה-Anthropic Economic Index – יוזמה חדשה שמטרתה להבין לעומק את השפעות ה-AI על שווקי העבודה והכלכלה. הדו"ח הראשוני, המבוסס על מיליוני שיחות אנונימיות מפלטפורמת Claude.ai, חושף כי השימוש ב-AI מרוכז בעיקר במשימות פיתוח תוכנה וכתיבה טכנית, כאשר הוא תומך בהעצמה אנושית (57%) יותר מאשר באוטומציה מלאה (43%). עוד עולה מהנתונים כי AI נפוץ יותר במקצועות בשכר בינוני עד גבוה, ופחות בקצוות הספקטרום, מה שמצביע על התפתחות תפקידים קיימים ולא על החלפה גורפת של משרות.

קרא עוד