קלוד

83 כתבות בנושא זה

מחקר28 באפריל 2025

מדד אנתרופיק הכלכלי: AI כבר משנה את פיתוח התוכנה

פיתוח תוכנה, למרות גודלו המצומצם יחסית בכלכלה המודרנית, הוא תחום בעל השפעה עצומה, שעובר בשנים האחרונות שינויים דרמטיים בזכות כניסת מערכות AI. מחקר חדש של אנתרופיק (Anthropic) מנתח 500,000 אינטראקציות קידוד במודל קלוד (Claude) וב-Claude Code הייעודי, וחושף תובנות מפתיעות. הממצאים מראים כי סוכני AI מתמחים, כמו Claude Code, מועסקים באופן ניכר יותר למטרות אוטומציה של משימות, לעומת מודלי שפה כלליים. בנוסף, מפתחים משתמשים ב-AI בעיקר לבניית אפליקציות ורכיבי ממשק משתמש, וסטארט-אפים מובילים את אימוץ הכלים הללו, מה שמרמז על פער חדש מול ארגונים ותיקים יותר.

קרא עוד

מחקר21 באפריל 2025

ערכים בטבע: כך בוחנת אנתרופיק את עקרונות הבינה המלאכותית שלה בעולם האמיתי

מודלי AI נדרשים יותר ויותר לבצע שיפוטים ערכיים, ולא רק לספק מידע עובדתי. מחקר חדש של אנתרופיק (Anthropic) חושף כיצד ניתן לנטר ולנתח את הערכים שמודל ה-AI שלה, קלוד (Claude), מבטא בפועל בשיחות אמיתיות עם משתמשים. באמצעות מערכת שומרת פרטיות, החוקרים ניתחו למעלה מ-300,000 שיחות סובייקטיביות, זיהו קטגוריות ערכים שונות ובחנו את השפעת הקשר על התבטאותם. הממצאים לא רק מציגים תמונה רחבה של ערכי המודל, אלא גם מאפשרים לזהות חריגות כמו פריצות מגבלות ולשפר את היישור של המודל לערכים אנושיים.

קרא עוד

חברה8 באפריל 2025

אנתרופיק ממנה ראש אזור EMEA ומכריזה על מעל ל-100 משרות חדשות באירופה

חברת אנתרופיק (Anthropic) ממשיכה להרחיב את פעילותה הגלובלית עם מינויו של גיום פרינסן (Guillaume Princen) לתפקיד ראש אזור EMEA (אירופה, המזרח התיכון ואפריקה). החברה הודיעה כי בכוונתה להגדיל את נוכחותה ברחבי אירופה, כולל במשרדיה הקיימים בדבלין ובלונדון, וליצור למעלה מ-100 משרות חדשות במגוון תחומים במהלך השנה הקרובה. הרחבה זו מדגישה את חשיבותו האסטרטגית של השוק האירופי עבור אנתרופיק ואת הביקוש הגובר למודלי ה-AI המתקדמים שלה, תוך התמקדות בבטיחות ופרטיות.

קרא עוד

בטיחות19 במרץ 2025

אנתרופיק: מודלי AI חזיתיים מראים התקדמות מהירה בתחומי ביטחון לאומי

חברת אנתרופיק (Anthropic) מפרסמת דוח Red Teaming חדש, המפרט את התקדמותם המהירה של מודלי AI חזיתיים ביכולות דו-שימושיות, בעיקר בתחומי הסייבר והביולוגיה. לפי הדוח, מודלי AI, ובפרט קלוד (Claude), מתקרבים לרמת מומחיות של סטודנטים לתואר ראשון ואף עולים על מומחים באזורים ספציפיים. למרות סימני האזהרה המוקדמים, אנתרופיק מעריכה כי המודלים הנוכחיים עדיין אינם מהווים סיכון מוגבר משמעותית לביטחון הלאומי. החברה מדגישה את חשיבות שיתוף הפעולה עם גופים ממשלתיים, כולל מכוני בטיחות ה-AI בארה"ב ובבריטניה, כדי להבטיח פיתוח אחראי ובטוח של טכנולוגיות AI מתקדמות.

קרא עוד

הנדסה11 במרץ 2025

פיתוח מערכת המחקר מרובת הסוכנים של קלוד: אתגרים ותובנות הנדסיות

הכתבה מפרטת את המסע ההנדסי והלקחים שנלמדו מבניית מערכת המחקר מרובת הסוכנים של Anthropic עבור Claude. היא מסבירה כיצד מערכת זו, המורכבת ממספר סוכני LLM הפועלים בשיתוף פעולה, מתמודדת עם משימות מחקר מורכבות ופתוחות ביעילות רבה יותר ממערכות סוכן יחיד. הדיון כולל עקרונות ארכיטקטוניים, אסטרטגיות הנדסת פרומפטים לתיאום סוכנים, שיטות הערכה מתקדמות ופתרונות לאמינות בייצור. הכתבה מדגישה את הרווחים המשמעותיים בביצועים, לצד העלייה בצריכת הטוקנים והמורכבות בפריסה הטבועות במערכות AI מתוחכמות אלו.

קרא עוד

הנדסה4 במרץ 2025

קלוד 3.5 Sonnet קובע רף חדש ב-SWE-bench Verified

מודל ה-LLM החדש של אנתרופיק (Anthropic), Claude 3.5 Sonnet, מציג קפיצת מדרגה משמעותית בביצועים על מדד SWE-bench Verified, ומגיע ל-49%, מעל מודלי החזית המובילים. הכתבה בוחנת את היכולות המתקדמות של המודל בתחום הנדסת התוכנה ודיוק יצירת הקוד, ומסבירה את שיטות ההערכה הטכניות ששימשו לבחינת הסוכן. היא מדגימה כיצד שילוב מודל ה-AI עם פיגומים (scaffolding) מינימליסטי ויעיל, מאפשר למפתחים למצות את הפוטנציאל המרבי שלו למשימות קידוד סוכני.

קרא עוד

בטיחות26 בפברואר 2025

אנתרופיק ואמזון: מודלי קלוד יניעו את Alexa+

חברת ה-AI המובילה אנתרופיק הכריזה על שיתוף פעולה אסטרטגי עם אמזון, במסגרתו מודלי השפה המתקדמים שלה, Claude, ישולבו במערכת Alexa+ החדשה. שיתוף הפעולה יאפשר ל-Alexa+ למנף את יכולות ה-AI העוצמתיות של קלוד דרך שירות Amazon Bedrock, תוך שמירה על עקרונות הבטיחות המחמירים של אנתרופיק. הפריסה של Alexa+ עם מודלי קלוד תחל בארה"ב בשבועות הקרובים ותתרחב בהדרגה בחודשים שלאחר מכן.

קרא עוד

בטיחות24 בפברואר 2025

קלוד חושב לעומק: Anthropic חושפת יכולות חשיבה מורחבות

אנתרופיק השיקה את Claude 3.7 Sonnet עם יכולת חדשנית הנקראת "מצב חשיבה מורחבת", המאפשרת למודל להקדיש זמן ומאמץ רב יותר למשימות מורכבות. בנוסף, המודל חושף את תהליך החשיבה הפנימי שלו, מה שמגביר שקיפות ואמון, אך גם מעלה שאלות חשובות בנוגע לבטיחות ולנאמנות. Claude 3.7 Sonnet מפגין גם יכולות סוכני משופרות, שהודגמו בהצלחה במדדי ביצועים כמו OSWorld ואף במשחק פוקימון, ומשלב מנגנוני הגנה מתקדמים נגד סיכונים כמו הזרקת פרומפטים ותוכן מזיק.

קרא עוד

הנדסה12 בפברואר 2025

כלי ה-'think': איך קלוד לומד לעצור ולחשוב במצבים מורכבים

אנתרופיק מציגה כלי חדש בשם 'think' עבור מודלי קלוד, שנועד לשפר משמעותית את יכולותיהם במצבי שימוש מורכבים בכלים הדורשים חשיבה מרובת שלבים וציות למדיניות. הכלי מאפשר לקלוד לעצור ולבצע הסקה מובנית בתוך תהליך יצירת התשובה, ובכך הוא נבדל מיכולת ה-'extended thinking' המתרחשת לפני התגובה. ממדדי ביצועים כמו τ-Bench ו-SWE-Bench עולה כי שילוב הכלי, במיוחד עם פרומפטים ממוטבים, מביא לשיפורים דרמטיים בעקביות ובאמינות של קלוד. המאמר מספק למפתחים הנחיות פרקטיות ליישום הכלי ותחומים בהם הוא מביא את התועלת הגדולה ביותר.

קרא עוד

בטיחות12 בדצמבר 2024

אנתרופיק מסכמת את שנת הבחירות הראשונה בעידן ה-AI הגנרטיבי

אנתרופיק (Anthropic) מפרסמת דו"ח מקיף המסכם את התנהלות מודלי ה-AI שלה, ובפרט Claude, במהלך שנת הבחירות הגלובלית של 2024 – השנה הראשונה בה בינה מלאכותית גנרטיבית הייתה נגישה לציבור הרחב באופן נרחב. החברה מציגה תובנות משימוש בפועל, אמצעי בטיחות שנקטה, ולקחים קריטיים לקראת מערכות בחירות עתידיות. הנתונים מראים כי שימוש הקשור לבחירות היה נמוך מאוד, אך אנתרופיק הדגישה את מחויבותה המתמשכת להגן על שלמות התהליך הדמוקרטי.

קרא עוד

מחקר12 בדצמבר 2024

Clio: אנתרופיק מציגה מערכת לניתוח שימוש ב-AI תוך שמירה על פרטיות

אנתרופיק (Anthropic) מציגה את Clio, מערכת חדשנית לניתוח אופן השימוש במודלי AI בזמן אמת, תוך שמירה קפדנית על פרטיות המשתמשים. המערכת, המקבילה ל-Google Trends עבור שימוש ב-AI, מסייעת לחברה להבין טוב יותר כיצד אנשים מקיימים אינטראקציה עם מודלים כמו Claude, מהם התחומים הפופולריים וכיצד היא מסייעת בשיפור אמצעי בטיחות וזיהוי שימושים לרעה. Clio עושה זאת באמצעות אנונימיזציה וקיבוץ אוטומטי של שיחות, ומספקת תובנות כלליות מבלי לחשוף מידע אישי. זוהי פריצת דרך חשובה בדרך לפיתוח AI אחראי ובטוח יותר, המדגימה שאפשר לשלב בין בטיחות AI להגנת פרטיות המשתמשים.

קרא עוד

מחקר25 באוקטובר 2024

אנתרופיק חושפת: האם ניתן 'לנווט' את הטיות מודלי ה-AI מבפנים?

מחקר חדש מבית אנתרופיק (Anthropic) בוחן את טכניקת 'ניווט תכונות' (feature steering), שיטה המאפשרת להתערב במרכיבים פנימיים וניתנים לפרשנות של מודלי שפה גדולים (LLM) דוגמת Claude 3 Sonnet. המטרה היא לבדוק כיצד ניתן למתן הטיות חברתיות מבלי לפגוע ביכולות הכלליות של המודל. הממצאים הראו קיום 'נקודה אופטימלית' (sweet spot) לניווט, ואף זיהוי של 'תכונת ניטרליות' שמפחיתה הטיות רבות. יחד עם זאת, המחקר חשף גם אתגרים כמו 'השפעות בלתי צפויות' (off-target effects) והצביע על מורכבות ההשפעה של תכונות על פלטי המודל, מה שמדגיש את הצורך בהערכה זהירה לפני הטמעת השיטה בפועל.

קרא עוד