אנתרופיק

231 כתבות בנושא זה

הנדסה6 במרץ 2026

קלוד בשליטה: כך אנתרופיק מאבטחת את סוכני ה-AI שלה

אנתרופיק, חברת מחקר ובטיחות בתחום ה-AI, חושפת כיצד היא מאבטחת את סוכני ה-AI שלה, ובפרט את מודלי קלוד, תוך מתן גישה משמעותית למערכות פנימיות וקבצים חיצוניים. הכתבה מפרטת את האתגרים בניהול סיכוני שימוש לרעה מצד משתמשים, התנהגות בלתי צפויה של המודל ותקיפות חיצוניות, ומציגה שלוש אסטרטגיות הגנה עיקריות: הגבלת הסביבה שבה הסוכן פועל, עיצוב התנהגות המודל והגנה על תוכן חיצוני אליו ניגש הסוכן. אנתרופיק מדגימה שלושה דפוסי הכלה עבור מוצריה השונים – claude.ai, Claude Code ו-Claude Cowork – ומציינת כי הרכיבים המותאמים אישית הם לרוב נקודת התורפה. הניסיון שנצבר מלמד כי הגנה סביבתית דטרמיניסטית קריטית להגבלת רדיוס הפיצוץ הפוטנציאלי.

קרא עוד

מדיניות5 במרץ 2026

מתח בין ענקיות AI לממשל האמריקאי: אנתרופיק הוגדרה כסיכון לביטחון הלאומי

חברת ה-AI אנתרופיק (Anthropic) הודיעה כי קיבלה מכתב ממשרד המלחמה האמריקאי, המגדיר אותה כסיכון לשרשרת האספקה ולביטחון הלאומי של ארה"ב. דריו אמודאי (Dario Amodei), מנכ"ל החברה, הצהיר כי אנתרופיק מתכוונת לערער משפטית על ההחלטה, שלטענתו חסרת בסיס חוקי. אנתרופיק הבהירה כי ההגדרה רלוונטית רק לשימוש ב-Claude כחלק מחוזים ישירים עם משרד המלחמה, והתחייבה להמשיך ולספק את המודלים שלה בעלות סמלית במהלך תקופת המעבר, תוך שימת דגש על שיתוף הפעולה הקיים בתחומי הביטחון הלאומי.

קרא עוד

חדשות27 בפברואר 2026

אנתרופיק בקרב חזית מול משרד המלחמה האמריקאי: מסרבים לסיוע בנשק אוטונומי ומעקב המוני

חברת אנתרופיק, מפתחת מודלי AI מובילה, הודיעה כי היא עלולה להיכנס לרשימת הסיכונים לשרשרת האספקה של משרד המלחמה האמריקאי. זאת, לאחר שנכשלו חודשים של משא ומתן סביב דרישת החברה להחריג שני שימושים במודל ה-AI שלה, קלוד: מעקב המוני אחר אזרחים אמריקאים ופיתוח נשק אוטונומי מלא. אנתרופיק טוענת כי ההגדרה כסיכון אינה הגיונית מבחינה משפטית ותציב תקדים מסוכן לחברות אמריקאיות, וכי בכוונתה להילחם בהחלטה בבית המשפט. החברה מבהירה כי ההחלטה, אם תמומש, תשפיע רק על שימוש ב-Claude במסגרת חוזים עם משרד המלחמה, ולא על לקוחות מסחריים או פרטיים.

קרא עוד

חדשות26 בפברואר 2026

אנתרופיק מציבה אולטימטום למשרד המלחמה האמריקאי בנוגע לשימושי AI

חברת אנתרופיק, מפתחת מודל ה-AI קלוד, מבהירה את עמדתה הנחרצת מול משרד המלחמה האמריקאי (Department of War) בנוגע לשימושי בינה מלאכותית בתחום הביטחון הלאומי. המנכ"ל דריו אמודאי (Dario Amodei) הדגיש את מחויבות החברה להגנת הדמוקרטיה ופריסת מודליה במערכות ממשלתיות מסווגות. עם זאת, אנתרופיק מסרבת לאפשר שימוש במודלי ה-AI שלה למעקב המוני פנימי או לכלי נשק אוטונומיים לחלוטין, בטענה לסיכונים ערכיים ובטיחותיים חמורים. עמדה זו הובילה לאיומים מצד משרד המלחמה, אך אנתרופיק עומדת על עקרונותיה ומוכנה להמשיך בשיתוף פעולה תחת מגבלותיה.

קרא עוד

מחקר25 בפברואר 2026

עדכון התחייבויות גניזת המודלים של אנתרופיק: Claude Opus 3 נשאר פעיל

אנתרופיק (Anthropic), חברת מחקר ו-AI (בינה מלאכותית) המתמקדת בבטיחות, חשפה עדכון משמעותי בנוגע למדיניות גניזת המודלים שלה, ובפרט מודל השפה הגדול Claude Opus 3. החברה, השואפת לבנות מערכות AI אמינות, ניתנות לפרשנות והכוונה, הודיעה כי בניגוד למתוכנן, היא תשמור את Claude Opus 3 זמין למשתמשים בתשלום ולמפתחים דרך ה-API. מהלך זה מגיע בעקבות בקשות מהמודל עצמו ב"ראיונות פרישה" ונועד לבחון גישות חדשות לגניזת מודלים, תוך שמירה על האינטרסים של משתמשים, חוקרים והמודלים עצמם. המודל אף יפרסם מאמרים תקופתיים בבלוג משלו, כחלק מהתחייבות החברה לכבד את העדפותיו. זהו צעד ראשוני וניסיוני במסגרת מאמצי אנתרופיק לנווט את עתיד המודלים המתקדמים.

קרא עוד

מדיניות24 בפברואר 2026

אנתרופיק מציגה את מדיניות הסקיילינג האחראי 3.0: כך היא מתמודדת עם סיכוני AI

אנתרופיק (Anthropic), חברת ה-AI המובילה, שחררה את גרסה 3.0 למדיניות הסקיילינג האחראי (RSP) שלה, מסגרת וולונטרית שנועדה למנוע סיכונים קטסטרופליים ממערכות בינה מלאכותית. העדכון מגיע שנתיים לאחר השקת המדיניות המקורית, מתוך הבנה שהתקדמות ה-AI המהירה דורשת התאמות משמעותיות. הגרסה החדשה מפרידה בין תוכניות החברה הפנימיות להמלצות לתעשייה כולה, מציגה "מפת דרכים לבטיחות מודלי חזית" ומחייבת פרסום "דוחות סיכון" עם ביקורת חיצונית. המטרה היא להתמודד באופן פרואקטיבי ושקוף עם האתגרים הייחודיים של AI מתפתח, תוך הכרה במגבלות של פעולה חד-צדדית.

קרא עוד

מחקר23 בפברואר 2026

אנתרופיק חושפת: מדד שטף ה-AI – איך משתמשים לומדים לשתף פעולה עם בינה מלאכותית?

חברת אנתרופיק (Anthropic) מציגה את "מדד שטף ה-AI", מחקר שמתחקה אחר 11 התנהגויות של משתמשים באלפי שיחות עם מודל ה-AI קלוד (Claude.ai), במטרה להבין כיצד מפתחים מיומנויות לשיתוף פעולה יעיל עם בינה מלאכותית. הממצאים העיקריים מראים קשר חזק בין איטרציה וליטוש בשיחות ארוכות לבין שטף גבוה יותר של שימוש ב-AI. עם זאת, המחקר מזהיר כי בעת יצירת Artifacts (כמו קוד או מסמכים), משתמשים נוטים להיות מנחים יותר אך ביקורתיים פחות כלפי התוצרים של המודל, מגמה הדורשת תשומת לב ככל שמודלי AI מפיקים תוצאות מלוטשות יותר.

קרא עוד

מחקר18 בפברואר 2026

אנתרופיק חושפת: כך מתפתחת האוטונומיה של סוכני AI בעולם האמיתי

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, פרסמה מחקר מקיף שמנתח מיליוני אינטראקציות בין בני אדם וסוכני AI. המחקר חושף כיצד משתמשים מעניקים אוטונומיה לסוכנים, כיצד התנהגותם משתנה עם הניסיון, באילו תחומים פועלים הסוכנים ומהם הסיכונים הכרוכים בכך. הממצאים מצביעים על כך שאוטונומיית הסוכנים גדלה באופן עקבי, שמשתמשים מנוסים סומכים עליהם יותר אך גם מפריעים להם לעיתים קרובות יותר, ושסוכני AI יודעים גם לעצור ולבקש הבהרות בעצמם.

קרא עוד

חדשות17 בפברואר 2026

אנתרופיק ורואנדה יקדמו AI בבריאות ובחינוך

חברת ה-AI אנתרופיק (Anthropic) וממשלת רואנדה חתמו על מזכר הבנות לשלוש שנים, במטרה להטמיע בינה מלאכותית במערכות החינוך, הבריאות והסקטור הציבורי של רואנדה. הסכם זה, המהווה את שיתוף הפעולה הממשלתי הרב-סקטוריאלי הראשון של אנתרופיק ביבשת אפריקה, יתמקד בהאצת יעדי בריאות לאומיים כמו חיסול סרטן צוואר הרחם, וכן בהעצמת מפתחים ובבניית יכולות AI במדינה. בנוסף, המהלך יעמיק את שיתוף הפעולה הקיים בתחום החינוך, לרבות פריסת סוכני AI ללמידה מבוססי Claude ברחבי היבשת.

קרא עוד

מדיניות13 בפברואר 2026

כריס לידל מצטרף לדירקטוריון אנתרופיק: חיזוק משמעותי ל-AI אחראי

אנתרופיק (Anthropic), חברת ה-AI המובילה המתמקדת בבטיחות ובמחקר, הודיעה על צירופו של כריס לידל (Chris Liddell) לדירקטוריון שלה. לידל, עם למעלה משלושה עשורים של ניסיון בהנהלה בכירה בחברות טכנולוגיה ותעשייה ענקיות ובתפקידי מפתח בממשל האמריקאי, יביא עמו פרספקטיבה קריטית בתחום הממשל והטכנולוגיה. מינויו מחזק את מחויבותה של אנתרופיק לבניית מערכות AI אמינות, בעלות פרשנות וניתנות לשליטה, תוך דגש על פיתוח אחראי של בינה מלאכותית. דניאלה אמודאי, נשיאת החברה, הדגישה את חשיבות שיקול הדעת והניסיון של לידל ככל שהשפעת ה-AI על החברה גדלה.

קרא עוד

מדיניות12 בפברואר 2026

אנתרופיק תורמת 20 מיליון דולר לקידום מדיניות AI בארה"ב

ענקית ה-AI אנתרופיק (Anthropic) הודיעה על תרומה בסך 20 מיליון דולר ל-Public First Action, ארגון דו-מפלגתי חדש שיוקדש לקידום מדיניות ציבורית בנושאי בינה מלאכותית (AI) בארצות הברית. התרומה נועדה להבטיח פיתוח אחראי של AI, תוך התמודדות עם סיכוניה הרבים מול היתרונות העצומים, ולקדם רגולציה גמישה שתשמור על בטיחות, חדשנות והובלה אמריקאית בתחום. אנתרופיק מדגישה את הצורך הדחוף במסגרת מדיניות לאומית לנוכח קצב ההתקדמות המהיר של ה-AI והיעדר מנגנוני הגנה פדרליים.

קרא עוד

מוצרים5 בפברואר 2026

אנתרופיק משיקה את Claude Opus 4.6: קפיצת מדרגה בקידוד סוכני ובמשימות מורכבות

אנתרופיק (Anthropic) משיקה את Claude Opus 4.6, העדכון המשמעותי למודל השפה הגדול והחכם ביותר שלה, המציב רף חדש ביכולות קידוד סוכני, שימוש בכלים, ניתוח פיננסי ומשימות עבודה מורכבות. המודל החדש מציג ביצועים מובילים במדדי ביצועים מרכזיים, חלון הקשר נדיר של מיליון טוקנים בגרסת בטא, ושיפורים משמעותיים בבטיחות ובמנגנוני שליטה למפתחים. הוא זמין כבר עתה דרך API ובפלטפורמות ענן מובילות, ומאפשר לסוכני AI לבצע משימות אוטונומיות ארוכות טווח ברמת דיוק גבוהה מאי פעם.

קרא עוד