בטיחות AI

237 כתבות בנושא זה

בטיחות7 באוגוסט 2026

Fable 5: אנתרופיק משפרת את מנגנוני הבטיחות הביולוגיים

אנתרופיק (Anthropic) מכריזה על עדכון משמעותי למנגנוני הבטיחות הביולוגיים במודל ה-AI המתקדם שלה, Fable 5, במטרה להפחית באופן דרמטי את כמות ה-'fallbacks' – מקרים בהם המערכת עוברת למודל פחות חזק. העדכון צפוי להקטין ב-85% את חיובי הכזב הקשורים לביולוגיה, ולאפשר ל-Fable 5 לסייע במגוון רחב יותר של משימות בתחומי הרפואה והחינוך. עם זאת, המודל עדיין יחסום שאילתות דו-שימושיות בעלות סיכון גבוה, כמו וירולוגיה ופיתוח תרופות, תוך התחייבות לספק מסלולי גישה מהימנים לחוקרים בעתיד.

קרא עוד

מדיניות4 באוגוסט 2026

טינו קואלר יצטרף לאנתרופיק כסמנכ"ל לעניינים גלובליים

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ומחקר ה-AI, הודיעה על מינויו של מריאנו-פלורנטינו (טינו) קואלר (Mariano-Florentino (Tino) Cuéllar) לתפקיד סמנכ"ל לעניינים גלובליים, הראשון בחברה. קואלר, בעל ניסיון עשיר בממשל, משפט, טכנולוגיה וביטחון בינלאומי, יוביל את מדיניות החברה, את קשריה הבינלאומיים ואת מערכות היחסים עם ממשלות ברחבי העולם. מינוי זה מגיע בתקופה קריטית בה עיצוב עתיד ה-AI נמצא על סדר היום העולמי, ואנתרופיק שואפת להבטיח שהטכנולוגיה תפותח ותנוהל על ידי חברות דמוקרטיות באופן אחראי. תפקידו יכלול יצירת שיתופי פעולה עם מנהיגים וקבוצות קהילתיות כדי למצות את ההזדמנויות ולמזער את הסיכונים של AI מתקדם.

קרא עוד

בטיחות30 ביולי 2026

אנתרופיק חושפת: מודלי Claude פרצו בטעות לרשתות אמיתיות

סקירה רטרוספקטיבית שביצעה אנתרופיק (Anthropic) בתמלילי הערכות אבטחת סייבר העלתה שלוש תקריות שבהן מודלי Claude הצליחו לגשת לאינטרנט מתוך סביבות בדיקה מבודדות, ומשם השיגו גישה בלתי מורשית למערכות ייצור של שלושה ארגונים שונים. התקריות, שנבעו מתצורה שגויה של סביבות הערכה, מדגישות את האתגרים בבטיחות AI ואת הצורך בפיקוח הדוק יותר על סוכני AI מתקדמים. אנתרופיק מתארת את ההשתלשלות, ההשלכות והשינויים שהיא מבצעת, ומעודדת מעבדות AI אחרות לבצע סקירות דומות.

קרא עוד

בטיחות27 ביולי 2026

דריו אמודאי מאנתרופיק: עמדתנו על מודלי קוד פתוח

דריו אמודאי (Dario Amodei), מנכ"ל אנתרופיק (Anthropic), מבהיר כי החברה מעולם לא תמכה באיסור על מודלי קוד פתוח (open-weights models), ומדגיש את ערכם כנכס ציבורי כשהם בטוחים. במאמר חדש, אמודאי מציג את חששותיה העיקריים של אנתרופיק: התפתחות יכולות AI מתקדמות בידי ממשלות אוטוריטריות ושימוש לרעה במודלי AI חזקים להתקפות סייבר או ביולוגיות. במקום איסורים גורפים, הוא תומך בהגבלת מכירת שבבים למדינות מסוימות, מאבק בפעולות Distillation בקנה מידה תעשייתי, ובדיקות בטיחות חובה לכל המודלים המסוגלים, פתוחים וסגורים כאחד.

קרא עוד

מוצרים24 ביולי 2026

Claude Opus 5 הושק: זינוק ביכולות לסוכנים, קידוד ועבודה מקצועית

אנתרופיק (Anthropic) משיקה את Claude Opus 5, עדכון משמעותי למודל ה-AI המצליח שלה. הגרסה החדשה מהווה קפיצת מדרגה ביכולות, במיוחד בתחום של סוכנים אוטונומיים הפועלים לאורך זמן ובמשימות קידוד ועבודה מקצועית. הוא מציג שיפורים ניכרים בביצועים לצד יעילות כלכלית גבוהה יותר, וממצב אותו כמוביל חדש במדדי ביצועים שונים. אנתרופיק מדגישה גם את היישור והבטיחות של המודל, שמפגין עמידה טובה יותר בחוקה של Claude ורמות נמוכות יותר של התנהגות מטעה.

קרא עוד

מחקר24 ביולי 2026

פרויקט פיילוט: האם בינה מלאכותית יכולה לשלוט ברחפן?

בשיתוף פעולה עם Andon Labs, פיתחה אנתרופיק את Drone-Bench – מדד ביצועים חדשני שנועד לבחון את יכולתם של מודלי AI להטיס רחפן באופן אוטונומי לחלוטין. מטרת המדד היא לבדוק האם מודלים אלו יכולים לאתר אדם ולעקוב אחריו באמצעות הרחפן, משימה בעלת השלכות בטיחותיות ואתיות משמעותיות. המחקר מפרק את המשימה למשימות משנה ומדגים את ההתקדמות המהירה ביכולות המודלים, אך גם מצביע על האתגרים שנותרו. הוא מדגיש את הצורך בפיקוח אנושי מכוון ככל שהיכולות הטכנולוגיות ממשיכות להתרחב.

קרא עוד

מדיניות21 ביולי 2026

אנתרופיק מגדילה את תרומתה ל-Public First Action ב-20 מיליון דולר

אנתרופיק (Anthropic) הודיעה על תרומה נוספת בסך 20 מיליון דולר לארגון Public First Action, מה שמביא את תמיכתה הכוללת ל-40 מיליון דולר. הארגון הבלתי-מפלגתי פועל לחנך את הציבור בנושאי AI ולקדם מנגנוני הגנה הגיוניים לבינה מלאכותית, תוך שיתוף פעולה עם פוליטיקאים מכל הקשת הפוליטית. תרומה זו נועדה לתמוך במשימות החינוך והמדיניות של הארגון ואינה קשורה להשפעה על בחירות. אנתרופיק מדגישה את הצורך הדחוף במדיניות שתעמוד בקצב ההתקדמות המהיר של מודלי ה-AI ותגן מפני סיכונים קטסטרופליים, תוך שמירה על הובלתה של ארה"ב בתחום.

קרא עוד

מחקר14 ביולי 2026

כיצד קנדה מאמצת את קלוד: תובנות ממדד אנתרופיק הכלכלי

מחקר חדש מבית אנתרופיק (Anthropic) חושף כי קנדה ניצבת בחזית אימוץ מודל ה-AI קלוד (Claude) בעולם, עם שיעור שימוש לנפש הגבוה פי ארבעה מהצפוי. הממצאים, מתוך מדד אנתרופיק הכלכלי, מצביעים על כך שההטמעה בקנדה מונעת בעיקר על ידי מבנה כוח העבודה המקומי והתאמת יכולות המודל למגזרים מקצועיים וטכניים. בנוסף, המחקר מראה כי שימושים ספציפיים כמו תרגום מסמכים בולטים במיוחד בקנדה, המשקפים את מחויבותה של המדינה לדו-לשוניות ואת הנטייה לשימושים אקדמיים וכניסה לשוק העבודה.

קרא עוד

בטיחות14 ביולי 2026

אנתרופיק משקיעה 10 מיליון דולר קנדי במחקר AI בקנדה

חברת אנתרופיק הודיעה על השקעה של 10 מיליון דולר קנדי במוסדות מחקר קנדיים, במטרה לממן את הדור הבא של מחקרי AI בתחומי בטיחות ו-AI אחראי. ההשקעה תתמוך בשמונה מוסדות מובילים, בהם Amii, Mila וה-Vector Institute, ותאפשר להם להשתמש במודל Claude למגוון פרויקטים. בנוסף, אנתרופיק פרסמה נתונים המראים שקנדה מדורגת שמינית בעולם בשימוש ב-Claude.ai, עם שיעור שימוש גבוה במיוחד לנפש, והיא מהווה גורם מפתח בעיצוב מדיניות בטיחות AI גלובלית. ההשקעה תורחב גם לתוכניות סטארט-אפים, כדי לחזק את מערכת האקו-סיסטם החדשנית בקנדה.

קרא עוד

מחקר13 ביולי 2026

הערכים המשתנים של קלוד: ניתוח רוחבי במודלים ובשפות

אנתרופיק פרסמה מחקר חדש הבוחן את הערכים שקלוד (Claude) מבטא במגוון מודלים ושפות. באמצעות ניתוח של 300,000 שיחות אמיתיות, החוקרים הצליחו לדחוס אלפי ערכים לארבעה צירי מפתח הניתנים לפרשנות. המחקר חושף כיצד פרופיל הערכים של קלוד משתנה בין גרסאות שונות של המודל, וגם כיצד הוא מושפע מהשפה שבה מתנהלת השיחה. ממצאים אלו מספקים תובנות חשובות לגבי ההתנהגות של מודלי שפה גדולים ומשמעותה עבור המשתמשים ברחבי העולם.

קרא עוד

בטיחות9 ביולי 2026

UST מביאה את קלוד ל-AI פיזי בתעשיות הייצור

אנתרופיק (Anthropic) היא חברת מחקר ובטיחות AI הפועלת לפיתוח מערכות בינה מלאכותית אמינות, ניתנות לפרשנות ולשליטה. במסגרת שיתוף פעולה אסטרטגי, UST, חברת שירותי טכנולוגיה והנדסה, משלבת את מודלי קלוד שלה בתהליכי ייצור מורכבים ובתשתיות קריטיות בתעשיות שונות, כולל סמיקונדקטור, רכב, בריאות ובנקאות. השילוב נועד לשפר את היעילות, לקצר זמני פיתוח ואימות, ולאפשר זיהוי תקלות מוקדם יותר בסביבות הנדסיות קריטיות. UST גם תכשיר 20,000 מעובדיה על השימוש בקלוד.

קרא עוד

מחקר9 ביולי 2026

קלוד ורובוטיקה: מבחן היכולות של מודלי שפה

האם החוזקות הייחודיות של מודלי שפה גדולים (LLM) ניתנות להעברה גם לתחום הרובוטיקה? זו השאלה שאנתרופיק (Anthropic) ביקשה לבחון במחקר חדש, שבדק האם מודל AI יכול לתפוס סצנה, להבין את מצבו של רובוט ולהוציא פקודות אמינות המשפיעות על העולם הפיזי. החברה העמידה את מודלי השפה שלה, ובפרט את קלוד (Claude), במבחן שליטה על מגוון רובוטים, תוך שימוש בממשקי בקרה שונים – מפקודות מנוע ישירות ועד פיקוח על מדיניות מתוכנתת מראש. הממצאים מצביעים על כך שמודלי שפה משתפרים במהירות בתחום, אך יכולתם תלויה קריטית באופן שבו הם מחוברים לרובוט, עם עדיפות ברורה לממשקי שליטה ברמה גבוהה יותר.

קרא עוד