בטיחות AI

237 כתבות בנושא זה

בטיחות9 ביולי 2026

אנתרופיק מזמינה את הציבור לשאול שאלות קשות על AI

חברת אנתרופיק (Anthropic) משיקה יוזמה חדשה ומזמינה את הציבור הרחב להציף את השאלות הקשות ביותר לגבי בינה מלאכותית (AI) והשפעותיה. היוזמה נועדה להבין לעומק את התקוות והחששות מהטכנולוגיה, החל מהשפעתה על מקומות עבודה וחיי משפחה ועד לפוטנציאל שלה בתחומי המדע והרפואה. כחלק ממחויבותה כתאגיד לתועלת הציבור, אנתרופיק מתחייבת לעקוב ולדווח בשקיפות על הפעולות שהיא נוקטת כדי להתמודד עם נושאים אלו, ובכך להציג את התקדמותה ביעדי התועלת הציבורית שלה.

קרא עוד

מחקר8 ביולי 2026

פיתוח חדש: מתג כיבוי לידע דו-שימושי במודלי AI

חברת אנתרופיק (Anthropic), בשיתוף פעולה עם AE Studio, חושפת ממצאי מחקר פורצי דרך המציגים שיטה חדשנית לשליטה בגישה ליכולות AI שעלולות להיות דו-שימושיות או מסוכנות. השיטה, המכונה GRAM, מאפשרת למודלי שפה גדולים לאגור ידע ספציפי בתאים נפרדים, ובכך לאפשר הדלקה או כיבוי סלקטיביים של יכולות אלו ללא פגיעה בביצועי המודל הכוללים. מדובר בצעד משמעותי לקראת פתרון בעיית אבטחת מודלים חזיתיים ושימוש אחראי בבינה מלאכותית.

קרא עוד

מחקר6 ביולי 2026

ה-J-space בקלוד: הצצה למרחב החשיבה הפנימי של מודל השפה

מחקר חדש של אנתרופיק חושף לראשונה מנגנון פנימי ייחודי במודלי שפה גדולים (LLM) כמו Claude, המכונה J-space. מנגנון זה מתפקד כ'מרחב עבודה' גלובלי, בדומה לאופן שבו נוירונים במוח האנושי מטפלים במחשבות נגישות למודעות. מדובר בתבניות נוירוניות פנימיות שמאפשרות למודל לחשוב, להסיק מסקנות ולתכנן פעולות באופן שקט, מבלי לכתוב אותן בפועל. ממצאים אלו משנים את הבנתנו לגבי אופן הפעולה של מודלי שפה ומספקים כלים חדשים לפיקוח על כוונותיהם הנסתרות, ואף מעלים שאלות לגבי תודעה ב-AI.

קרא עוד

בטיחות2 ביולי 2026

אנתרופיק חושפת: פרטים על מנגנוני ההגנה של Fable 5 ומסגרת פריצת מגבלות AI

אנתרופיק (Anthropic) מפרסמת פרטים נוספים אודות מנגנוני ההגנה שלה מפני סיכוני סייבר במודל Fable 5, בדגש על מסווגי הבטיחות (safety classifiers) הקובעים אילו פעולות חסומות ואילו מותרות. במקביל, החברה חושפת טיוטה ראשונית למסגרת הערכת חומרת פריצות המגבלות (jailbreaks) במודלי AI. מטרת המסגרת היא ליצור שפה אחידה לתקשורת בין מפתחי AI לממשלות בנוגע לסיכוני אבטחה, ולאפשר הגנה טובה יותר מפני ניצול לרעה של יכולות המודלים, תוך כדי התרת שימושים לגיטימיים.

קרא עוד

מוצרים30 ביוני 2026

אנתרופיק חושפת את Claude Sonnet 5: קפיצה משמעותית ביכולות סוכני AI

אנתרופיק השיקה את Claude Sonnet 5, המודל הסוכני המתקדם ביותר בסדרת ה-Sonnet, המציע יכולות משופרות בקידוד ובעבודה מקצועית. המודל החדש מסוגל לתכנן משימות, להשתמש בכלים ולפעול באופן אוטונומי ברמה שהייתה שמורה עד לאחרונה למודלים גדולים ויקרים יותר. הוא מציג ביצועים קרובים לאלו של Opus 4.8, אך במחיר נמוך יותר, וזאת לצד שיפור בבטיחות ובשיעור נמוך יותר של התנהגויות לא רצויות. Sonnet 5 זמין מיידית בכל תוכניות השירות ומושק במחיר היכרות אטרקטיבי למפתחים.

קרא עוד

בטיחות30 ביוני 2026

קלוד Fable 5 חוזר: אנתרופיק מציגה הגנות ומתאמת תקן תעשייתי

חברת אנתרופיק (Anthropic) הודיעה על החזרת מודל ה-AI המתקדם שלה, Claude Fable 5, לפעילות החל מה-1 ביולי, זאת לאחר הסרת בקרות הייצוא שהוטלו עליו. המודל הושעה בעקבות דיווח על פריצת מגבלות (jailbreak) שאפשרה זיהוי נקודות תורפה אבטחתיות. בתגובה, אנתרופיק יישמה מנגנוני הגנה משופרים והשיקה יחד עם שותפותיה מסגרת עבודה תעשייתית חדשה להערכת חומרת פריצות מגבלות במודלי AI, תוך העמקת שיתוף הפעולה עם ממשלת ארה"ב.

קרא עוד

בטיחות12 ביוני 2026

אנתרופיק חושפת: סקר ענק על עמדות הציבור בארה"ב כלפי AI

אנתרופיק (Anthropic) מפרסמת את הממצאים הראשונים מסקר ה-Anthropic Public Record, מחקר מקיף שבוחן את עמדות הציבור האמריקאי כלפי בינה מלאכותית. הסקר, שנערך בקרב כ-52 אלף אזרחים, חושף כי בעוד שהתקוות העיקריות מ-AI נוגעות לריפוי מחלות ועזרה לבעלי מוגבלויות, החשש הגדול ביותר הוא מאובדן מקומות עבודה. הממצאים מראים תמיכה רחבה בהתערבות ממשלתית בפיקוח על AI, לצד אמון נמוך בחברות ה-AI עצמן בקבלת החלטות לגבי פיתוח הטכנולוגיה.

קרא עוד

מוצרים9 ביוני 2026

אנתרופיק משיקה: Claude Fable 5 לכולם, Mythos 5 למגני סייבר

אנתרופיק (Anthropic) משיקה היום את Claude Fable 5, מודל חדש בסדרת Mythos המיועד לשימוש כללי לאחר הטמעת מנגנוני בטיחות מתקדמים. לצדו, מושק Claude Mythos 5, מודל זהה ביכולותיו אך עם מנגנוני הגנה מופחתים, שיהיה זמין תחילה לאנשי הגנת סייבר וספקי תשתית קריטיים במסגרת תוכנית גישה מורחבת. שני המודלים מציגים יכולות פורצות דרך במגוון תחומים, כולל הנדסת תוכנה, עבודת ידע, ראייה ואף מחקר מדעי מתקדם, ומצוידים ביכולות ארוכות-טווח שלא נראו בעבר במודלי קלוד קודמים. ההשקה מלווה במנגנוני הגנה מחמירים, כולל מסווגים מתקדמים למניעת שימוש לרעה בתחומי סייבר וביולוגיה, במטרה להביא יכולות AI מתקדמות למשתמשים באופן בטוח ומהיר ככל האפשר.

קרא עוד

מחקר3 ביוני 2026

איומי סייבר בעידן ה-AI: מה למדנו מניווט ATT&CK של LLM

אנתרופיק (Anthropic) חקרה בשנה האחרונה כיצד שחקני איום מנצלים בינה מלאכותית (AI) לביצוע מתקפות סייבר. כעת, החברה מפרסמת ניתוח חדש הממפה את המתקפות הללו למסגרת MITRE ATT&CK, חושף דפוסים המאתגרים הנחות מסורתיות לגבי אבטחת סייבר ומציג כיצד AI משנה את פרופיל הסיכון של התוקפים. הניתוח, שחלק מממצאיו שולבו בדו"ח Verizon Data Breach Investigation Report (DBIR) 2026 של ורייזון, מציג כיצד AI מקל על תוקפים לבצע פעולות מתוחכמות יותר, עם עלייה משמעותית בשחקנים בסיכון בינוני ומעלה.

קרא עוד

בטיחות3 ביוני 2026

איומי סייבר בעידן ה-AI: לקחים משנה של פעילות זדונית

בעוד ה-AI משנה את אופי ושיטות מתקפות הסייבר, עולה השאלה עד כמה יעילים הכלים והמתודולוגיות הקיימים בקהילת האבטחה. דוח חדש של אנתרופיק (Anthropic) מציג ממצאים מקיפים ממיפוי איומי סייבר מבוססי AI, וחושף כי התוקפים מנצלים בינה מלאכותית לשלבים מורכבים יותר של המתקפה וכי קשה יותר לאמוד את רמת הסיכון שלהם. המחקר מראה כי מסגרות אבטחה קיימות, כמו MITRE ATT&CK, אינן מכסות באופן מלא את השימוש ב-AI, מה שמחייב התאמה ושינוי כדי להתמודד עם האתגרים החדשים.

קרא עוד

חברה28 במאי 2026

אנתרופיק גייסה 65 מיליארד דולר בסבב H, מוערכת ב-965 מיליארד דולר

חברת אנתרופיק גייסה סכום עתק של 65 מיליארד דולר בסבב גיוס H, המשקף לה שווי אדיר של 965 מיליארד דולר לאחר הכסף. סבב הגיוס הובל על ידי Altimeter Capital, Dragoneer, Greenoaks ו-Sequoia Capital. הכספים מיועדים לקדם את מחקר הבטיחות והפרשנות ב-AI, להרחיב את יכולות ה-compute לתמיכה בביקוש הגובר למודל השפה הגדול שלה, קלוד, ולהרחיב את מוצרי החברה ושותפויותיה. הגיוס מגיע בצל צמיחה משמעותית של קלוד בקרב ארגונים גלובליים, עם הכנסות בקצב שנתי שחצו את ה-47 מיליארד דולר. בנוסף, החברה הרחיבה משמעותית את קיבולת ה-compute שלה באמצעות שיתופי פעולה עם Amazon, Google, Broadcom ו-SpaceX.

קרא עוד

מוצרים28 במאי 2026

אנתרופיק משיקה את Claude Opus 4.8: חכם, יציב ויעיל יותר

אנתרופיק משיקה את Claude Opus 4.8, עדכון מהותי לסדרת מודלי ה-Opus שלה, המבטיח קפיצת מדרגה בביצועים. המודל החדש מפגין יכולות משופרות במיוחד בתחומי הקידוד, משימות סוכני ועבודה מקצועית, ומציע עקביות יוצאת דופן לטיפול במשימות ארוכות טווח. בנוסף, הוא כולל תכונות חדשות כמו בקרת מאמץ וזרימות עבודה דינמיות, ומציג שיפור משמעותי בכנותו ובמנגנוני היישור הבטיחותיים. המודל זמין כבר היום, כאשר החברה רומזת על פיתוחים עתידיים למודלים חזקים וזולים יותר.

קרא עוד