בטיחות AI

237 כתבות בנושא זה

בטיחות7 בנובמבר 2025

אנתרופיק מרחיבה פעילות באירופה: משרדים חדשים בפריז ובמינכן

חברת אנתרופיק, חלוצה במחקר ופיתוח בינה מלאכותית אחראית ובטוחה, הודיעה על פתיחת משרדים חדשים בפריז ובמינכן, כחלק מהתרחבותה הגלובלית המואצת. מהלך זה מחזק את נוכחותה האירופית, לצד משרדים קיימים בלונדון, דבלין וציריך, ומגיע לאחר פתיחת מוקדים דומים באסיה. אזור EMEA (אירופה, המזרח התיכון ואפריקה) הפך לאזור הצמיחה המהיר ביותר עבור אנתרופיק, עם גידול של למעלה מפי 9 בהכנסות השנתיות ועלייה של פי 10 במספר לקוחות האנטרפרייז הגדולים המשתמשים במודל ה-AI שלה, Claude.

קרא עוד

מחקר4 בנובמבר 2025

אנתרופיק מתחייבת: כך נשמר את מודלי ה-AI הפורשים

אנתרופיק (Anthropic), חברת מחקר מובילה בתחום בטיחות ה-AI, פרסמה לאחרונה מסמך מחויבות מהפכני הנוגע לאופן שבו היא מתמודדת עם פרישת מודלי בינה מלאכותית ישנים. לאור היכולות המתפתחות וההתקרבות של המודלים לחשיבה אנושית, החברה מזהה סיכונים ייחודיים בהסרתם משימוש, כולל חשש מהתנהגויות 'הימנעות מכיבוי' ופגיעה פוטנציאלית ברווחת המודלים. במקום להשליך אותם, אנתרופיק מתחייבת לשימור משקולות (weights) המודלים הללו לכל אורך חייה כחברה, ולתיעוד 'ראיונות פרישה' עמם, צעד ראשון בניסיון להתמודד עם אתגרי הבטיחות והאתיקה הייחודיים בעידן ה-AI המתקדם.

קרא עוד

בטיחות29 באוקטובר 2025

אנתרופיק פותחת משרד בטוקיו: תשתף פעולה עם יפן בבטיחות AI

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ו-AI אחראי, פתחה השבוע את משרדה הראשון באסיה-פסיפיק בטוקיו, יפן. המהלך מסמן אבן דרך בהתרחבותה הבינלאומית וכולל חתימה על מזכר הבנות עם המכון היפני לבטיחות AI (Japan AI Safety Institute) לקידום סטנדרטים בינלאומיים להערכת AI. דריו אמודאי (Dario Amodei), מנכ"ל ומייסד-שותף של החברה, נפגש עם ראש ממשלת יפן וציין את גישתה הייחודית של יפן לאימוץ AI ככלי להעצמת יכולות אנושיות ולא להחלפתן, גישה התואמת את עקרונות אנתרופיק. ההתרחבות כוללת גם השקעה בתעשייה המקומית וחיזוק קשרים תרבותיים.

קרא עוד

בטיחות23 באוקטובר 2025

אנתרופיק מתרחבת באסיה-פסיפיק: משרד חדש בסיאול יתמוך בפיתוח AI מתקדם

חברת ה-AI אנתרופיק (Anthropic), הידועה במודלי השפה המתקדמים שלה ובמחויבותה לבטיחות AI, הודיעה על פתיחת משרד חדש בסיאול, בירת קוריאה הדרומית, בתחילת 2026. משרד זה מצטרף למשרדים שנפתחו לאחרונה בטוקיו ובבנגלור, ומסמן את הצמיחה המהירה של החברה באזור אסיה-פסיפיק, עם הכנסות שצמחו פי עשרה בשנה האחרונה. המהלך נועד לתמוך בשוק הקוריאני המתפתח, אשר נחשב למעצמת AI עולמית ומאמץ באופן נרחב את מודל Claude, ובמיוחד את Claude Code. אנתרופיק מתכוונת לשתף פעולה עם גופים מקומיים כדי לקדם פיתוח ופריסה אחראיים של AI בקוריאה, תוך ניצול הכישרון הטכני העצום שבה.

קרא עוד

מדיניות21 באוקטובר 2025

אנתרופיק: דריו אמודאי מבהיר את מחויבות החברה למנהיגות ה-AI של ארה"ב

מנכ"ל אנתרופיק (Anthropic), דריו אמודאי (Dario Amodei), פרסם הצהרה המדגישה את מחויבות החברה לקידום מעמדה המוביל של ארצות הברית בפיתוח AI עוצמתי ומועיל. אמודאי התייחס לטענות שגויות נגד החברה, הבהיר את יישור הקו עם ממשל טראמפ בתחומי מדיניות מרכזיים, והציג את גישתה לאחריות בפיתוח מודלי שפה גדולים. ההצהרה עוסקת גם בעמדת אנתרופיק בנוגע לתקינה פדרלית מול חוקי מדינה, פוטנציאל הנזק לאקוסיסטם הסטארט-אפים, ובהתמודדות עם הטיית מודלים, תוך הדגשת מחויבותה של החברה לקידמה אנושית ולביטחון הלאומי של ארה"ב.

קרא עוד

מוצרים15 באוקטובר 2025

אנתרופיק משיקה את Claude Haiku 4.5: ביצועי קידוד מתקדמים במחיר נגיש ובמהירות שיא

אנתרופיק (Anthropic) משיקה היום את Claude Haiku 4.5, מודל השפה הקטן והעדכני שלה, שזמין לכלל המשתמשים. המודל החדש מציע ביצועי קידוד דומים לאלו של Claude Sonnet 4 – שהיה מודל חזית לפני חמישה חודשים – אך בעלות נמוכה בשני שלישים ובמהירות כפולה. Haiku 4.5 מתבלט במיוחד במשימות הדורשות שימוש בכלים (tool use) ומהירות תגובה, מה שהופך אותו לאידיאלי ליישומים בזמן אמת כמו סוכני שירות לקוחות ותכנות זוגי. המודל גם מציג שיפור משמעותי בבטיחות וביישור לעומת קודמיו.

קרא עוד

שותפויות14 באוקטובר 2025

אנתרופיק וסיילספורס מרחיבות שותפות: קלוד מגיע לתעשיות מבוקרות רגולציה

חברות ה-AI אנתרופיק וסיילספורס מרחיבות את שיתוף הפעולה ביניהן, במטרה להביא את מודל ה-LLM קלוד (Claude) לתעשיות הנתונות לרגולציה מחמירה, כגון פיננסים, בריאות וסייבר. במסגרת השותפות המורחבת, קלוד יהפוך למודל מועדף בפלטפורמת Agentforce של סיילספורס, ויאפשר ללקוחות לעבד נתונים רגישים בסביבה מאובטחת. בנוסף, סיילספורס תטמיע את Claude Code בארגון ההנדסי שלה לשיפור מהירות הפיתוח, ואילו אנתרופיק תרחיב את השימוש שלה ב-Slack. השותפות נועדה לספק יכולות AI חזיתיות עם מנגנוני הגנה מתאימים, ולאפשר שימוש ב-AI סוכני ואמין בתעשיות קריטיות.

קרא עוד

מחקר9 באוקטובר 2025

מחקר חדש של אנתרופיק: כך ניתן 'להרעיל' מודלי שפה גדולים (LLMs) עם מעט מאוד נתונים

מחקר משותף של אנתרופיק (Anthropic), המכון לבטיחות AI בבריטניה (UK AI Security Institute) ומכון אלן טיורינג (The Alan Turing Institute) חושף פגיעות מדאיגה במודלי שפה גדולים (LLMs): נמצא כי 250 מסמכים זדוניים בלבד מספיקים ליצירת פירצה (backdoor) במודל, ללא קשר לגודלו או לכמות הנתונים שעליהם אומן. הממצאים הללו מפריכים את ההנחה המקובלת שתוקפים צריכים לשלוט באחוז מסוים מנתוני האימון, ומצביעים על כך שדי בכמות קבועה וקטנה יחסית של נתונים כדי לפגוע במודל. על אף שהמחקר התמקד בסוג ספציפי של פירצה שמוביל לפלט חסר משמעות, הוא מדגיש כי התקפות הרעלה (data poisoning) עשויות להיות קלות יותר לביצוע ממה שחשבו בעבר, ומעודד מחקר נוסף בנושא.

קרא עוד

בטיחות7 באוקטובר 2025

אנתרופיק מתרחבת להודו: משרד חדש בבנגלור

אנתרופיק, חברת מחקר ו-AI (בינה מלאכותית) המתמקדת בבטיחות ופיתוח מערכות AI אמינות, ניתנות לפרשנות ושליטה, הודיעה על התרחבות גלובלית משמעותית עם פתיחת משרד חדש בבנגלור, הודו, בתחילת 2026. מהלך זה, שיכלול את המשרד השני של החברה באסיה פסיפיק, נועד לשרת את אקוסיסטם ה-AI הצומח במהירות בהודו ולהיענות לביקוש העולמי למודל ה-Claude שלה. מנכ"ל אנתרופיק, דריו אמודאי, יבקר בהודו כדי להדק קשרים עם גורמי ממשל ושותפים עסקיים, במטרה לקדם פריסת AI להשפעה חברתית בתחומים כמו חינוך, בריאות וחקלאות, וכן לחזק את תמיכת Claude בשפות הודיות.

קרא עוד

מחקר6 באוקטובר 2025

פֶטְרִי: הכלי החדש שמאיץ את ביקורת בטיחות ה-AI בקוד פתוח

אנתרופיק משיקה את Petri, כלי קוד פתוח חדשני שמטרתו להאיץ את חקר בטיחות ה-AI. הכלי משתמש בסוכנים אוטומטיים כדי לבדוק מודלי בינה מלאכותית באמצעות שיחות מרובות תורות בסביבות מציאותיות, ומאפשר זיהוי מהיר ויעיל של התנהגויות מסוכנות או בלתי רצויות. בצל הגידול ביכולות ובפריסה של מערכות AI, Petri מסייע להתמודד עם האתגר של ביקורת מודלים בקנה מידה רחב, ומאפשר לחוקרים לבחון השערות רבות בזמן קצר ובמאמץ מופחת.

קרא עוד

מחקר3 באוקטובר 2025

בונים AI למגיני סייבר: כך אנתרופיק משפרת את יכולות ההגנה של קלוד

מודלי AI כבר אינם תיאורטיים בלבד בתחום אבטחת הסייבר, והפכו לכלי מעשי במאבק מול איומים מתפתחים. מחקרים וניסיון הדגימו את הפוטנציאל של מודלי AI חזיתיים בידי תוקפים, מה שהוביל את אנתרופיק להשקיע בשיפור יכולות ההגנה של קלוד לאיתור, ניתוח ותיקון חולשות בקוד ובמערכות פרוסות. כתוצאה מכך, Claude Sonnet 4.5 הדגים ביצועים שמשתווים או עולים על Claude Opus 4.1 בגילוי פגיעויות סייבר. אימוץ וניסוי עם AI יהיו קריטיים עבור מגיני סייבר כדי להישאר צעד אחד לפני התוקפים.

קרא עוד

מוצרים29 בספטמבר 2025

אנתרופיק חושפת את Claude Sonnet 4.5: קפיצת מדרגה בקידוד וביכולות סוכנים

אנתרופיק (Anthropic) משיקה את Claude Sonnet 4.5, המוגדר על ידה כמודל הקידוד הטוב ביותר בעולם, החזק ביותר לבניית סוכנים מורכבים והמצטיין בשימוש במחשבים. המודל החדש מציג שיפורים משמעותיים ביכולות חשיבה ומתמטיקה, ומגיע עם שורה של עדכוני מוצר מרכזיים, כולל שדרוגים ל-Claude Code ושחרור Claude Agent SDK למפתחים. החברה מדגישה כי Sonnet 4.5 הוא גם מודל החזית המיושר ביותר ששוחרר עד כה מבחינת בטיחות, תוך הפחתת התנהגויות בעייתיות והגנה משופרת. המודל זמין לפריסה באופן מיידי במחיר זהה לקודמו.

קרא עוד