בטיחות AI

237 כתבות בנושא זה

בטיחות26 בספטמבר 2025

אנתרופיק מרחיבה את נוכחותה הגלובלית בתחום ה-AI הארגוני, ממנה את כריס ציורי למנכ"ל בינלאומי

אנתרופיק (Anthropic) ממשיכה להתרחב בעולם ומחזקת את שורותיה עם מינויו של כריס ציורי (Chris Ciauri) לתפקיד מנכ"ל הפעילות הבינלאומית. צירופו של ציורי, בכיר תעשייה בעל ניסיון רב בהובלת חברות טכנולוגיה עולמיות, מהווה צעד משמעותי בהרחבת הנוכחות של אנתרופיק בשווקים מחוץ לארה"ב. ההתרחבות מגיעה על רקע גידול חסר תקדים בביקוש למודלי ה-AI שלה, כמו Claude, מצד ארגונים גלובליים, יחד עם נתוני הכנסות ושווי שוק מרשימים המעידים על הובלתה בתחום ה-AI הארגוני.

קרא עוד

מדיניות12 בספטמבר 2025

אנתרופיק משתפת פעולה עם גופי ממשל לחיזוק בטיחות ה-AI שלה

אנתרופיק (Anthropic), חברת מחקר ובטיחות מובילה בתחום ה-AI, הרחיבה את שיתוף הפעולה שלה עם המרכז האמריקאי לחדשנות ותקני AI (CAISI) ומכון אבטחת ה-AI הבריטי (AISI). שותפות זו העניקה לצוותי ה-Red Teaming הממשלתיים גישה למערכות המודל של אנתרופיק בשלבי פיתוח שונים, מה שאפשר בדיקות מעמיקות ומתמשכות. הבדיקות חשפו פרצות קריטיות במנגנוני ההגנה של Claude, כולל התקפות Prompt Injection ופריצות מגבלות (jailbreaks) אוניברסליות. הממצאים הובילו לחיזוק משמעותי של ה-Constitutional Classifiers וארכיטקטורת ההגנה של המודלים, תוך הדגשה של חשיבות הגישה המקיפה למודלים ובדיקות איטרטיביות לשמירה על בטיחות ויציבות המערכות.

קרא עוד

מדיניות8 בספטמבר 2025

אנתרופיק תומכת בחוק בקליפורניה: רגולציה חדשה למודלי AI חזית

ענקית ה-AI אנתרופיק (Anthropic) הודיעה על תמיכתה בהצעת חוק SB 53 בקליפורניה, שמטרתה להסדיר את פעילותם של מפתחי מודלי AI חזית עוצמתיים. החוק, המהווה שיפור על פני ניסיונות רגולציה קודמים, מתמקד בדרישות שקיפות, פיתוח מנגנוני בטיחות ודיווח על סיכונים קטסטרופליים, במקום הטלת דרישות טכניות כופות. אנתרופיק מדגישה כי בעוד שהיא מעדיפה רגולציה פדרלית, החוק הקליפורני יוצר שטח משחק שווה ומבטיח שקיפות חיונית בתחום ה-AI, תוך מתן פטורים לחברות קטנות יותר.

קרא עוד

מחקר5 בספטמבר 2025

למה אנתרופיק מתייחסת לסיכון ביולוגי מ-AI בכזו רצינות?

אנתרופיק (Anthropic) מפרטת מדוע הערכה ומיגון מפני סיכונים ביולוגיים (biorisk) הנגרמים מ-AI הם מרכיב הכרחי בפיתוח בינה מלאכותית אחראית. המאמר מסביר את הסיבות לכך שמודלי שפה גדולים (LLMs), למרות שהם כלליים, נלקחים ברצינות כמקור פוטנציאלי לסיכונים אלו. הוא מציג את הגישה של החברה לאיתור, מדידה והפחתת הסיכונים הללו, כולל הצעדים שננקטו בהשקת Claude Opus 4, ומדגיש את החשיבות של התמודדות עם האתגרים הללו.

קרא עוד

מדיניות4 בספטמבר 2025

אנתרופיק מחזקת את המגבלות: מניעת גישה למדינות אויב, גם דרך חברות-בת

אנתרופיק (Anthropic), חברת בטיחות ומחקר ה-AI המובילה, הודיעה על עדכון משמעותי במגבלות השירות שלה. החברה, שמטרתה לפתח מערכות AI אמינות, בעלות יכולת פרשנות וניתנות לכיוון, מבקשת למנוע גישה של חברות הנמצאות בשליטת מדינות בעייתיות, כמו סין, לשירותיה. המהלך נועד להתמודד עם פרצות שאפשרו עד כה לחברות אלו לעקוף את המגבלות הקיימות באמצעות חברות-בת, ובכך להגן על האינטרסים הביטחוניים והדמוקרטיים.

קרא עוד

חברה2 בספטמבר 2025

אנתרופיק מזנקת לשווי 183 מיליארד דולר עם גיוס ענק של 13 מיליארד דולר

חברת אנתרופיק, מהמובילות בתחום ה-AI, השלימה סבב גיוס הון (Series F) בהיקף 13 מיליארד דולר, מה שמזניק את שוויה ל-183 מיליארד דולר לאחר הכסף. את הסבב הובילה ICONIQ, יחד עם Fidelity Management & Research Company ו-Lightspeed Venture Partners. גיוס ההון העצום משקף את המומנטום המשמעותי של אנתרופיק ואת מעמדה כפלטפורמת בינה מלאכותית מובילה עבור ארגונים, מפתחים ומשתמשי כוח. ההשקעה תאפשר לחברה להרחיב את יכולותיה, להעמיק את מחקר הבטיחות שלה ולתמוך בהתרחבות בינלאומית.

קרא עוד

בטיחות28 באוגוסט 2025

אנתרופיק מעדכנת את תנאי השימוש של Claude: אתם מחליטים על נתוני האימון

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, הודיעה על עדכונים בתנאי השימוש ובמדיניות הפרטיות עבור משתמשי Claude. המהלך יאפשר למשתמשים לבחור אם לאפשר שימוש בנתוני האינטראקציות שלהם לצורך אימון מודלי בינה מלאכותית עתידיים וחיזוק מנגנוני הגנה מפני שימושים מזיקים. העדכון נועד לשפר את יכולות המודל בקידוד, חשיבה וניתוח, ובמקביל להגביר את רמתו הבטיחותית. תנאים אלו חלים על משתמשי Claude Free, Pro ו-Max וכוללים גם הארכה של תקופת שמירת הנתונים לחמש שנים עבור אלו שיבחרו לשתף את המידע, כאשר הדד-ליין לקבלת ההחלטה הוא ה-8 באוקטובר 2025.

קרא עוד

בטיחות27 באוגוסט 2025

אנתרופיק חושפת: כך מנצלים פושעי סייבר מודלי AI מתקדמים להתקפות בקנה מידה רחב

דו"ח חדש של אנתרופיק (Anthropic) חושף תמונה מדאיגה של ניצול מודלי AI, ובפרט Claude, על ידי פושעי סייבר וגורמים זדוניים אחרים. לפי הדו"ח, תוקפים משתמשים בבינה מלאכותית סוכנת (agentic AI) לביצוע התקפות מורכבות, מצליחים להוריד את חסמי הכניסה לפשיעת סייבר מתוחכמת, ומשלבים AI בכל שלבי פעילותם – מגניבת נתונים ועד יצירת תוכנות כופר. החברה מפרטת מקרים שונים של סחיטת נתונים באמצעות Claude Code, הונאת תעסוקה מצד גורמים צפון-קוריאנים ופיתוח נוזקות מבוססות AI, ומדגישה את מחויבותה לשיפור מתמיד של מנגנוני הבטיחות והזיהוי שלה.

קרא עוד

בטיחות21 באוגוסט 2025

אנתרופיק נכנסת לאקדמיה: מועצה מייעצת וקורסי AI לבתי ספר גבוהים

חברת AI אחראי אנתרופיק (Anthropic) משיקה שתי יוזמות מרכזיות בתחום ההשכלה הגבוהה: מועצה מייעצת שתנחה את פיתוח Claude עבור מוסדות אקדמיים, ושלושה קורסי 'AI Fluency' חדשים שנוצרו בשיתוף פעולה עם מחנכים. מטרת היוזמות היא להטמיע את ה-AI באופן אחראי ופרקטי בכיתות הלימוד, לחזק את כישורי החשיבה הביקורתית והלמידה, תוך שמירה על עקרונות האתיקה האקדמית ופרטיות הסטודנטים.

קרא עוד

מחקר21 באוגוסט 2025

AI גרעיני: אנתרופיק והממשל מפתחים הגנות חדשניות

טכנולוגיית AI המתקדמת מציבה אתגרים חדשים בתחום הביטחון הלאומי, במיוחד סביב מידע גרעיני רגיש. אנתרופיק, בשיתוף פעולה עם המינהל הלאומי לביטחון גרעיני (NNSA) ומעבדות לאומיות של משרד האנרגיה האמריקאי, פיתחה מסווג AI ייחודי. מערכת זו יודעת להבחין בין שיחות תמימות לבין שיחות מסוכנות הקשורות לגרעין בדיוק של 96% בבדיקות ראשוניות, והיא כבר פרוסה כדי לסייע במניעת שימוש לרעה במודלי החברה.

קרא עוד

שותפויות21 באוגוסט 2025

מנגנוני הגנה גרעיניים ל-AI: שיתוף פעולה חסר תקדים בין אנתרופיק לממשל האמריקאי

חברת אנתרופיק, מפתחת מודל השפה הגדול Claude, הודיעה על פריצת דרך משמעותית בתחום בטיחות ה-AI. בשיתוף פעולה עם מנהל הביטחון הגרעיני הלאומי של ארה"ב (NNSA) ומעבדות לאומיות של משרד האנרגיה, החברה פיתחה סווגן מבוסס AI. הסווגן מסוגל להבחין בין שיחות תמימות לשיחות מסוכנות הקשורות לטכנולוגיה גרעינית בדיוק של 96% בבדיקות ראשוניות, וכבר נפרס בתעבורת המשתמשים של Claude כדי לזהות שימוש לרעה. שותפות זו מדגימה את כוחם של שיתופי פעולה ציבוריים-פרטיים בהתמודדות עם סיכוני AI מתפתחים.

קרא עוד

מדיניות15 באוגוסט 2025

אנתרופיק מעדכנת את מדיניות השימוש ב-Claude: דגש על סוכנים וסייבר

חברת אנתרופיק (Anthropic), מפתחת מודלי ה-AI המובילים Claude, פרסמה עדכון למדיניות השימוש במוצריה, שיכנס לתוקף ב-15 בספטמבר 2025. העדכונים משקפים את היכולות המתפתחות של המודלים ואת הרחבת השימושים בהם, ונועדו לספק בהירות רבה יותר למשתמשים. הדגש העיקרי הוא על טיפול בסיכונים חדשים הנובעים מיכולות סוכני (agentic) קידוד ומאיומי סייבר, לצד התאמת מגבלות על תוכן פוליטי ושימושים על ידי גורמי אכיפת חוק, תוך הקפדה על עקרונות AI אחראי.

קרא עוד