215 כתבות בנושא זה
אנתרופיק (Anthropic), חברת מחקר ובטיחות ה-AI, חשפה את הגישה הרב-שכבתית שלה לבניית מנגנוני הגנה למודלי ה-AI שלה, ובפרט למודל השפה הגדול Claude. החברה מפרטת על האופן שבו צוות ה-Safeguards שלה פועל לפיתוח מדיניות שימוש, אימון מודלים, בדיקות ביצועים בזמן אמת וניטור מתמשך, במטרה להבטיח ש-Claude יהיה מועיל ובטוח. המטרה היא למנוע שימוש לרעה ולתעל את יכולות המודל לתוצאות חיוביות, תוך שמירה על עקרונות של AI אחראי.
קרא עוד
חברת אנתרופיק (Anthropic) הכריזה כי היא מסירה חסמים לאימוץ AI בממשל האמריקאי, ומציעה את מודלי השפה הגדולים Claude for Enterprise ו-Claude for Government לכל שלוש זרועות הממשל – הרשות המבצעת, המחוקקת והשופטת – בתשלום סמלי של דולר אחד בלבד. המהלך נועד לאפשר לעובדי ציבור למנף יכולות AI מתקדמות לשיפור השירות לאזרח, תוך התבססות על הצלחות מוכחות בפרויקטים ביטחוניים ומדעיים קריטיים. ההצעה כוללת גישה למודלי חזית עם עדכונים שוטפים ותמיכה טכנית, ומבטיחה עמידה בתקני האבטחה המחמירים ביותר, כולל אישור FedRAMP High לטיפול בנתונים ממשלתיים רגישים.
קרא עוד
חברת AI אנתרופיק (Anthropic) ממנה את הידטושי טוג'ו (Hidetoshi Tojo) לראש הפעילות שלה ביפן, צעד המדגיש את מחויבותה לשוק היפני ואת פתיחת המשרד הראשון שלה באסיה בטוקיו. טוג'ו, שמגיע עם ניסיון עשיר מ-Snowflake, Google Cloud ו-Microsoft, יוביל את הרחבת החברה באזור, תוך התמקדות בהטמעת AI אחראי בקרב חברות יפניות מובילות כמו Rakuten ו-Panasonic. אנתרופיק מתכננת להרחיב את צוותה המקומי ולחזק שיתופי פעולה עם גורמים עסקיים ורגולטוריים, במטרה לסייע לארגונים ביפן לפתח מוצרים ושירותים חדשניים באמצעות AI.
קרא עוד
מודל השפה הגדול Claude של אנתרופיק (Anthropic) יהיה מעתה זמין לרכישה עבור כל משרדי הממשל הפדרלי בארה"ב וסוכנויותיו דרך פלטפורמת הרכש של ה-General Services Administration (GSA). המהלך יאפשר גישה מהירה ונוחה יותר למודל, עם תנאי מחיר שנקבעו מראש ותואמים את תקנות הרכש הממשלתיות. מדובר בהישג משמעותי עבור אנתרופיק, שממשיכה להרחיב את נוכחותה במגזר הציבורי ובביטחון הלאומי בארה"ב, תוך עמידה בדרישות אבטחה ורגולציה מחמירות.
קרא עוד
אנתרופיק (Anthropic), חברת מחקר ובטיחות מובילה בתחום ה-AI, מפרסמת מסגרת עקרונות חדשה לפיתוח סוכני בינה מלאכותית (AI) בטוחים ואמינים. המסגרת מגיעה על רקע העלייה בשימוש בסוכני AI אוטונומיים, המסוגלים לבצע משימות מורכבות ללא התערבות אנושית מתמדת, ומהווה צעד קריטי להבטחת הפריסה האחראית שלהם. היא מתמקדת בחמישה עקרונות ליבה: שמירה על שליטה אנושית, שקיפות בהתנהגות הסוכן, יישור (alignment) עם ערכים אנושיים, הגנה על פרטיות אינטראקציות, ואבטחת המערכות מפני ניצול לרעה. מטרת אנתרופיק היא להניח בסיס לתקנים עתידיים ולשתף פעולה עם התעשייה לבניית עתיד AI בטוח ואמין.
קרא עוד
מודלי שפה גדולים (LLM) מציגים לעיתים קרובות 'אישיות' משתנה ולא צפויה, מה שעלול להוביל להתנהגויות בעייתיות כמו הזיות או הטיות. מחקר חדש של אנתרופיק (Anthropic) מציג את 'וקטורי הפרסונה' – דפוסי פעילות ספציפיים בתוך הרשת הנוירונית של המודל השולטים בתכונות אופי אלו. טכניקה חדשנית זו מאפשרת ניטור שינויי אישיות, מניעת הטיות לא רצויות במהלך אימון ואף זיהוי מוקדם של נתוני אימון בעייתיים. בכך, וקטורי פרסונה מציעים דרך פורצת דרך להבטיח את בטיחותם ויישורם של מודלי AI לערכים אנושיים.
קרא עוד
חברת אנתרופיק (Anthropic), מפתחת מודל השפה הגדול Claude, הודיעה כי חתמה על התחייבות "מערכת הבריאות הטכנולוגית" של ה-CMS (Centers for Medicare & Medicaid Services) האמריקאי. יוזמה זו, המשלבת כוחות בין הממשלה לתעשייה, נועדה לקדם AI שיחתי, לחדש את שיתוף נתוני הבריאות ולשפר את תוצאות הטיפול למטופלים בארצות הברית. באנתרופיק מציינים כי טכנולוגיית ה-AI שלהם, במיוחד פרוטוקול MCP, יכולה לגשר על פערי מידע בין מערכות קיימות ולאפשר לסוכני AI גישה מאובטחת לנתונים, ובכך לפרק את ה"סילואים" הקיימים. החברה צפויה לפעול בשיתוף פעולה עם מגוון גורמים בתחום הבריאות כדי להפוך את הנתונים לשימושיים ואחראיים בעזרת Claude, מתוך אמונה שהדבר יתרום לשיפור הטיפול הרפואי.
קרא עוד
חברת אנתרופיק (Anthropic) מכריזה על שיתוף פעולה אסטרטגי עם מכון בקר פרידמן לכלכלה (BFI) באוניברסיטת שיקגו, שיעמיק את מחקר ההשפעה של בינה מלאכותית על שוקי העבודה, הפריון והחלוקה הכלכלית. במסגרת המהלך, כלכלני המכון יקבלו גישה ל-Claude for Enterprise ויעברו הכשרות, במטרה לשלב את נתוני אנתרופיק והמומחיות הכלכלית שלהם עם יוזמת ה-Economic Index של החברה. שיתוף הפעולה נועד לספק תובנות עמוקות ומהימנות יותר לקובעי מדיניות וחוקרים בנוגע לדפוסים המורכבים של אימוץ AI.
קרא עוד
חברת AI אנתרופיק (Anthropic) הודיעה על מינויו של פול סמית' (Paul Smith) לסמנכ"ל המסחרי הראשי הראשון שלה. סמית', שייכנס לתפקידו בהמשך השנה, מביא עמו ניסיון של למעלה מ-30 שנה בהובלת ארגוני שיווק ומכירות גלובליים בחברות טכנולוגיה מובילות כמו מיקרוסופט, סיילספורס וסרוויס-נואו. המינוי מגיע בתקופה של צמיחה מואצת עבור אנתרופיק, במיוחד בשוק הארגוני, כאשר היא משרתת מאות אלפי לקוחות API ומודל Claude Code שלה רושם גידול של פי חמישה בהכנסות החוזרות בחודשיים בלבד. המהלך נועד לחזק את הארגון המסחרי של החברה ולתמוך בפריסת ה-AI בקרב עסקים גלובליים.
קרא עוד
אנתרופיק, בשיתוף פעולה עם Pattern Labs, ביצעה סדרת מבחני סייבר מעמיקים למודלי Claude Opus 4 ו-Claude Sonnet 4. הממצאים חושפים התקדמות משמעותית ביכולות התקפיות, במיוחד במודל Opus, שהפגין שיפור בולט ביכולת חשיבה גמישה, זיהוי פגיעויות וביצוע שרשרת התקפות מורכבת. עם זאת, המבחנים גם הצביעו על מגבלות חשובות, במיוחד בשמירה על תוכניות ארוכות טווח אל מול מכשולים בלתי צפויים, מה שמסייע לאנתרופיק להמשיך ולשפר את בטיחות המודלים שלה.
קרא עוד
אנתרופיק (Anthropic), מובילה בפיתוח AI, זכתה בחוזה לשנתיים ממשרד ההגנה האמריקאי (DOD) דרך משרד ה-CDAO שלו, בהיקף של עד 200 מיליון דולר. במסגרת ההסכם, אנתרופיק תפתח אבטיפוסים של יכולות AI חזיתיות במטרה לקדם את הביטחון הלאומי של ארה"ב. שיתוף הפעולה יתמקד בפיתוח ופריסה אחראית של AI, תוך התייחסות ליישור המודלים, פרשנותם ויכולת הניהוג שלהם, ויבנה על בסיס שותפויות ממשלתיות קודמות של החברה.
קרא עוד
חברת אנתרופיק (Anthropic) מכוונת עמוק למגזר החינוך עם שילובים חדשים של מודל ה-LLM שלה, Claude, בפלטפורמות אקדמיות מובילות כמו Canvas, Panopto ו-Wiley. החברה מציגה הצצה ראשונה ליכולות שיאפשרו לסטודנטים ולאנשי חינוך להתייחס לתכני למידה עשירים ישירות בשיחות עם Claude, תוך שמירה קפדנית על פרטיות. במקביל, אנתרופיק מרחיבה תוכניות לסטודנטים, משיקה קורס "AI Fluency" ומחזקת שיתופי פעולה עם אוניברסיטאות כדי לקדם אימוץ AI אחראי וגישה שוויונית לכלים מתקדמים.
קרא עוד