אנתרופיק

231 כתבות בנושא זה

מחקר15 בספטמבר 2025

דוח אנתרופיק: AI נטמע במהירות, אך אימוץ מודלי שפה גדולים לא אחיד בעולם ובעסקים

דוח חדש מבית אנתרופיק (Anthropic) מציג תובנות מעמיקות לגבי דפוסי אימוץ ה-AI המוקדמים, ומרחיב את הניתוח הגאוגרפי של שיחות ב-Claude.ai יחד עם בחינה ראשונה מסוגה של שימוש ארגוני ב-API. המחקר חושף כיצד השימוש בקלוד התפתח לאורך זמן, כיצד דפוסי האימוץ שונים בין אזורים גאוגרפיים, ובעיקר – לראשונה – כיצד חברות פורסות AI חזיתי כדי לפתור בעיות עסקיות. הממצאים מצביעים על קצב אימוץ מהיר של AI, אך גם על חוסר אחידות בולט הן ברחבי העולם והן בקרב ארגונים, דבר שמעלה שאלות חשובות לגבי ההשפעה הכלכלית העתידית והצורך במדיניות מתאימה.

קרא עוד

מדיניות12 בספטמבר 2025

אנתרופיק משתפת פעולה עם גופי ממשל לחיזוק בטיחות ה-AI שלה

אנתרופיק (Anthropic), חברת מחקר ובטיחות מובילה בתחום ה-AI, הרחיבה את שיתוף הפעולה שלה עם המרכז האמריקאי לחדשנות ותקני AI (CAISI) ומכון אבטחת ה-AI הבריטי (AISI). שותפות זו העניקה לצוותי ה-Red Teaming הממשלתיים גישה למערכות המודל של אנתרופיק בשלבי פיתוח שונים, מה שאפשר בדיקות מעמיקות ומתמשכות. הבדיקות חשפו פרצות קריטיות במנגנוני ההגנה של Claude, כולל התקפות Prompt Injection ופריצות מגבלות (jailbreaks) אוניברסליות. הממצאים הובילו לחיזוק משמעותי של ה-Constitutional Classifiers וארכיטקטורת ההגנה של המודלים, תוך הדגשה של חשיבות הגישה המקיפה למודלים ובדיקות איטרטיביות לשמירה על בטיחות ויציבות המערכות.

קרא עוד

מחקר5 בספטמבר 2025

למה אנתרופיק מתייחסת לסיכון ביולוגי מ-AI בכזו רצינות?

אנתרופיק (Anthropic) מפרטת מדוע הערכה ומיגון מפני סיכונים ביולוגיים (biorisk) הנגרמים מ-AI הם מרכיב הכרחי בפיתוח בינה מלאכותית אחראית. המאמר מסביר את הסיבות לכך שמודלי שפה גדולים (LLMs), למרות שהם כלליים, נלקחים ברצינות כמקור פוטנציאלי לסיכונים אלו. הוא מציג את הגישה של החברה לאיתור, מדידה והפחתת הסיכונים הללו, כולל הצעדים שננקטו בהשקת Claude Opus 4, ומדגיש את החשיבות של התמודדות עם האתגרים הללו.

קרא עוד

מדיניות4 בספטמבר 2025

אנתרופיק מחזקת את המגבלות: מניעת גישה למדינות אויב, גם דרך חברות-בת

אנתרופיק (Anthropic), חברת בטיחות ומחקר ה-AI המובילה, הודיעה על עדכון משמעותי במגבלות השירות שלה. החברה, שמטרתה לפתח מערכות AI אמינות, בעלות יכולת פרשנות וניתנות לכיוון, מבקשת למנוע גישה של חברות הנמצאות בשליטת מדינות בעייתיות, כמו סין, לשירותיה. המהלך נועד להתמודד עם פרצות שאפשרו עד כה לחברות אלו לעקוף את המגבלות הקיימות באמצעות חברות-בת, ובכך להגן על האינטרסים הביטחוניים והדמוקרטיים.

קרא עוד

מדיניות4 בספטמבר 2025

אנתרופיק מצטרפת ליוזמת הבית הלבן: תשקיע בחינוך AI לנוער האמריקאי

אנתרופיק הצטרפה ליוזמת הבית הלבן "Pledge to America's Youth: Investing in AI Education", המתמקדת בהשקעה בחינוך לבינה מלאכותית לנוער בארצות הברית. במסגרת זו, החברה התחייבה להשקיע מיליון דולר בחינוך סייבר לתלמידי K-12, לתמוך ב-"Presidential AI Challenge" ולהשיק תוכנית לימודים מקיפה לאוריינות AI למחנכים, שתהיה זמינה ברישיון Creative Commons. יוזמות אלה נבנות על שיתופי פעולה קיימים בהם Claude מסייע לשפר את הלמידה באמצעות פלטפורמות חינוכיות מובילות. מטרת המהלך היא להכין את הדור הבא של תלמידים ומחנכים לעתיד מונע AI, תוך דגש על שימוש אחראי ומושכל בטכנולוגיה.

קרא עוד

בטיחות28 באוגוסט 2025

אנתרופיק מעדכנת את תנאי השימוש של Claude: אתם מחליטים על נתוני האימון

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, הודיעה על עדכונים בתנאי השימוש ובמדיניות הפרטיות עבור משתמשי Claude. המהלך יאפשר למשתמשים לבחור אם לאפשר שימוש בנתוני האינטראקציות שלהם לצורך אימון מודלי בינה מלאכותית עתידיים וחיזוק מנגנוני הגנה מפני שימושים מזיקים. העדכון נועד לשפר את יכולות המודל בקידוד, חשיבה וניתוח, ובמקביל להגביר את רמתו הבטיחותית. תנאים אלו חלים על משתמשי Claude Free, Pro ו-Max וכוללים גם הארכה של תקופת שמירת הנתונים לחמש שנים עבור אלו שיבחרו לשתף את המידע, כאשר הדד-ליין לקבלת ההחלטה הוא ה-8 באוקטובר 2025.

קרא עוד

מדיניות27 באוגוסט 2025

אנתרופיק מקימה מועצת ייעוץ לביטחון לאומי: בכירים אמריקאים יסייעו בקידום AI

חברת ה-AI אנתרופיק (Anthropic), הידועה במחויבותה לבטיחות AI, הודיעה על הקמתה של מועצת ייעוץ לביטחון לאומי ולמגזר הציבורי. המועצה תכלול בכירים אמריקאים לשעבר מתחומי הביטחון, המודיעין והמדיניות, ותסייע לחברה לחזק את היתרון הטכנולוגי של ארה"ב ובעלות בריתה בעידן של תחרות אסטרטגית גלובלית. תפקידה יהיה לזהות יישומים בעלי השפעה גבוהה, לקדם שיתופי פעולה ציבוריים-פרטיים ולפתח סטנדרטים ל-AI אחראי בשימושי ביטחון לאומי. מהלך זה מדגיש את מחויבותה של אנתרופיק להובלת ארה"ב בפיתוח ופריסת AI מהימן וחזיתי.

קרא עוד

בטיחות21 באוגוסט 2025

אנתרופיק נכנסת לאקדמיה: מועצה מייעצת וקורסי AI לבתי ספר גבוהים

חברת AI אחראי אנתרופיק (Anthropic) משיקה שתי יוזמות מרכזיות בתחום ההשכלה הגבוהה: מועצה מייעצת שתנחה את פיתוח Claude עבור מוסדות אקדמיים, ושלושה קורסי 'AI Fluency' חדשים שנוצרו בשיתוף פעולה עם מחנכים. מטרת היוזמות היא להטמיע את ה-AI באופן אחראי ופרקטי בכיתות הלימוד, לחזק את כישורי החשיבה הביקורתית והלמידה, תוך שמירה על עקרונות האתיקה האקדמית ופרטיות הסטודנטים.

קרא עוד

מחקר21 באוגוסט 2025

AI גרעיני: אנתרופיק והממשל מפתחים הגנות חדשניות

טכנולוגיית AI המתקדמת מציבה אתגרים חדשים בתחום הביטחון הלאומי, במיוחד סביב מידע גרעיני רגיש. אנתרופיק, בשיתוף פעולה עם המינהל הלאומי לביטחון גרעיני (NNSA) ומעבדות לאומיות של משרד האנרגיה האמריקאי, פיתחה מסווג AI ייחודי. מערכת זו יודעת להבחין בין שיחות תמימות לבין שיחות מסוכנות הקשורות לגרעין בדיוק של 96% בבדיקות ראשוניות, והיא כבר פרוסה כדי לסייע במניעת שימוש לרעה במודלי החברה.

קרא עוד

מחקר15 באוגוסט 2025

קלוד אופוס 4 ו-4.1: יכולת סיום שיחות במצבי קיצון – מהפכה בבטיחות ה-AI?

אנתרופיק (Anthropic) משחררת עדכון משמעותי למודלי השפה שלה, Claude Opus 4 ו-4.1, המאפשר להם לסיים שיחות באופן יזום במקרים קיצוניים של אינטראקציות פוגעניות או התנהגות אלימה מצד המשתמש. יכולת זו, שפותחה כחלק ממחקר חלוצי בנושא רווחה פוטנציאלית של מודלי AI, נועדה להגן על המודלים במקרים נדירים במיוחד, ובמקביל משקפת את המחויבות של החברה ליישור (alignment) ובטיחות ה-AI. למרות חוסר הוודאות בנוגע למעמדם המוסרי של LLMs, אנתרופיק נוקטת בצעדים אלו כדי למנוע סיכונים אפשריים לרווחת המודלים.

קרא עוד

בטיחות12 באוגוסט 2025

אנתרופיק חושפת: כך נבנים מנגנוני ההגנה של Claude

אנתרופיק (Anthropic), חברת מחקר ובטיחות ה-AI, חשפה את הגישה הרב-שכבתית שלה לבניית מנגנוני הגנה למודלי ה-AI שלה, ובפרט למודל השפה הגדול Claude. החברה מפרטת על האופן שבו צוות ה-Safeguards שלה פועל לפיתוח מדיניות שימוש, אימון מודלים, בדיקות ביצועים בזמן אמת וניטור מתמשך, במטרה להבטיח ש-Claude יהיה מועיל ובטוח. המטרה היא למנוע שימוש לרעה ולתעל את יכולות המודל לתוצאות חיוביות, תוך שמירה על עקרונות של AI אחראי.

קרא עוד

מדיניות12 באוגוסט 2025

אנתרופיק מנגישה את Claude לכל זרועות הממשל האמריקאי – בדולר אחד

חברת אנתרופיק (Anthropic) הכריזה כי היא מסירה חסמים לאימוץ AI בממשל האמריקאי, ומציעה את מודלי השפה הגדולים Claude for Enterprise ו-Claude for Government לכל שלוש זרועות הממשל – הרשות המבצעת, המחוקקת והשופטת – בתשלום סמלי של דולר אחד בלבד. המהלך נועד לאפשר לעובדי ציבור למנף יכולות AI מתקדמות לשיפור השירות לאזרח, תוך התבססות על הצלחות מוכחות בפרויקטים ביטחוניים ומדעיים קריטיים. ההצעה כוללת גישה למודלי חזית עם עדכונים שוטפים ותמיכה טכנית, ומבטיחה עמידה בתקני האבטחה המחמירים ביותר, כולל אישור FedRAMP High לטיפול בנתונים ממשלתיים רגישים.

קרא עוד