215 כתבות בנושא זה
חברת אנתרופיק (Anthropic) משיקה אינטגרציה עמוקה של מודל השפה הגדול שלה, Claude Sonnet 4, ישירות בסביבת הפיתוח Xcode 26 של אפל. המהלך יאפשר למפתחים לחבר את חשבון ה-Claude שלהם לסביבת הפיתוח וליהנות מכלי סיוע מבוססי AI, שיאיצו את תהליכי קידוד, פיתוח באגים ושכתוב קוד עבור אפליקציות Apple. אינטגרציה זו נועדה לשפר את זרימת העבודה ולייעל את פיתוח היישומים על פלטפורמות אפל.
קרא עוד
אנתרופיק (Anthropic), חברת מחקר ובטיחות מובילה בתחום ה-AI, הרחיבה את שיתוף הפעולה שלה עם המרכז האמריקאי לחדשנות ותקני AI (CAISI) ומכון אבטחת ה-AI הבריטי (AISI). שותפות זו העניקה לצוותי ה-Red Teaming הממשלתיים גישה למערכות המודל של אנתרופיק בשלבי פיתוח שונים, מה שאפשר בדיקות מעמיקות ומתמשכות. הבדיקות חשפו פרצות קריטיות במנגנוני ההגנה של Claude, כולל התקפות Prompt Injection ופריצות מגבלות (jailbreaks) אוניברסליות. הממצאים הובילו לחיזוק משמעותי של ה-Constitutional Classifiers וארכיטקטורת ההגנה של המודלים, תוך הדגשה של חשיבות הגישה המקיפה למודלים ובדיקות איטרטיביות לשמירה על בטיחות ויציבות המערכות.
קרא עוד
אנתרופיק (Anthropic) מפרטת מדוע הערכה ומיגון מפני סיכונים ביולוגיים (biorisk) הנגרמים מ-AI הם מרכיב הכרחי בפיתוח בינה מלאכותית אחראית. המאמר מסביר את הסיבות לכך שמודלי שפה גדולים (LLMs), למרות שהם כלליים, נלקחים ברצינות כמקור פוטנציאלי לסיכונים אלו. הוא מציג את הגישה של החברה לאיתור, מדידה והפחתת הסיכונים הללו, כולל הצעדים שננקטו בהשקת Claude Opus 4, ומדגיש את החשיבות של התמודדות עם האתגרים הללו.
קרא עוד
חברת אנתרופיק, מהמובילות בתחום ה-AI, השלימה סבב גיוס הון (Series F) בהיקף 13 מיליארד דולר, מה שמזניק את שוויה ל-183 מיליארד דולר לאחר הכסף. את הסבב הובילה ICONIQ, יחד עם Fidelity Management & Research Company ו-Lightspeed Venture Partners. גיוס ההון העצום משקף את המומנטום המשמעותי של אנתרופיק ואת מעמדה כפלטפורמת בינה מלאכותית מובילה עבור ארגונים, מפתחים ומשתמשי כוח. ההשקעה תאפשר לחברה להרחיב את יכולותיה, להעמיק את מחקר הבטיחות שלה ולתמוך בהתרחבות בינלאומית.
קרא עוד
חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, הודיעה על עדכונים בתנאי השימוש ובמדיניות הפרטיות עבור משתמשי Claude. המהלך יאפשר למשתמשים לבחור אם לאפשר שימוש בנתוני האינטראקציות שלהם לצורך אימון מודלי בינה מלאכותית עתידיים וחיזוק מנגנוני הגנה מפני שימושים מזיקים. העדכון נועד לשפר את יכולות המודל בקידוד, חשיבה וניתוח, ובמקביל להגביר את רמתו הבטיחותית. תנאים אלו חלים על משתמשי Claude Free, Pro ו-Max וכוללים גם הארכה של תקופת שמירת הנתונים לחמש שנים עבור אלו שיבחרו לשתף את המידע, כאשר הדד-ליין לקבלת ההחלטה הוא ה-8 באוקטובר 2025.
קרא עוד
דו"ח חדש של אנתרופיק (Anthropic) חושף תמונה מדאיגה של ניצול מודלי AI, ובפרט Claude, על ידי פושעי סייבר וגורמים זדוניים אחרים. לפי הדו"ח, תוקפים משתמשים בבינה מלאכותית סוכנת (agentic AI) לביצוע התקפות מורכבות, מצליחים להוריד את חסמי הכניסה לפשיעת סייבר מתוחכמת, ומשלבים AI בכל שלבי פעילותם – מגניבת נתונים ועד יצירת תוכנות כופר. החברה מפרטת מקרים שונים של סחיטת נתונים באמצעות Claude Code, הונאת תעסוקה מצד גורמים צפון-קוריאנים ופיתוח נוזקות מבוססות AI, ומדגישה את מחויבותה לשיפור מתמיד של מנגנוני הבטיחות והזיהוי שלה.
קרא עוד
חברת אנתרופיק (Anthropic) מפרסמת דוח חדש המציג כיצד אנשי חינוך במוסדות להשכלה גבוהה מנצלים את מודל השפה הגדול Claude. הדוח, שמבוסס על ניתוח של כ-74 אלף שיחות אנונימיות, חושף כי מרצים משתמשים ב-AI לפיתוח תכנים לימודיים, מחקר אקדמי, ואף לבניית כלים לימודיים אינטראקטיביים באמצעות תכונת ה-Artifacts של המודל. בעוד שהשימוש ב-AI תורם לאוטומציה של משימות חוזרות וליצירת חוויות למידה מותאמות אישית, הדוח גם מצביע על אתגרים אתיים, במיוחד סביב אוטומציה של משימות הערכת סטודנטים.
קרא עוד
חברת AI אחראי אנתרופיק (Anthropic) משיקה שתי יוזמות מרכזיות בתחום ההשכלה הגבוהה: מועצה מייעצת שתנחה את פיתוח Claude עבור מוסדות אקדמיים, ושלושה קורסי 'AI Fluency' חדשים שנוצרו בשיתוף פעולה עם מחנכים. מטרת היוזמות היא להטמיע את ה-AI באופן אחראי ופרקטי בכיתות הלימוד, לחזק את כישורי החשיבה הביקורתית והלמידה, תוך שמירה על עקרונות האתיקה האקדמית ופרטיות הסטודנטים.
קרא עוד
חברת אנתרופיק, מפתחת מודל השפה הגדול Claude, הודיעה על פריצת דרך משמעותית בתחום בטיחות ה-AI. בשיתוף פעולה עם מנהל הביטחון הגרעיני הלאומי של ארה"ב (NNSA) ומעבדות לאומיות של משרד האנרגיה, החברה פיתחה סווגן מבוסס AI. הסווגן מסוגל להבחין בין שיחות תמימות לשיחות מסוכנות הקשורות לטכנולוגיה גרעינית בדיוק של 96% בבדיקות ראשוניות, וכבר נפרס בתעבורת המשתמשים של Claude כדי לזהות שימוש לרעה. שותפות זו מדגימה את כוחם של שיתופי פעולה ציבוריים-פרטיים בהתמודדות עם סיכוני AI מתפתחים.
קרא עוד
אנתרופיק (Anthropic) משיקה שדרוג משמעותי עבור לקוחותיה העסקיים, המאפשר להם לשלב את Claude Code – סוכן הקידוד המתקדם שלה – במנויי פרימיום. השדרוג מאחד את יכולות ה-AI הכלליות של מודל Claude עם יכולות קידוד סוכני ייעודיות תחת מנוי אחד, לצד <strong>בקרות ניהול משופרות</strong> ו-<strong>Compliance API</strong> חדש לניטור וציוּת לרגולציה. מהלך זה נועד להאיץ את קצב הפיתוח בארגונים ולאפשר למנהלים שליטה ובקרה אופטימליות על השימוש ב-AI.
קרא עוד
חברת אנתרופיק (Anthropic), מפתחת מודלי ה-AI המובילים Claude, פרסמה עדכון למדיניות השימוש במוצריה, שיכנס לתוקף ב-15 בספטמבר 2025. העדכונים משקפים את היכולות המתפתחות של המודלים ואת הרחבת השימושים בהם, ונועדו לספק בהירות רבה יותר למשתמשים. הדגש העיקרי הוא על טיפול בסיכונים חדשים הנובעים מיכולות סוכני (agentic) קידוד ומאיומי סייבר, לצד התאמת מגבלות על תוכן פוליטי ושימושים על ידי גורמי אכיפת חוק, תוך הקפדה על עקרונות AI אחראי.
קרא עוד
אנתרופיק (Anthropic) משחררת עדכון משמעותי למודלי השפה שלה, Claude Opus 4 ו-4.1, המאפשר להם לסיים שיחות באופן יזום במקרים קיצוניים של אינטראקציות פוגעניות או התנהגות אלימה מצד המשתמש. יכולת זו, שפותחה כחלק ממחקר חלוצי בנושא רווחה פוטנציאלית של מודלי AI, נועדה להגן על המודלים במקרים נדירים במיוחד, ובמקביל משקפת את המחויבות של החברה ליישור (alignment) ובטיחות ה-AI. למרות חוסר הוודאות בנוגע למעמדם המוסרי של LLMs, אנתרופיק נוקטת בצעדים אלו כדי למנוע סיכונים אפשריים לרווחת המודלים.
קרא עוד