235 כתבות בנושא זה
חברת אנתרופיק (Anthropic), בשיתוף פעולה עם AE Studio, חושפת ממצאי מחקר פורצי דרך המציגים שיטה חדשנית לשליטה בגישה ליכולות AI שעלולות להיות דו-שימושיות או מסוכנות. השיטה, המכונה GRAM, מאפשרת למודלי שפה גדולים לאגור ידע ספציפי בתאים נפרדים, ובכך לאפשר הדלקה או כיבוי סלקטיביים של יכולות אלו ללא פגיעה בביצועי המודל הכוללים. מדובר בצעד משמעותי לקראת פתרון בעיית אבטחת מודלים חזיתיים ושימוש אחראי בבינה מלאכותית.
קרא עוד
ממשלת אלברטה בקנדה מציגה מהפכה באבטחת סייבר באמצעות שימוש במודלי Claude Opus ו-Sonnet של Anthropic. הצוות הטכנולוגי סרק 466 מיליון שורות קוד ב-20 שעות בלבד, איתר ותיקן אלפי פרצות אבטחה במערכות ממשלתיות מיושנות, תוך חיסכון של שנים רבות של עבודה ידנית. המהלך לא רק חיזק את האבטחה אלא גם תוכנן להפוך למודל לפיקוח מתמשך ולמודרניזציה בקנה מידה רחב עבור ממשלות אחרות ברחבי העולם, תוך שימוש בסוכני AI לבנייה מחדש של יישומים.
קרא עוד
חברת אנתרופיק (Anthropic) הודיעה על החזרת מודל ה-AI המתקדם שלה, Claude Fable 5, לפעילות החל מה-1 ביולי, זאת לאחר הסרת בקרות הייצוא שהוטלו עליו. המודל הושעה בעקבות דיווח על פריצת מגבלות (jailbreak) שאפשרה זיהוי נקודות תורפה אבטחתיות. בתגובה, אנתרופיק יישמה מנגנוני הגנה משופרים והשיקה יחד עם שותפותיה מסגרת עבודה תעשייתית חדשה להערכת חומרת פריצות מגבלות במודלי AI, תוך העמקת שיתוף הפעולה עם ממשלת ארה"ב.
קרא עוד
אנתרופיק (Anthropic) משיקה את Claude Science, סביבת עבודה חדשה מבוססת AI המיועדת במיוחד למדענים וחוקרים. האפליקציה ניתנת להתאמה אישית ומשלבת כלים וחבילות תוכנה נפוצות בתחום המדע, מאפשרת יצירת Artifacts הניתנים לביקורת ואימות, ומציעה גישה גמישה למשאבי מחשוב מתקדמים. Claude Science מאיצה תגליות מדעיות ומפשטת תהליכי מחקר מורכבים באמצעות סוכני AI מתקדמים, המאגדים כלים מפוצלים לסביבה אחת ומנהלים משאבי מחשוב לפי דרישה. הפלטפורמה זמינה כעת בבטא למנויי Claude Pro, Max, Team ו-Enterprise.
קרא עוד
ממשלת ארה"ב הוציאה הנחיה חריגה לבקרת ייצוא, המורה להשעות באופן מיידי את הגישה למודלי ה-AI Fable 5 ו-Mythos 5 של אנתרופיק (Anthropic). ההנחיה, המבוססת על סמכויות ביטחון לאומי, אוסרת על כל אזרח זר, בארה"ב ומחוצה לה, לגשת למודלים אלו. כתוצאה מכך, אנתרופיק נאלצת להשבית את המודלים עבור כלל לקוחותיה, תוך שמירה על זמינותם של שאר מודלי החברה. החברה הביעה אי-הסכמה עם המהלך, בטענה כי מדובר בפריצת מגבלות קלה שאינה מצדיקה השבתה גורפת העלולה לעצור את התפתחות מודלי החזית בתעשייה.
קרא עוד
אנתרופיק (Anthropic) מפרסמת את הממצאים הראשונים מסקר ה-Anthropic Public Record, מחקר מקיף שבוחן את עמדות הציבור האמריקאי כלפי בינה מלאכותית. הסקר, שנערך בקרב כ-52 אלף אזרחים, חושף כי בעוד שהתקוות העיקריות מ-AI נוגעות לריפוי מחלות ועזרה לבעלי מוגבלויות, החשש הגדול ביותר הוא מאובדן מקומות עבודה. הממצאים מראים תמיכה רחבה בהתערבות ממשלתית בפיקוח על AI, לצד אמון נמוך בחברות ה-AI עצמן בקבלת החלטות לגבי פיתוח הטכנולוגיה.
קרא עוד
אנתרופיק (Anthropic) משיקה היום את Claude Fable 5, מודל חדש בסדרת Mythos המיועד לשימוש כללי לאחר הטמעת מנגנוני בטיחות מתקדמים. לצדו, מושק Claude Mythos 5, מודל זהה ביכולותיו אך עם מנגנוני הגנה מופחתים, שיהיה זמין תחילה לאנשי הגנת סייבר וספקי תשתית קריטיים במסגרת תוכנית גישה מורחבת. שני המודלים מציגים יכולות פורצות דרך במגוון תחומים, כולל הנדסת תוכנה, עבודת ידע, ראייה ואף מחקר מדעי מתקדם, ומצוידים ביכולות ארוכות-טווח שלא נראו בעבר במודלי קלוד קודמים. ההשקה מלווה במנגנוני הגנה מחמירים, כולל מסווגים מתקדמים למניעת שימוש לרעה בתחומי סייבר וביולוגיה, במטרה להביא יכולות AI מתקדמות למשתמשים באופן בטוח ומהיר ככל האפשר.
קרא עוד
בתחום אבטחת הסייבר, חלק ניכר מהנזק בעולם האמיתי נובע מפרצות N-day: אלו חולשות אבטחה שכבר נחשפו בפומבי, אך תוקנו רק בחלק מההתקנים. אקספלויטים אלו מנוצלים בחלון הזמן שבין חשיפת התיקון לפריסתו הרחבה. בכתבה זו, אנו בוחנים עד כמה מודלי שפה גדולים (LLMs) יכולים לזרז ולהפוך לאוטומטי את תהליך הפיתוח של אקספלויטים מסוג N-day. הממצאים מצביעים על שינוי דרמטי במהירות ובנגישות של פיתוח אקספלויטים, מה שדורש התייחסות מחודשת לאסטרטגיות הגנה.
קרא עוד
אנתרופיק (Anthropic) חושפת מחקר פורץ דרך שמטרתו לשפר את יכולותיו של מודל ה-LLM שלה, קלוד, בתחום הכימיה. המחקר, שבוצע בשיתוף כימאים מובילים, בחן את ביצועי קלוד בניתוח ספקטרום NMR – הכלי האנליטי הנפוץ ביותר בכימיה. הממצאים מראים שקלוד 4.7 Opus משתווה ואף עולה על תוכנות ייעודיות קיימות בחיזוי ספקטרום, ואף מצליח לבצע את המשימה הקשה יותר של זיהוי מבנה מולקולרי מספקטרום בלבד. מדובר בצעד משמעותי בדרך להפיכת AI לכלי חיוני במעבדה הכימית, המסייע לכימאים לחסוך זמן ולשפר את הדיוק בעבודתם.
קרא עוד
בעוד ה-AI משנה את אופי ושיטות מתקפות הסייבר, עולה השאלה עד כמה יעילים הכלים והמתודולוגיות הקיימים בקהילת האבטחה. דוח חדש של אנתרופיק (Anthropic) מציג ממצאים מקיפים ממיפוי איומי סייבר מבוססי AI, וחושף כי התוקפים מנצלים בינה מלאכותית לשלבים מורכבים יותר של המתקפה וכי קשה יותר לאמוד את רמת הסיכון שלהם. המחקר מראה כי מסגרות אבטחה קיימות, כמו MITRE ATT&CK, אינן מכסות באופן מלא את השימוש ב-AI, מה שמחייב התאמה ושינוי כדי להתמודד עם האתגרים החדשים.
קרא עוד
אנתרופיק (Anthropic) מכריזה על הרחבה משמעותית של Project Glasswing, יוזמה שנועדה לאבטח את התוכנה הקריטית ביותר בעולם באמצעות מודלי AI. הפרויקט, שזיהה כבר למעלה מ-10,000 ליקויי אבטחה חמורים, יכלול כעת כ-150 ארגונים נוספים מלמעלה מ-15 מדינות, כולל ספקי תשתית חיונית וגופים שמוצריהם משמשים ממשלות. ההרחבה נועדה להאיץ את ההתאמה של תעשיית הסייבר למציאות שבה מודלי AI חזקים עשויים לשנות את כללי המשחק, תוך התמקדות באיתור, תיקון והגנה מפני התקפות בקנה מידה רחב.
קרא עוד
חברת אנתרופיק גייסה סכום עתק של 65 מיליארד דולר בסבב גיוס H, המשקף לה שווי אדיר של 965 מיליארד דולר לאחר הכסף. סבב הגיוס הובל על ידי Altimeter Capital, Dragoneer, Greenoaks ו-Sequoia Capital. הכספים מיועדים לקדם את מחקר הבטיחות והפרשנות ב-AI, להרחיב את יכולות ה-compute לתמיכה בביקוש הגובר למודל השפה הגדול שלה, קלוד, ולהרחיב את מוצרי החברה ושותפויותיה. הגיוס מגיע בצל צמיחה משמעותית של קלוד בקרב ארגונים גלובליים, עם הכנסות בקצב שנתי שחצו את ה-47 מיליארד דולר. בנוסף, החברה הרחיבה משמעותית את קיבולת ה-compute שלה באמצעות שיתופי פעולה עם Amazon, Google, Broadcom ו-SpaceX.
קרא עוד