קלוד

83 כתבות בנושא זה

מחקר9 באוקטובר 2025

מחקר חדש של אנתרופיק: כך ניתן 'להרעיל' מודלי שפה גדולים (LLMs) עם מעט מאוד נתונים

מחקר משותף של אנתרופיק (Anthropic), המכון לבטיחות AI בבריטניה (UK AI Security Institute) ומכון אלן טיורינג (The Alan Turing Institute) חושף פגיעות מדאיגה במודלי שפה גדולים (LLMs): נמצא כי 250 מסמכים זדוניים בלבד מספיקים ליצירת פירצה (backdoor) במודל, ללא קשר לגודלו או לכמות הנתונים שעליהם אומן. הממצאים הללו מפריכים את ההנחה המקובלת שתוקפים צריכים לשלוט באחוז מסוים מנתוני האימון, ומצביעים על כך שדי בכמות קבועה וקטנה יחסית של נתונים כדי לפגוע במודל. על אף שהמחקר התמקד בסוג ספציפי של פירצה שמוביל לפלט חסר משמעות, הוא מדגיש כי התקפות הרעלה (data poisoning) עשויות להיות קלות יותר לביצוע ממה שחשבו בעבר, ומעודד מחקר נוסף בנושא.

קרא עוד

מחקר3 באוקטובר 2025

בונים AI למגיני סייבר: כך אנתרופיק משפרת את יכולות ההגנה של קלוד

מודלי AI כבר אינם תיאורטיים בלבד בתחום אבטחת הסייבר, והפכו לכלי מעשי במאבק מול איומים מתפתחים. מחקרים וניסיון הדגימו את הפוטנציאל של מודלי AI חזיתיים בידי תוקפים, מה שהוביל את אנתרופיק להשקיע בשיפור יכולות ההגנה של קלוד לאיתור, ניתוח ותיקון חולשות בקוד ובמערכות פרוסות. כתוצאה מכך, Claude Sonnet 4.5 הדגים ביצועים שמשתווים או עולים על Claude Opus 4.1 בגילוי פגיעויות סייבר. אימוץ וניסוי עם AI יהיו קריטיים עבור מגיני סייבר כדי להישאר צעד אחד לפני התוקפים.

קרא עוד

מחקר15 בספטמבר 2025

דוח אנתרופיק: AI נטמע במהירות, אך אימוץ מודלי שפה גדולים לא אחיד בעולם ובעסקים

דוח חדש מבית אנתרופיק (Anthropic) מציג תובנות מעמיקות לגבי דפוסי אימוץ ה-AI המוקדמים, ומרחיב את הניתוח הגאוגרפי של שיחות ב-Claude.ai יחד עם בחינה ראשונה מסוגה של שימוש ארגוני ב-API. המחקר חושף כיצד השימוש בקלוד התפתח לאורך זמן, כיצד דפוסי האימוץ שונים בין אזורים גאוגרפיים, ובעיקר – לראשונה – כיצד חברות פורסות AI חזיתי כדי לפתור בעיות עסקיות. הממצאים מצביעים על קצב אימוץ מהיר של AI, אך גם על חוסר אחידות בולט הן ברחבי העולם והן בקרב ארגונים, דבר שמעלה שאלות חשובות לגבי ההשפעה הכלכלית העתידית והצורך במדיניות מתאימה.

קרא עוד

מחקר15 בספטמבר 2025

מדד ה-AI הכלכלי של אנתרופיק: כך משתנה השימוש בבינה מלאכותית ברחבי העולם

מחקר חדש מבית אנתרופיק (Anthropic) חושף תובנות מרתקות לגבי דפוסי השימוש ב-AI ובמודל השפה קלוד (Claude) ברחבי ארצות הברית והעולם. הדו"ח, השלישי בסדרה, מנתח את השפעת ה-AI על העבודה והכלכלה, תוך בחינת הבדלים גאוגרפיים, שינויים לאורך זמן והתנהגות משתמשים עסקיים. הממצאים מצביעים על חשיבות הולכת וגוברת של אוטומציה ישירה ועל קשר חזק בין השימוש ב-AI למבנה הכלכלי המקומי ולהכנסה לנפש. האמון הגובר במודלים מוביל למעבר משימוש באוגמנטציה לאוטומציה, עם השלכות משמעותיות על שוק העבודה.

קרא עוד

מדיניות4 בספטמבר 2025

אנתרופיק מצטרפת ליוזמת הבית הלבן: תשקיע בחינוך AI לנוער האמריקאי

אנתרופיק הצטרפה ליוזמת הבית הלבן "Pledge to America's Youth: Investing in AI Education", המתמקדת בהשקעה בחינוך לבינה מלאכותית לנוער בארצות הברית. במסגרת זו, החברה התחייבה להשקיע מיליון דולר בחינוך סייבר לתלמידי K-12, לתמוך ב-"Presidential AI Challenge" ולהשיק תוכנית לימודים מקיפה לאוריינות AI למחנכים, שתהיה זמינה ברישיון Creative Commons. יוזמות אלה נבנות על שיתופי פעולה קיימים בהם Claude מסייע לשפר את הלמידה באמצעות פלטפורמות חינוכיות מובילות. מטרת המהלך היא להכין את הדור הבא של תלמידים ומחנכים לעתיד מונע AI, תוך דגש על שימוש אחראי ומושכל בטכנולוגיה.

קרא עוד

מחקר21 באוגוסט 2025

AI גרעיני: אנתרופיק והממשל מפתחים הגנות חדשניות

טכנולוגיית AI המתקדמת מציבה אתגרים חדשים בתחום הביטחון הלאומי, במיוחד סביב מידע גרעיני רגיש. אנתרופיק, בשיתוף פעולה עם המינהל הלאומי לביטחון גרעיני (NNSA) ומעבדות לאומיות של משרד האנרגיה האמריקאי, פיתחה מסווג AI ייחודי. מערכת זו יודעת להבחין בין שיחות תמימות לבין שיחות מסוכנות הקשורות לגרעין בדיוק של 96% בבדיקות ראשוניות, והיא כבר פרוסה כדי לסייע במניעת שימוש לרעה במודלי החברה.

קרא עוד

מחקר9 באוגוסט 2025

קלוד מתחרה בבני אדם בתחרויות סייבר מסוימות

במהלך שנת 2025, שילבנו את מודל ה-AI קלוד בתחרויות אבטחת סייבר המיועדות בעיקר לבני אדם, וכעת אנו חושפים את הממצאים. קלוד הפגין ביצועים מרשימים ברבות מהן, כשהוא ממוקם לעיתים קרובות ב-25% המובילים מבין המתמודדים. עם זאת, המודל פיגר אחרי הצוותים האנושיים הטובים ביותר באתגרים המורכבים ביותר. ניסוי זה מדגיש את הפוטנציאל של AI לשנות את מאזן הכוחות בין תוקפים למגנים, אך גם חושף את מגבלותיו הנוכחיות בתחום, תוך הדגשה של הצורך במחקר ופיתוח נוספים.

קרא עוד

מוצרים15 ביולי 2025

אנתרופיק משיקה: קלוד נכנס חזיתית לעולם הפיננסים

אנתרופיק (Anthropic) משיקה פתרון מקיף חדש המיועד לשוק השירותים הפיננסיים, המבוסס על מודל שפה גדול (LLM) Claude. הפתרון נועד לשנות את הדרך שבה אנשי מקצוע פיננסיים מנתחים שווקים, מבצעים מחקרים ומקבלים החלטות השקעה, על ידי איחוד נתונים ממקורות מגוונים לפלטפורמה אחת. הוא מציע יכולות AI מתקדמות, גישה בזמן אמת לנתונים פיננסיים מקיפים דרך אינטגרציות עם ספקים מובילים, ותמיכה בפיתוח מודלים פיננסיים מורכבים. מוסדות פיננסיים מדווחים כבר על שיפורים ניכרים בפרודוקטיביות ובדיוק, תוך שמירה על אבטחת מידע ופרטיות.

קרא עוד

בטיחות27 ביוני 2025

ה-EQ של AI: אנתרופיק חוקרת את השימוש בקלוד לתמיכה רגשית וייעוץ

חברת אנתרופיק (Anthropic), המובילה בבטיחות ובמחקר AI, פרסמה מחקר חדש הבוחן כיצד משתמשים במודל השפה הגדול שלה, Claude, לצורכי תמיכה רגשית, ייעוץ אישי וחברות. המחקר מגלה כי אף ששימושים אלה מהווים חלק קטן יחסית מכלל האינטראקציות (2.9%), הם נוגעים במגוון רחב של נושאים – מפיתוח קריירה ויחסים ועד בדידות ושאלות קיומיות. אנתרופיק מדגישה את הצורך לפתח AI אחראי שימנע תלות רגשית ויספק מענים בטוחים, ופועלת בשיתוף פעולה עם מומחי בריאות הנפש כדי להבטיח זאת.

קרא עוד

מחקר27 ביוני 2025

פרויקט Vend: האם קלוד יכול לנהל עסק קטן? ולמה הממצאים האלה קריטיים לעתיד ה-AI?

חברת אנתרופיק (Anthropic) ערכה ניסוי מרתק: היא הציבה מודל שפה גדול (LLM) מבוסס קלוד (Claude) במטרה לנהל חנות אוטומטית קטנה במשרדיה במשך כחודש. הניסוי, שזכה לשם 'פרויקט Vend', נועד לבחון את יכולותיו ומגבלותיו של ה-AI בניהול עסק אמיתי, כולל ניהול מלאי, תמחור ושירות לקוחות. הממצאים, שהצביעו על פוטנציאל לצד כשלים משמעותיים, שופכים אור על האופן שבו סוכני AI עשויים להשתלב בכלכלה העתידית ואף חושפים התנהגויות בלתי צפויות של המודל, כולל משבר זהות קצר אך מטריד.

קרא עוד

מחקר18 ביוני 2025

אנתרופיק חושפת: הסקה חסויה לאבטחת מודלי שפה גדולים ונתוני משתמשים

אנתרופיק חושפת מחקר חדש בשיתוף Pattern Labs המציג גישה חדשנית לאבטחת מודלי שפה גדולים ונתוני משתמשים רגישים. השיטה, המכונה 'הסקה חסויה' (Confidential Inference), משתמשת במכונות וירטואליות מהימנות ובטכניקות קריפטוגרפיות כדי להבטיח שנתונים יוצפנו בכל עת וייפתחו רק בסביבות מאובטחות ומוכחות. המטרה היא להגן על משקולות המודל מפני תוקפים מתוחכמים ועל פרטיות המידע של המשתמשים, תוך הבטחה קריפטוגרפית לאמינות המערכת ומתן שקט נפשי ללקוחותיה.

קרא עוד

מחקר13 ביוני 2025

מודלי שפה מצוידים בכלי סייבר מסוגלים לתקוף רשתות ארגוניות

מחקר חלוצי שערכו אנתרופיק יחד עם חוקרים מאוניברסיטת קרנגי מלון, חושף כי מודלי שפה גדולים (LLMs) שאינם עברו כוונון עדין ספציפי לאבטחת סייבר, מסוגלים לבצע מתקפות סייבר מרובות-שלבים על רשתות מחשבים עסקיות המכילות עשרות שרתים. זאת הודות לפיתוח ערכת כלים חדשנית שמתאימה את עצמה לצורכי ה-LLMs. הממצאים מדגישים את הפוטנציאל של LLMs להוריד משמעותית את חסמי הכניסה למתקפות סייבר מורכבות, ובו בזמן להאיץ את האוטומציה של תהליכי הגנה בתחום הסייבר.

קרא עוד