
בטיחות24 בפברואר 2025
קלוד חושב לעומק: Anthropic חושפת יכולות חשיבה מורחבות
אנתרופיק השיקה את Claude 3.7 Sonnet עם יכולת חדשנית הנקראת "מצב חשיבה מורחבת", המאפשרת למודל להקדיש זמן ומאמץ רב יותר למשימות מורכבות. בנוסף, המודל חושף את תהליך החשיבה הפנימי שלו, מה שמגביר שקיפות ואמון, אך גם מעלה שאלות חשובות בנוגע לבטיחות ולנאמנות. Claude 3.7 Sonnet מפגין גם יכולות סוכני משופרות, שהודגמו בהצלחה במדדי ביצועים כמו OSWorld ואף במשחק פוקימון, ומשלב מנגנוני הגנה מתקדמים נגד סיכונים כמו הזרקת פרומפטים ותוכן מזיק.
קרא עוד