סיכוני AI

אנתרופיק מציגה את מדיניות הסקיילינג האחראי 3.0: כך היא מתמודדת עם סיכוני AI

אנתרופיק (Anthropic), חברת ה-AI המובילה, שחררה את גרסה 3.0 למדיניות הסקיילינג האחראי (RSP) שלה, מסגרת וולונטרית שנועדה למנוע סיכונים קטסטרופליים ממערכות בינה מלאכותית. העדכון מגיע שנתיים לאחר השקת המדיניות המקורית, מתוך הבנה שהתקדמות ה-AI המהירה דורשת התאמות משמעותיות. הגרסה החדשה מפרידה בין תוכניות החברה הפנימיות להמלצות לתעשייה כולה, מציגה "מפת דרכים לבטיחות מודלי חזית" ומחייבת פרסום "דוחות סיכון" עם ביקורת חיצונית. המטרה היא להתמודד באופן פרואקטיבי ושקוף עם האתגרים הייחודיים של AI מתפתח, תוך הכרה במגבלות של פעולה חד-צדדית.