מחקר15 בפברואר 2022
חיזוי והפתעה במודלי בינה מלאכותית גנרטיביים: האתגר של אנתרופיק
חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ומחקר בינה מלאכותית, מפרסמת נייר עמדה חשוב הדן במאפיין פרדוקסלי של מודלים גנרטיביים גדולים: מצד אחד, קיימת יכולת חיזוי גבוהה לגבי ביצועיהם הכלליים באימון (חוקי סקיילינג); מצד שני, היכולות הספציפיות והתוצרים שלהם בלתי צפויים לעיתים קרובות. נייר העמדה מזהיר כי שילוב זה מאיץ את פיתוח המודלים אך מקשה על חיזוי ההשלכות בעת פריסתם, ועלול להוביל להתנהגות מזיקה חברתית. החברה מציעה דרכים להתמודד עם אתגרים אלו במטרה להבטיח השפעה חיובית של ה-AI.
קרא עוד