מחקר
מחקרים ופרסומים מצוות המחקר של אנתרופיק - סקירות מעמיקות, ניתוחים טכניים ותובנות מעולם הבינה המלאכותית
8 במרץ 2022
אנתרופיק חושפת: ראשי אינדוקציה וסודות הלמידה בהקשר במודלי שפה
אנתרופיק, חברת מחקר ובטיחות AI מובילה, מציגה תובנות חדשות על מנגנוני הליבה שמאפשרים למודלי שפה גדולים (LLMs) ללמוד מתוך הקשר (In-context Learning). המחקר שלהם מתמקד ב"ראשי אינדוקציה" (Induction Heads), רכיבי מפתח ברשתות הטרנספורמר, שמסייעים להבין כיצד המודלים רוכשים ידע ומתאימים את עצמם במהירות. הבנה מעמיקה של תהליכים אלו קריטית לפיתוח מערכות AI אמינות, ניתנות לפרשנות וניתנות לשליטה, כחלק מהמחויבות של אנתרופיק ל-AI אחראי.
קרא עוד
15 בפברואר 2022
חיזוי והפתעה במודלי בינה מלאכותית גנרטיביים: האתגר של אנתרופיק
חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ומחקר בינה מלאכותית, מפרסמת נייר עמדה חשוב הדן במאפיין פרדוקסלי של מודלים גנרטיביים גדולים: מצד אחד, קיימת יכולת חיזוי גבוהה לגבי ביצועיהם הכלליים באימון (חוקי סקיילינג); מצד שני, היכולות הספציפיות והתוצרים שלהם בלתי צפויים לעיתים קרובות. נייר העמדה מזהיר כי שילוב זה מאיץ את פיתוח המודלים אך מקשה על חיזוי ההשלכות בעת פריסתם, ועלול להוביל להתנהגות מזיקה חברתית. החברה מציעה דרכים להתמודד עם אתגרים אלו במטרה להבטיח השפעה חיובית של ה-AI.
קרא עוד
22 בדצמבר 2021
לפענח את מוחו של ה-AI: אנתרופיק מציגה מסגרת מתמטית להבנת טרנספורמרים
חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות וחקירת AI, חושפת מחקר חדש המציג מסגרת מתמטית פורצת דרך להבנת המבנה הפנימי של מודלי טרנספורמר. מחקר זה נועד לפענח את 'הקופסה השחורה' של מודלי שפה גדולים, ולאפשר פרשנות עמוקה יותר של אופן פעולתם. באמצעות הבנת 'המעגלים' החישוביים הייחודיים בתוך המודלים, אנתרופיק שואפת לבנות מערכות AI אמינות, ניתנות ליישור ובטוחות יותר, תוך קידום היכולת לאתר ולתקן התנהגויות לא רצויות. מדובר בצעד קריטי לקראת פיתוח AI אחראי ואמין לטווח הארוך.
קרא עוד
1 בדצמבר 2021
מעבדת יישור: כך Anthropic בונה סוכני שפה בטוחים ואחראיים
אנתרופיק (Anthropic), חברת מחקר ובטיחות AI מובילה, מציגה תובנות חדשות ממחקר שנועד להפוך מודלי שפה גדולים (LLM) לעוזרים כלליים שמתיישרים עם ערכים אנושיים – כלומר, מועילים, כנים ולא מזיקים. המחקר בוחן שיטות יישור פשוטות כמו פרומפטים, ומגלה כי התערבויות קטנות משפרות את הביצועים ומתרחבות עם גודל המודל, מבלי לפגוע ביכולותיו. בנוסף, נבחנות אסטרטגיות אימון שונות, כאשר אימון מבוסס דירוג העדפות מתגלה כיעיל ביותר בסקיילינג ובהשגת יישור מיטבי. לבסוף, מציגה אנתרופיק שיטת קדם-אימון חדשנית שמטרתה לשפר את יעילות הלמידה מהעדפות אנושיות.
קרא עוד