פרשנות

23 כתבות בנושא זה

מחקר18 ביולי 2023

מחקר חדש מראה: כך פירוק שאלות משפר את נאמנות ההסקה במודלי שפה

מודלי שפה גדולים (LLM) מתמודדים עם משימות מורכבות יותר, מה שמקשה על אימות נכונותם ובטיחותם. שיטה נפוצה לסייע בכך היא לאפשר למודלים להציג את תהליכי החשיבה שלהם צעד אחר צעד (Chain-of-Thought - CoT). עם זאת, ההסקה המוצהרת לא תמיד משקפת נאמנה את ההסקה האמיתית של המודל. מחקר חדש של אנתרופיק (Anthropic) מציע גישה משופרת: פירוק שאלות מורכבות לשאלות משנה פשוטות יותר. גישה זו, שבה המודל נאלץ לענות על תת-שאלות בהקשרים נפרדים, מגבירה באופן משמעותי את נאמנות ההסקה לעומת CoT, תוך שמירה על ביצועים גבוהים. הממצאים מצביעים על כך שניתן לשפר את אמינות תהליכי החשיבה של מודלים, מה שחיוני לבטיחות ודיוק מערכות ה-AI.

קרא עוד

מחקר4 במאי 2023

אנתרופיק חוקרת את נבכי ה-AI: קומפוזיציה וסופרפוזיציה בייצוגים מבוזרים

חברת אנתרופיק (Anthropic), המובילה במחקר ובטיחות AI, פרסמה מאמר חדש המעמיק בייצוגים מבוזרים – רעיון קלאסי במדעי המוח ובלמידת מכונה. המחקר מציע חלוקה חדשנית של מושג ה"ייצוגים המבוזרים" לשני רעיונות נפרדים: קומפוזיציה וסופרפוזיציה. הבנת הדינמיקה בין רכיבים אלה קריטית לפיתוח מערכות AI אמינות, ניתנות לפרשנות ושליטה, ומסייעת להתגבר על מורכבותן של רשתות נוירוניות ומודלי שפה גדולים (LLMs).

קרא עוד

מחקר16 במרץ 2023

בסיסים מועדפים בטרנספורמרים: אנתרופיק חושפת כיצד אלגוריתם Adam משפיע על מודלי AI

אנתרופיק (Anthropic), חברת מחקר ובטיחות AI מובילה, פרסמה מחקר פורץ דרך השופך אור על התנהגות בלתי צפויה במודלי טרנספורמר, הארכיטקטורה שעומדת בבסיסם של מודלי שפה גדולים (LLMs). המחקר מגלה כי בניגוד לתאוריה המתמטית, לא כל "נתיבי המידע" הפנימיים במודלים אלו שווים בחשיבותם, כאשר קיימים "בסיסים מועדפים" המקודדים מידע בצורה שונה. ממצאים ראשוניים מצביעים על כך שאלגוריתם האופטימיזציה Adam, המשמש לאימון מודלים, הוא הגורם להיווצרותם של בסיסים אלו, תגלית בעלת השלכות קריטיות על פרשנות, בטיחות ויישור (alignment) של מערכות AI.

קרא עוד

מחקר19 בדצמבר 2022

אנתרופיק חושפת: איך פלט מודל AI קשור לנתוני האימון שלו?

אנתרופיק (Anthropic), חברת מחקר ובטיחות AI מובילה, מפרסמת מחקר חדש המאפשר לעקוב אחר אופן פעולתם של מודלי שפה גדולים (LLM). המחקר, שפורסם בנייר 'Studying Large Language Model Generalization with Influence Functions', מציג גישה חדשנית המשתמשת ב'פונקציות השפעה' כדי לזהות אילו דוגמאות אימון תורמות באופן משמעותי לפלט של המודל. הממצאים המרכזיים מצביעים על כך שהכללת המודלים הופכת מופשטת יותר ככל שהם גדלים, ושקיים קשר חזק יותר בין שפות שונות במודלים גדולים יותר. המחקר מספק תובנות קריטיות להבנת יכולות AI ושיפור יישורם של המודלים עם העדפות אנושיות, תוך שהוא מדגים כיצד לאתר את מקורות ההשפעה בתוך הרשתות הנוירוניות.

קרא עוד

מחקר14 בספטמבר 2022

אנתרופיק צוללת לעומק: מודלי צעצוע חושפים את סודות הסופרפוזיציה ב-AI

חברת המחקר והבטיחות אנתרופיק (Anthropic), המוכרת בזכות מודל השפה הגדול קלוד (Claude), פרסמה מחקר פורץ דרך הבוחן תופעה מהותית במודלי למידת מכונה הנקראת "סופרפוזיציה". המחקר, המשתמש ב"מודלי צעצוע" – רשתות ReLU קטנות שאומנו על נתונים סינתטיים עם מאפייני קלט דלילים – חושף כיצד מודלים אלו מצליחים לייצג יותר מאפיינים מכפי מספר הממדים שלהם. הבנת מנגנון הדחיסה הייחודי הזה, יחד עם ההפרעות שהוא עלול ליצור והצורך בסינון לא-לינארי, קריטית לפיתוח מערכות AI אמינות, ניתנות לפרשנות ושליטה, שהן יעד מרכזי בחזון ה-AI האחראי של אנתרופיק.

קרא עוד

מחקר17 ביוני 2022

אנתרופיק מציגה: SoLU – הדרך החדשה להבנת מודלי AI

אנתרופיק, חברת מחקר ובטיחות בתחום ה-AI, פרסמה לאחרונה מחקר המציג שינוי ארכיטקטוני משמעותי במודלים שלה. באמצעות הטמעת יחידות ליניאריות מסוג Softmax, המכונות SoLU, החברה הצליחה להגדיל באופן ניכר את יכולת הניתוח הפנימי (interpretability) של רשתות נוירוניות, כמעט ללא פגיעה בביצועים. הממצאים מצביעים על הבנה טובה יותר של פעולת ה"מוח" של מודלי ה-AI, למרות חשש שהפתרון עשוי להסתיר תכונות אחרות. זהו צעד קדימה משמעותי במאמץ לייצר מערכות AI אמינות ושקופות יותר.

קרא עוד

מחקר21 במאי 2022

מחקר חדש חושף: כך נתוני אימון חוזרים פוגעים קשות במודלי שפה גדולים

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI ומחקר בינה מלאכותית, מפרסמת מחקר חלוצי הבוחן את ההשפעה המפתיעה של נתונים חוזרים במהלך אימון מודלי שפה גדולים (LLM). המחקר מגלה תופעת 'ירידה כפולה' שבה חשיפה חוזרת, אפילו לאחוז קטן של נתונים, עלולה להוביל לירידה דרמטית בביצועי המודל. הממצאים מצביעים על כך ששינון יתר של נתונים צורך נתח ניכר מיכולות המודל, פוגע ביכולת ההכללה שלו ומוריד את ביצועיו לרמה של מודל קטן בהרבה. דוח זה מדגיש את החשיבות הקריטית של אסטרטגיות ניהול נתונים מתקדמות לאימון מודלי AI.

קרא עוד

חברה29 באפריל 2022

אנתרופיק מגייסת 580 מיליון דולר בסבב B: תתמקד ב-AI בטוח וניתן להכוונה

חברת אנתרופיק, המובילה מחקרים בתחום <strong>בטיחות ה-AI</strong>, הודיעה על השלמת סבב גיוס B בסך 580 מיליון דולר. הגיוס ישמש לבניית תשתית ניסויית רחבת היקף במטרה לשפר את מאפייני ה<strong>בטיחות</strong> של <strong>מודלי AI עתירי חישוב</strong>. אנתרופיק מתמקדת בפיתוח <strong>מודלים</strong> אמינים, <strong>ניתנים לפרשנות</strong> ו<strong>ניתנים להכוונה</strong>, המשלבים <strong>מנגנוני הגנה</strong> מובנים כבר בשלבי האימון ודורשים פחות התערבות לאחר מכן. החברה שואפת לפתח כלים שיאפשרו להבין ולוודא את פעילות מנגנוני ה<strong>בטיחות</strong> הללו, תוך בחינת ההשלכות הרחבות של ה<strong>סקיילינג</strong> על החברה והמדיניות.

קרא עוד

מחקר8 במרץ 2022

אנתרופיק חושפת: ראשי אינדוקציה וסודות הלמידה בהקשר במודלי שפה

אנתרופיק, חברת מחקר ובטיחות AI מובילה, מציגה תובנות חדשות על מנגנוני הליבה שמאפשרים למודלי שפה גדולים (LLMs) ללמוד מתוך הקשר (In-context Learning). המחקר שלהם מתמקד ב"ראשי אינדוקציה" (Induction Heads), רכיבי מפתח ברשתות הטרנספורמר, שמסייעים להבין כיצד המודלים רוכשים ידע ומתאימים את עצמם במהירות. הבנה מעמיקה של תהליכים אלו קריטית לפיתוח מערכות AI אמינות, ניתנות לפרשנות וניתנות לשליטה, כחלק מהמחויבות של אנתרופיק ל-AI אחראי.

קרא עוד

מחקר22 בדצמבר 2021

לפענח את מוחו של ה-AI: אנתרופיק מציגה מסגרת מתמטית להבנת טרנספורמרים

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות וחקירת AI, חושפת מחקר חדש המציג מסגרת מתמטית פורצת דרך להבנת המבנה הפנימי של מודלי טרנספורמר. מחקר זה נועד לפענח את 'הקופסה השחורה' של מודלי שפה גדולים, ולאפשר פרשנות עמוקה יותר של אופן פעולתם. באמצעות הבנת 'המעגלים' החישוביים הייחודיים בתוך המודלים, אנתרופיק שואפת לבנות מערכות AI אמינות, ניתנות ליישור ובטוחות יותר, תוך קידום היכולת לאתר ולתקן התנהגויות לא רצויות. מדובר בצעד קריטי לקראת פיתוח AI אחראי ואמין לטווח הארוך.

קרא עוד

חברה28 במאי 2021

אנתרופיק גייסה 124 מיליון דולר לפיתוח מערכות AI כלליות ואמינות יותר

חברת המחקר והבטיחות בתחום ה-AI, אנתרופיק (Anthropic), הודיעה על גיוס סבב A בסך 124 מיליון דולר. גיוס ההון נועד לתמוך בחברה בהוצאה לפועל של מפת הדרכים המחקרית שלה ובפיתוח אבות טיפוס של מערכות בינה מלאכותית אמינות, ניתנות לפרשנות ושליטה. אנתרופיק, שהוקמה על ידי בכירים לשעבר מ-OpenAI, שמה דגש מיוחד על בטיחות ה-AI. היא מתמקדת בפיתוח מודלי AI בקנה מידה גדול עם דגש על יישור, פרשנות ושילוב הדוק של משוב אנושי.

קרא עוד