שליפה קונטקסטואלית

שליפה קונטקסטואלית: זינוק בביצועי RAG של מודלי AI

אנתרופיק (Anthropic) מציגה את 'שליפה קונטקסטואלית' – גישה חדשנית לשיפור מערכות AI, ובפרט מודלי שפה גדולים (LLM), באמצעות הרחבת RAG. השיטה מאפשרת להגדיל משמעותית את דיוק שליפת המידע הרלוונטי מבסיסי ידע גדולים על ידי הוספת הקשר ל'צ'אנקים' (נתחי טקסט) לפני יצירת embedding ואינדקס BM25. באמצעות שימוש בקלוד (Claude) לטובת יצירת הקשר ובפיצ'ר ה-prompt caching, התהליך הופך ליעיל וחסכוני. כשמשלבים את השיטה עם reranking, אחוזי הכישלון בשליפת מידע יכולים לרדת בעד 67%, מה שמספק שיפור משמעותי בביצועי מודלי AI המסתמכים על RAG.