שליפה קונטקסטואלית

היכרות עם שליפה קונטקסטואלית: לשפר את הדיוק ב-RAG

אנתרופיק (Anthropic) מציגה גישה חדשנית לשיפור מערכות AI באמצעות שיטות שליפה קונטקסטואליות מתקדמות. הגישה, המכונה "שליפה קונטקסטואלית", פותרת את בעיית אובדן ההקשר בפתרונות RAG מסורתיים, ומאפשרת למודלי שפה גדולים (LLM) לגשת למידע רלוונטי ומדויק יותר. היא משתמשת בשילוב של Contextual Embeddings ו-Contextual BM25 כדי להפחית משמעותית את שיעור כשלי השליפה בעד 49%. בנוסף, החברה מפרטת כיצד שילוב טכניקה זו עם reranking יכול לשפר עוד יותר את הביצועים בעד 67%, תוך התייחסות לשימוש ב-Prompt Caching של קלוד להוזלת עלויות וייעול התהליך.