שליפת מידע

Contextual Retrieval: אנתרופיק משפרת דרמטית את RAG

אנתרופיק (Anthropic) מציגה את Contextual Retrieval, שיטה חדשנית לשיפור מערכות RAG (Retrieval-Augmented Generation) במודלי שפה גדולים (LLM). השיטה פותרת את בעיית אובדן ההקשר בשליפת מידע מסורתית על ידי הוספת הקשר ספציפי לכל פיסת מידע לפני תהליך ה-embedding והאינדוקס. באמצעות Contextual Embeddings ו-Contextual BM25, אנתרופיק הצליחה להפחית את שיעור כשלי השליפה בעד 49%, ואף ב-67% בשילוב עם Reranking. פריצת דרך זו מאפשרת למודלים כמו קלוד (Claude) לגשת למידע רלוונטי ומדויק יותר ממאגרי ידע גדולים, ובכך לשפר באופן ניכר את ביצועיהם במגוון משימות. יכולת ה-prompt caching החדשה של Claude תורמת גם היא להוזלה משמעותית של עלויות הטמעת השיטה.