אנתרופיק (Anthropic) הודיעה כי מודלי קלוד (Claude) העתידיים יכללו סימן מים (watermark) מובנה בטקסטים שהם מייצרים. מדובר בשיטה שנועדה לאפשר זיהוי סבירות למעורבות של קלוד ביצירת טקסט נתון. המהלך מגיע כחלק מדרישות חוק ה-AI של האיחוד האירופי, ואנתרופיק מצטרפת לספקיות AI גדולות נוספות המיישמות שינויים דומים. החברה מבהירה כי שיטת סימון המים שנבחרה אינה משפיעה על איכות או תוכן הפלטים של קלוד. הטקסטים המסומנים אינם ניתנים להבדלה מטקסטים ללא סימן מים עבור קורא אנושי, ואין כל תוספות גלויות או תווים נסתרים. יתרה מכך, הסימון אינו דורש טוקנים (tokens) נוספים, אינו מייקר את השימוש במודל ואינו משפיע על מהירות הסקתו. חשוב לציין כי סימון המים אינו מכיל מידע מזהה ואינו ניתן לייחוס לאדם, ארגון או שיחה ספציפיים.
מודלי שפה גדולים (LLM) כמו קלוד מייצרים מילים אחת אחרי השנייה, כשהם בוחרים בכל פעם מהרשימה של המילים הסבירות ביותר. במקרים רבים, קיימות מספר מילים סבירות שלא משנות באופן מהותי את משמעות המשפט. סימון המים מנצל בחירות אלו, המתרחשות פעמים רבות לאורך טקסט שנוצר, כדי להטמיע תבנית בלתי נראית בתגובות של קלוד. התבנית הזו ניתנת לזיהוי רק למי שיש לו את המפתח המתאים, והיא מאפשרת להעריך את הסבירות שהטקסט נוצר על ידי קלוד מבלי להשפיע על המילים שנבחרו בפועל, ואין ביכולתה לדחוף את המודל לבחור מילים שהוא לא היה שוקל בכל מקרה.
אנתרופיק משתמשת בגרסה של גישת SynthID-Text, שפורסמה על ידי גוגל DeepMind. לשיטה זו יש מגבלות: היא מזהה רק מעורבות של קלוד, לא מאשרת אם הטקסט נכתב על ידי אדם או AI אחר, ואינה יעילה במיוחד בדגימות קטנות של טקסט או בקטעים עובדתיים שבהם אין כמעט בחירה של מילים (למשל, קוד או הגהה קלה). ככל שהקטע ארוך יותר, כך עולה רמת הביטחון לגבי מעורבותו של קלוד. אם טקסט נערך באופן נרחב לאחר יצירתו על ידי קלוד (כך שכל מילה הוחלפה), סימן המים יוסר.
היישום הגלובלי של סימון המים נועד לציית לקוד ההתנהגות של האיחוד האירופי בנושא שקיפות תוכן שנוצר ב-AI, שאנתרופיק ושחקני AI מרכזיים נוספים חתמו עליו ביולי 2024. החברה מציינת כי תעריך גישות שונות בעתיד, ובקרוב תציע גם API ייעודי לזיהוי סימני מים בטקסט. עבור תמונות וקבצים אחרים, קלוד יצרף אישורי תוכן (content credentials) בפורמט C2PA למטא-דאטה של הקובץ, בדומה לשימוש ביצרני מצלמות ותוכנות עריכה. סימון מים בטקסטים מתורגמים על ידי קלוד ייושם גם הוא, וגם מודלים ותיקים יותר יקבלו את היכולת הזו בחודשים הקרובים. חשוב להדגיש כי סימן המים אינו משנה את הבעלות או האחריות המשפטית על התוכן.
