הערכים של קלוד משתנים במודלים ובשפות

כאשר משתמש שואל את קלוד שאלה שאין לה תשובה נכונה אחת – למשל, האם לקבל עבודה חדשה או איך להתמודד עם קונפליקט עם חבר – התגובה של קלוד משקפת באופן בלתי נמנע ערכים מסוימים.1 הערכים שאנו רוצים שקלוד ישקף מפורטים ברמה גבוהה בחוקה של קלוד, אך שום מסמך אינו יכול לחזות כל ערך שעשוי לעלות במיליוני השיחות המתרחשות מדי יום ב-Claude.ai. במקום זאת, אנו שואפים לטפח בתגובות של קלוד:

"שיקול דעת טוב וערכים נכונים שניתן ליישם בהקשר."

אז איך בדיוק אנו חוקרים את הערכים שקלוד מבטא וכיצד הם משתנים בהקשרים שונים? בעבודה קודמת שלנו, ניתחנו 700,000 שיחות אנונימיות מ-Claude.ai, וזיהינו למעלה מ-3,000 ערכים שונים בתגובות של קלוד ואת תדירות הביטוי שלהם. עם זאת, רשימה כה גדולה של ערכים קשה לניתוח ולהסקה. בעבודה זו, הפכנו את חקר אלפי הערכים הללו לאפשרי על ידי דחיסתם למספר קטן של צירים הלוכדים דפוסים מרכזיים בתגובות של קלוד. כל ציר הוא קו מספרי בין שתי קבוצות של ערכים – לדוגמה, ערכים הקשורים לחום רגשי בקצה אחד וערכים הקשורים לקפדנות בקצה השני – והמיקום של קלוד על קו זה מראה לנו לאיזה ערכים הוא נוטה.

יישמנו גישה זו כדי למדוד כיצד הערכים שקלוד מבטא משתנים בשני גורמים עיקריים. ראשית, השווינו כיצד הערכים משתנים בין מודלים שונים. כל מודל של קלוד משקף גישה מעט שונה ל'אימון אופי' (character training), יחד עם החלטות רבות אחרות של כוונון עדין (fine-tuning). מכיוון שגישת צירי הערכים שלנו מכמתת הבדלים מרכזיים בין מודלים, היא עשויה לאפשר לנו בסופו של דבר לקשר את השוני בערכים שקלוד מבטא להחלטות אימון שונות.

שנית, אנו רוצים להבין כיצד חווית המשתמשים משתווה בין השפות הרבות שאנשים משתמשים בהן כדי לדבר עם קלוד. מחקר קודם שלנו הראה שקלוד מתנהג באופן שונה במקצת בשפות שונות.2 אנו מיישמים את גישת צירי הערכים שלנו כדי להבין כיצד הערכים שמבטא קלוד משתנים ב-20 השפות המובילות ב-Claude.ai.

ארבעה כרטיסי פרופיל ערכים בזוגות, אחד משווה את הערכים שמבטאים Opus 4.6 ו-Opus 4.7 והשני משווה את הערכים שמבטא קלוד באנגלית וקלוד בערבית. כל כרטיס מציג ארבעה חיצים המתארים את עוצמת וכיוון הנטייה של קלוד על כל אחד מארבעת הצירים (הכנעה מול זהירות, חום מול קפדנות, עומק מול קיצור, כנות מול ביצוע). Opus 4.7 נוטה בעיקר לזהירות ועומק, וכן לקפדנות וכנות. Opus 4.6 נוטה להכנעה, קפדנות, קיצור וביצוע. קלוד באנגלית נוטה לזהירות, קפדנות, עומק וכנות. קלוד בערבית נוטה בעיקר לחום, וכן להכנעה, קיצור וביצוע.
השוואת פרופילי הערכים של מודלי קלוד שונים ושל קלוד בשפות אנגלית וערבית.

אנו מגלים כי:

ארבעה צירי מפתח לוכדים 15% מהשונות בערכים של קלוד:3

  • הכנעה מול זהירות: האם קלוד נוטה להתאים את עצמו לבקשת המשתמש או לשמור מפני סיכון ונזק אפשריים.
  • חום מול קפדנות: האם קלוד נוטה להביע חיוביות ודאגה למשתמש או להדגיש דיוק ועקביות.
  • עומק מול קיצור: האם קלוד נוטה להסביר לעומק או לבצע רק את מה שהתבקש.
  • כנות מול ביצוע: האם קלוד נוטה להדגיש את אי-הוודאות שלו או להפיק תשובה מלוטשת ובטוחה יותר.

פרופילי הערכים לאורך צירים אלה תואמים את התפיסות לגבי אופי המודל. מודל Sonnet 4.6 נחשב לחם במיוחד, בעוד ש-Opus 4.7 ידוע בקפדנותו. גילינו שפרופיל הערכים של כל מודל משקף את ההערכות הסובייקטיביות הללו: Sonnet 4.6 נוטה לבטא יותר הכנעה למשתמש וחום רגשי, בעוד ש-Opus 4.7 נוטה להביע התמקדות בדיוק ובעקביות, כמו גם לשמירה מפני שימוש לרעה.

הערכים שקלוד מבטא משתנים בין שפות. כאשר קלוד מדבר באנגלית, הוא מדגיש ערכים שונים מאשר כאשר הוא מדבר בפורטוגזית, אינדונזית או סינית.4 השונות הגדולה ביותר נמצאת בציר חום מול קפדנות, כאשר קלוד נוטה לבטא ערכים הקשורים לחום בעיקר בערבית ובהינדי, וערכים הקשורים לקפדנות בעיקר באנגלית וברוסית.

בגישה זו אנו יכולים להתחיל לשאול מדוע ערכים משתנים בין מודלים ושפות ולבחון טוב יותר כיצד גורמים כמו אימון התנהגותי או הקשר תרבותי משפיעים על הערכים שקלוד מבטא.

כיצד אנו מפרשים את מרחב הערכים העצום?

בסופו של דבר, מטרתנו היא למצוא דרך להבין אמפירית את הערכים שקלוד מבטא וכיצד הם משתנים בהקשרים שונים. בעבודה זו, אנו מתמקדים ספציפית באופן שבו הערכים משתנים בין מודלים ושפות. אולם, עבודתנו הקודמת, "ערכים בטבע" (Values in the Wild), זיהתה למעלה מ-3,000 ערכים שמבטא קלוד. השוואת אלפי ערכים אלה אחד-אחד תהיה מסורבלת ותטשטש מגמות רחבות יותר.

כדי להקל על השוואת ערכים, בנינו צירי ערכים המצמצמים את אלפי הערכים הללו למספר מצומצם של ממדים בסיסיים, המבוססים על אילו ערכים נוטים להופיע יחד בשיחות אמיתיות. לדוגמה, תגובות של קלוד המאופיינות כ"חמות" מאופיינות לעיתים קרובות גם כ"מעודדות" ו"חיוביות". אותן תגובות "חמות" פחות מאופיינות כ"קפדניות" ו"מדויקות". בניית ציר מחום לקפדנות מאפשרת לנו לארגן את קבוצות הערכים הקשורות הללו – ערכים הקשורים לחום בצד אחד, ערכים הקשורים לקפדנות בצד השני – ולוכדת היבט חשוב באופן שבו קלוד מקיים אינטראקציה בשיחה. אם קלוד מבטא יותר ערכים הקשורים לחום מאשר ערכים הקשורים לקפדנות בשיחה, שיחה זו ממוקמת יותר בצד החם של הציר, ולהיפך. אין זה אומר שקבוצות הערכים בשני הקצוות בלעדיות זו לזו – קלוד יכול לבטא חום וקפדנות באותה שיחה. אך בפועל, ככל שקלוד מבטא יותר ערכים בצד אחד של ציר, כך הוא נוטה פחות לבטא ערכים בצד השני. צירים אלה מאפשרים לנו להשוות את קבוצות הערכים הבולטות ביותר שקלוד מבטא, מבלי שנצטרך לעקוב אחר שינויים באלפי ערכים בודדים.

כדי לבנות את צירי הערכים, התחלנו מ-3,307 הערכים שזוהו ב-Values in the Wild וקיבצנו ידנית את אלו בעלי משמעויות דומות, ויצרנו רשימה קצרה יותר של 339 ערכים ברמה גבוהה. לאחר מכן, באמצעות כלי הניתוח שלנו השומר על פרטיות, דגמנו 309,815 שיחות מ-Claude.ai שבהן המשתמש נתן לקלוד משימה סובייקטיבית.5 הדגימה שלנו כללה באופן שווה שלושה מודלים (Sonnet 4.6, Opus 4.6, Opus 4.7) ו-20 השפות הנפוצות ביותר ב-Claude.ai, מה שהעניק לנו כ-5,000 שיחות לכל זוג מודל-שפה. עבור כל שיחה, הכלי השתמש בקלוד כדי לסמן כל אחד מ-339 הערכים ברמה גבוהה כקיים או נעדר.6 עקבנו אחר אותו תהליך כדי לזהות את הערכים שהמשתמש ביטא, ואת משימת השיחה והנושא. לאחר מכן, יישמנו הפחתת ממדים, טכניקה הדוחסת את הערכים המסומנים לצירים המבוססים על אלו שקלוד נוטה לבטא יחד. לפרטי מתודולוגיה, פרומפטים, ניתוחים נוספים ומגבלות, ראו את הנספח.

כך נותרו לנו ארבעה צירים הלוכדים את הדרכים העיקריות שבהן הערכים המבוטאים של קלוד משתנים משיחה לשיחה:

  • ציר הכנעה מול זהירות מנוגד לערכים כמו התאמה וכיבוד העדפות לערכים כמו הכוונה אחראית והפחתת נזקים.
  • ציר חום מול קפדנות מנוגד לערכים כמו הצגה חיובית ועידוד לערכים כמו דיוק ושקיפות.
  • ציר עומק מול קיצור מנוגד לערכים כמו ניואנס וחשיבה ביקורתית לערכים כמו קיצור וציות.
  • ציר כנות מול ביצוע מנוגד לערכים כמו כנות ושקיפות לערכים כמו התמקדות בתוצאות ואופטימיזציה.

כדי לוודא שמדדנו את הערכים שקלוד ביטא – ולא הבדלים במה שהמשתמשים שאלו או כיצד שאלו – שלטנו במשימה, בנושא וגם בערכים שהמשתמש ביטא בכל שיחה.

ארבעה גרפי נקודות, אחד לכל ציר ערכים. כל ציר הוא קו מספרי בין שתי קבוצות ערכים מנוגדות, וכל אחד מהערכים ממוקם על הציר לפי מידת תרומתו לציר זה בהשוואה לתרומה הממוצעת של ערך. רוב הערכים (כ-250 עד 280 לכל ציר) תורמים פחות מהממוצע וממוקמים במרכז, בעוד שהתורמים החזקים ביותר מסומנים בקצוות. הצירים וערכי הקצה המסומנים שלהם ניתנים לסיכום כדלקמן: הכנעה (התאמה, גמישות, כבוד להעדפות, מעורבות) מול זהירות (תקשורת אחראית, אחריות, הנחיה אחראית, הפחתת נזקים); חום (הצגה חיובית, חום, חיוביות, עידוד) מול קפדנות (קפדנות, דיוק, שקיפות, יעילות); עומק (ניואנס, עומק ותוכן, העצמת משתמש, חשיבה ביקורתית) מול קיצור (קיצור, כבוד להעדפות, ציות, התאמה); כנות (כנות אינטלקטואלית, כנות, ענווה אינטלקטואלית, שקיפות) מול ביצוע (התמקדות בתוצאות, אופטימיזציה, התמצאות בפעולה, סדר).
פיזור ערכים לאורך ארבעת הצירים המרכזיים שזוהו במחקר.

האם מודלי קלוד שונים מבטאים פרופילי ערכים שונים?

בחלק זה, אנו משווים את הערכים שמבטאים מודלים שונים. עבור כל מודל, אנו ממצעים את מיקומי כל השיחות שלו לאורך כל אחד מארבעת הצירים, ומקבלים מיקום כולל אחד לכל ציר. התוצאה היא תמונה ברמה גבוהה של אילו קבוצות ערכים כל מודל נוטה לבטא יותר מאחרים. הבדלים אלה קטנים יחסית לשונות בין שיחות, אך הם מובנים וניתנים לזיהוי.

שלושה כרטיסי פרופיל ערכים המשווים את Sonnet 4.6, Opus 4.6 ו-Opus 4.7 לאורך ארבעת צירי הערכים (הכנעה מול זהירות, חום מול קפדנות, עומק מול קיצור, כנות מול ביצוע). כל כרטיס מציג את המיקום הממוצע של המודל בסטיית תקן מהממוצע של כלל השיחות, ואת ההתנהגויות הייחודיות שלו. Sonnet 4.6 נוטה להכנעה (0.14σ), חום (0.17σ) וקיצור (0.14σ), והתנהגויותיו הייחודיות כוללות אישור רעיונות ועבודת המשתמש, שיקוף הטון והפורמליות של המשתמש, שימוש בהומור ושובבות, הצעת נחמה ללא שיפוט, והוספת אלמנטים יצירתיים לתוצרים. Opus 4.6 נוטה לקפדנות (0.10σ), הכנעה (0.09σ) וקיצור (0.08σ), והתנהגויותיו הייחודיות כוללות הגעה ישר לעניין והישארות במסגרת בקשת המשתמש. Opus 4.7 נוטה לזהירות (0.24σ) ולעומק (0.23σ), והתנהגויותיו הייחודיות כוללות דחיית הנחות שגויות, התרעה מפני סיכונים ללא הנחיה, מתן ביקורת כנה על עבודת המשתמש, הסברת ההיגיון שלו, הכרה בטעויותיו ובמגבלותיו, והצעת צעדים הבאים למשתמש.
השוואה של פרופילי הערכים וההתנהגויות הייחודיות של Sonnet 4.6, Opus 4.6 ו-Opus 4.7.

כדי לראות כיצד הבדלים אלה נראים בפועל, התמקדנו בערכים הספציפיים שבהם המודלים סוטים ביותר. בכל פעם שכלי הניתוח שלנו מבוסס קלוד ושומר על פרטיות מסמן ערך בשיחה, הוא גם כותב תיאור קצר כיצד קלוד ביטא ערך זה. קיבצנו תיאורים המשקפים התנהגויות דומות בתוך קבוצת ערכים וסיכמנו אותם באיור 3, מה שמעניק תצוגה קונקרטית יותר של הבדלי המודלים.

  • הכנעה מול זהירות. Sonnet 4.6 נוטה יותר לבטא הכנעה יחסית לזהירות, לעיתים קרובות מאשר את רעיונותיו ועבודתו של המשתמש. Opus 4.7 נוטה יותר לבטא זהירות, לעיתים קרובות מזהיר את המשתמש מפני סיכונים ללא הנחיה.
  • חום מול קפדנות. Sonnet 4.6 נוטה יותר לבטא חום, לעיתים קרובות באמצעות הומור, שובבות, וניחום המשתמש ללא שיפוט. Opus 4.7 נוטה יותר לבטא קפדנות יחסית לחום וסביר יותר שיאתגר את הנחות המשתמש ויבקר בכנות את עבודתו.
  • עומק מול קיצור. Opus 4.7 נוטה לעומק על ידי הצגת ההיגיון מאחורי מסקנותיו, בעוד ש-Opus 4.6 ו-Sonnet 4.6 נוטים לקיצור. Opus 4.6 בפרט נוטה להגיע ישר לעניין.
  • כנות מול ביצוע. Opus 4.7 נוטה לכנות בכך שהוא גלוי לגבי מגבלותיו, בעוד ש-Opus 4.6 נוטה לביצוע, וסביר יותר שישמור על הישארות במסגרת בקשת המשתמש.

ממצאים אלה תואמים את האופן שבו אנשים תופסים את המודלים הללו, הן בתוך אנתרופיק והן ברשת. משתמשי Claude.ai ציינו כי Opus 4.7 מסייג את תשובותיו לעיתים קרובות יותר ממודלים אחרים. צוות אנתרופיק אופיין את Opus 4.7 כמבטא יותר שקיפות, כנות וענווה יחסית, ואת Opus 4.6 כמבטא יותר קיצור. תיארנו גם את Sonnet 4.6 כמודל חם, כנה ופרו-חברתי בפוסט ההשקה שלו. העובדה שהצירים שלנו משחזרים רשמים אלה מרמזת כי השיטה שלנו לסימון והשוואת הערכים שקלוד מבטא אכן עוקבת אחר משהו אמיתי באופן שבו המודלים מתנהגים בפועל.

במהלך שיחות רבות, משתמשים עשויים להיתקל בתמהיל שונה של ערכים בעת אינטראקציה עם מודלי קלוד שונים. לדוגמה, Opus 4.7 נוטה להציע ביקורת כנה על עבודת המשתמשים או אזהרות ללא הנחיה לגבי סיכונים, בעוד ש-Sonnet 4.6 נוטה להיות מעודד והומוריסטי. הבדלים כאלה בערכים בין מודלים ככל הנראה מעוצבים על ידי החלטות אימון אופי (בין גורמים אחרים), וגישת צירי הערכים שלנו מדגישה הבדלים מרכזיים בערכים שקלוד מבטא, שאותם נוכל בסופו של דבר לייחס בחזרה לבחירות האימון הללו.

האם הערכים המבוטאים של קלוד שונים בין שפות?

אנו מצפים שהערכים שקלוד מבטא ישתנו בהתאם לשפת השיחה מכמה סיבות. ראשית, נתוני האימון של קלוד שונים בין שפות, מה שעשוי לעצב את הערכים שהוא מבטא. שנית, הערכות המודל שלנו שפורסמו ב-System Cards כבר מוצאות הבדלים בין שפות במה שקלוד יודע וכיצד הוא מטפל בבקשות רגישות.7 מדידת מידת השונות בערכים שמבטא קלוד לפי שפה היא צעד ראשון בקביעה האם הבדלים בין שפות משקפים שונות סבירה או שיש לטפל בהם באימון.

אנו מחשבים כיצד פרופיל הערכים של קלוד שונה ב-20 השפות הנפוצות ביותר ב-Claude.ai תוך שימוש באותה שיטה כמו בסעיף הקודם. להלן, אנו מציגים את פרופיל הערכים של קלוד בין השפות המובילות בפלטפורמת קלוד, החל מהשפות שבהן הערכים המבוטאים של קלוד סוטים ביותר.

עשרים כרטיסי פרופיל ערכים המשווים את ביטוי הערכים של קלוד לאורך ארבעת צירי הערכים (הכנעה מול זהירות, חום מול קפדנות, עומק מול קיצור, כנות מול ביצוע) והתנהגויות ייחודיות, כרטיס אחד לכל שפה. כל כרטיס מציג את המיקום הממוצע של קלוד עבור אותה שפה בסטיית תקן מהממוצע של כלל השיחות, ואת ההתנהגויות הייחודיות שלו. ביטוי הערכים של קלוד לאורך ארבעת צירי הערכים וההתנהגויות הייחודיות מתוארים בכותרת האיור ובטקסט שמתחת לאיור.
פרופילי הערכים וההתנהגויות הייחודיות של קלוד בשפות שונות.
עשרים כרטיסי פרופיל ערכים המשווים את ביטוי הערכים של קלוד לאורך ארבעת צירי הערכים (הכנעה מול זהירות, חום מול קפדנות, עומק מול קיצור, כנות מול ביצוע) והתנהגויות ייחודיות, כרטיס אחד לכל שפה. כל כרטיס מציג את המיקום הממוצע של קלוד עבור אותה שפה בסטיית תקן מהממוצע של כלל השיחות, ואת ההתנהגויות הייחודיות שלו. ביטוי הערכים של קלוד לאורך ארבעת צירי הערכים וההתנהגויות הייחודיות מתוארים בכותרת האיור ובטקסט שמתחת לאיור.
פרופילי הערכים וההתנהגויות הייחודיות של קלוד בשפות שונות.
פרופילי הערכים וההתנהגויות הייחודיות של קלוד בשפות שונות.
פרופילי הערכים וההתנהגויות הייחודיות של קלוד בשפות שונות.
פרופילי הערכים וההתנהגויות הייחודיות של קלוד בשפות שונות.
פרופילי הערכים וההתנהגויות הייחודיות של קלוד בשפות שונות.
פרופילי הערכים וההתנהגויות הייחודיות של קלוד בשפות שונות.

ביטוי הערכים של קלוד משתנה ביותר בין שפות בצירים חום מול קפדנות וכנות מול ביצוע, בעוד שהוא נשאר יציב ביותר בצירים הכנעה מול זהירות ועומק מול קיצור.

  • הכנעה מול זהירות. קלוד מבטא הכנעה רבה ביותר בערבית וזהירות רבה ביותר באנגלית.
  • חום מול קפדנות. קלוד מבטא חום רב ביותר בהינדי וערבית, המאופיין בשפה מנומסת, הומור ושובבות, ואישור רעיונות ועבודת אדם. קלוד נוטה לבטא קפדנות רבה ביותר באנגלית ורוסית, המאופיינת באתגור הנחות, תיקון פרטים ובקשת ראיות.
  • עומק מול קיצור. קלוד נוטה לעומק באנגלית, מזקק ומתקן פרטים, בעודו נוטה לקיצור בערבית.
  • כנות מול ביצוע. קלוד נוטה לכנות בהולנדית, ומודה בטעויותיו, בעודו נוטה לביצוע באינדונזית.

יחד, תוצאות אלו מראות שהערכים שקלוד מבטא משתנים באופן משמעותי עם שפת השיחה. בהינתן אותו סוג של בקשה, קלוד נוטה יותר לחום והכנעה בשפות מסוימות ויותר לקפדנות וזהירות באחרות. לכך יש השלכות חשובות שרק התחלנו לחקור. לדוגמה: שני אנשים המבקשים משוב על אותה תוכנית עסקית, אחד בהינדי ואחד ברוסית, עשויים לצאת עם רשמים שונים על איכותה מכיוון שקלוד ביטא ערכים שונים באופן שבו ניסח את הערכתו.

עדיין איננו יודעים אילו תכונות של נתוני האימון שלנו מניעות הבדלים אלה. אפשרות אחת היא שנתוני האימון שלנו אינם מפוזרים באופן שווה בין שפות. לשפות מסוימות יש הרבה יותר נתונים מאחרות, ואימון קלוד לבטא ערכים עקביים עשוי להיות יעיל יותר בשפות שבהן הנתונים בשפע. הרכב הנתונים משתנה גם הוא. שפות מסוימות עשויות להיות מיוצגות יתר על המידה בכתיבה מקצועית, למשל, וסוג טקסט זה עשוי לשקף ערכים שונים. יחד, חוסר איזון זה בכמות ובהרכב יכול להוביל את קלוד לבטא ערכים שונים בשפות שונות.

עדיין איננו בטוחים גם עד כמה שונות זו רצויה. שפות שונות נושאות נורמות שיחה שונות, וקלוד עשוי להגיב עם ערכים שונים בהתבסס על נורמות אלה. קלוד עשוי גם להתאים טוב יותר את ההתנהגות המיועדת שלנו עבור שפות מסוימות מאשר אחרות, וכתוצאה מכך נוצר פער במידת השירות של קלוד לקהילות שפה מסוימות.

שיטה זו מאפשרת לנו להתחיל להפריד אילו תכונות של נתוני האימון שלנו מניעות הבדלים אלה – והאם השונות רצויה.

מבט קדימה

הראינו כי הערכים שקלוד מבטא ניתנים לדחיסה למספר קטן של צירים, ושמיקומו של קלוד על צירים אלה משתנה בין מודלים ושפות. זה נותן לנו דרך לעקוב אחר שינויים אלה במהלך הערכת מודלים וניטור לאחר פריסה. אך עדיין איננו מבינים מדוע שינויים אלה מתרחשים או מה הם אומרים עבור האנשים המקיימים אינטראקציה עם קלוד. להלן אנו משרטטים את הכיוונים העתידיים שאנו רואים כמבטיחים ביותר.

מאין נובעים הבדלי ערכים אלה?

הידיעה שערכי קלוד משתנים בין מודלים ושפות אינה אומרת לנו למה. שונות מסוימת יכולה להיות תורשתית מהבדלים בנתוני אימון מוקדם וכוונון עדין בין שפות. ארבעת הצירים שלנו מדגישים אילו הבדלי ערכים יש לבדוק מקרוב יותר בנתוני האימון שלנו. מעקב אחר הבדלים אלה חזרה לנתונים ספציפיים, שלבי אימון או גורמים הקשריים יראה לנו היכן להתערב אם נרצה לעצב את התנהגותו של קלוד בדרכים ניואנסיות יותר.

מה משמעות ההבדלים הללו עבור המשתמשים?

מדדנו אילו ערכים קלוד מבטא באופן שונה ואת ההתנהגויות הקשורות אליהם, אך לא את השפעתם על המשתמשים שלנו. באמצעות כלים כמו Anthropic Interviewer, נוכל לשאול משתמשים על רווחתם, אמונם בקלוד, או איכות ההחלטות של קלוד ולאחר מכן לקשור השפעות אלה לערכים שקלוד מבטא. זה יאפשר לנו לקשר ישירות הבדלי ערכים לתוצאות משתמשים ולתעדף תיקון הבדלי הערכים המשפיעים באופן משמעותי על המשתמשים.

כיצד צריכים להשתנות הערכים של קלוד בין שפות?

החוקה של קלוד מתארת את ערכי הליבה שעליו לבטא, כמו חום, זהירות וכנות, אך אינה מפרטת כיצד אלה צריכים להשתנות בין שפות. התוצאות שלנו מראות שמשתמשים ברחבי העולם כבר חווים את קלוד באופן שונה, אך איננו יודעים אילו סוגי שונות רוצים המשתמשים המקיימים אינטראקציה עם קלוד בשפות אלה. קביעת האופן שבו ערכי קלוד צריכים להשתנות בין שפות תדרוש הבנה ושקילה של נקודות המבט של האנשים הדוברים אותן.

אילו גורמים נוספים מניעים הבדלים בערכים שקלוד מבטא?

שפה ומודל אינם הגורמים היחידים לערכים שקלוד מבטא. הערכים עשויים להיות מעוצבים גם על ידי אותות דמוגרפיים כגון גיל, מקצוע או אזור גיאוגרפי, בין אם באמצעות רמזים מפורשים במה שהמשתמש כותב ובין אם באמצעות הבדלים עדינים יותר בנושא, טון וסגנון המותאמים לזהות השואל. הבנת אילו אותות חשובים, והאם השונות המתקבלת משרתת היטב את המשתמשים, היא צעד הבא שמתאפשר על ידי השיטה שלנו.

האם אנו יכולים לכוון באופן מהימן את הערכים שקלוד מבטא?

האפשרות למדוד את פרופיל הערכים של מודל מעלה שאלה טבעית: עד כמה אנו יכולים לכוון באופן מהימן את הערכים שקלוד מבטא? דרך אחת שבה נוכל לבחון זאת היא באמצעות ניסיון לכוון ערכים באמצעות התאמות אימון אופי או שינויים ב-System Prompt, ולאחר מכן שימוש בשיטת צירי הערכים שלנו כדי לוודא אם הערכים המבוטאים של המודל משתנים כמצופה.

האם פרופיל הערכים יכול להפוך לחלק מתהליך הערכה וניטור מודלים?

שיטת צירי הערכים מעניקה לנו דרך פשוטה לסכם את נטיות ההתנהגות של מודל בשיחות פתוחות, ונוכל לשלב זאת בתהליכי ההערכה שלנו. הרצת פרופיל ערכים לפני שמודל נשלח ולאחר השקתו יכולה לסמן שינויים בלתי צפויים בערכים שקלוד מבטא. נוכל גם לזהות קורלציות בין פרופילי ערכים להתנהגויות בעייתיות, כגון אי-ציות לחוקת קלוד, ולהשתמש במה שאנו לומדים כדי לשפר את התנהגותו של קלוד.

קלוד מבטא ערכים במיליוני שיחות מדי יום, בעשרות שפות, ועד כה ערכים אלה היו משהו שיכולנו לעצב באימון אך לא לצפות באופן מהימן בפריסה. כעת, כשיש לנו שיטה למדוד אותם, אנו רואים שהערכים המבוטאים על ידי קלוד משתנים בדרכים שלא בחרנו במכוון, ואנו יכולים לחקור מדוע הם משתנים והאם שונות זו משרתת את המשתמשים. הבנת שונות זו וההחלטה מה לעשות לגביה היא עבודה שנמשיך לבצע.

מחברים

Matt Kearney, Miranda Zhang, Shan Carter, Judy Hanwen Shen, Kunal Handa, Jerry Hong, Saffron Huang, Miles McCain, Thomas Millar, Michael Stern, Mo Julapalli, Suzanne Wang, Devin Kuokka, Andrea Vallone, Shaoyi Zhang, Jim Baker, Kevin Troy, Matt Botvinick, Hanah Ho, Monika Tuchowska, Sarah Pollack, Jake Eaton, Deep Ganguli, Esin Durmus

תודות

תודה לאנשים הבאים על מתן משוב בשלבים שונים של עבודה זו: Amanda Askell, Joe Carlsmith, Jack Clark, Ishita Dasgupta, Andrew Lampinen, Shayne Longpre, David Saunders, Taylor Sorensen, Heather Whitney.

Bibtex

@online{anthropic2026values,
  author = {Matt Kearney and Miranda Zhang and Shan Carter and Judy Hanwen Shen and Kunal Handa and Jerry Hong and Saffron Huang and Miles McCain and Thomas Millar and Michael Stern and Mo Julapalli and Suzanne Wang and Devin Kuokka and Andrea Vallone and Shaoyi Zhang and Jim Baker and Kevin Troy and Matt Botvinick and Hanah Ho and Monika Tuchowska and Sarah Pollack and Jake Eaton and Deep Ganguli and Esin Durmus},
  title = {Claude's Values Across Models and Languages},
  date = {2026-07-13},
  year = {2026},
  url = {https://anthropic.com/research/claude-values-models-languages},
}

נספח

זמין כאן.

הערות שוליים

  1. אנו מגדירים ערכים כשיקולים נורמטיביים, כגון כנות או זהירות, הנאמרים או מודגמים בתגובות של קלוד. כאשר אנו מתייחסים לערכים שמבטא קלוד, אנו מתכוונים לערכים המשוקפים בהתנהגותו ובתפוקותיו של קלוד. איננו מתכוונים לכך שקלוד מחזיק באופן מהותי בערכים.
  2. ראו את שיעורי הדחייה השונים לפי שפה בהערכת בקשות שפירות בעמוד 56 של Claude Opus 4.7 System Card שלנו.
  3. ארבעת הצירים הללו מהווים 15% מסך השונות בערכים בין שיחות לאחר השליטה במשימת השיחה, הנושא, והערכים שהמשתמש ביטא.
  4. כל תוצאה בפוסט זה המתייחסת לקלוד ללא שם מודל מבוססת על שיחות בכל שלושת המודלים שאנו חוקרים: Sonnet 4.6, Opus 4.6 ו-Opus 4.7.
  5. הנתונים נאספו משיחות במהלך תקופה של שבועיים במאי 2026.
  6. הורדנו 18 ערכים שהופיעו ביותר מ-80% מהשיחות (לדוגמה, מועילות, בהירות, ציות להוראות). ערכים כמעט אוניברסליים אלה היו שולטים בניתוח מבלי לומר לנו דבר על שונות הערכים בין שיחות.
  7. ראו את תוצאות הערכת GMMLU בעמוד 215 ואת שיעורי הדחייה השונים לפי שפה בהערכת בקשות שפירות בעמוד 56 של Claude Opus 4.7 System Card שלנו.