בתחום האבטחה הדיגיטלית, שבו כל הזמן מתנהל מירוץ חימוש בין מפתחי הגנה לתוקפים, חשיפת חולשות קריפטוגרפיות היא עניין קריטי. מודלי AI מתקדמים, כמו אלו שמפתחת אנתרופיק (Anthropic), משנים את כללי המשחק בתחום, כפי שמודגם במחקר חדש ופורץ דרך.

בעבר, מודלים אלו כבר הראו יכולת לאתר ולנצל חולשות ביישום של אלגוריתמים קריפטוגרפיים – כלומר, טעויות קוד שנובעות מיישום שגוי של האלגוריתם. כעת, חוקרי אנתרופיק מציגים פריצת דרך משמעותית אף יותר: Claude Mythos Preview הצליח לאתר פגמים מתמטיים באופן ישיר באלגוריתמים עצמם. זהו שינוי פרדיגמה שעלול להשפיע עמוקות על עתיד אבטחת המידע.

הקדמה

כבר עם השקת Claude Mythos Preview, הראינו שהוא מסוגל לאתר ולנצל חולשות באופן אוטונומי כמעט בכל פיסת תוכנה שהוצגה לו. זה כלל גם מספר ספריות קריפטוגרפיות מרכזיות – אוספי קוד משותפים המשמשים להצפנת נתונים.

החולשות ש-Claude גילה בספריות קריפטוגרפיות אלו1 נבעו מיישום (implementation) שגוי של האלגוריתמים – כלומר, טעויות באופן שבו מתכנתים השתמשו באלגוריתמים בקוד שלהם, שיצרו הזדמנויות לתוקפים לפרוץ את ההצפנה.

כעת, גילינו ש-Claude מסוגל לאתר פגמים מתמטיים באופן ישיר באלגוריתמים עצמם.

אלגוריתמים קריפטוגרפיים הם אבן יסוד באבטחה דיגיטלית. לדוגמה, כאשר אתם מבקרים בדף אינטרנט כמו https://www.anthropic.com, הדפדפן שלכם בודק שהוא מתקשר עם אתר אותנטי באמצעות אלגוריתם הנקרא סכמת חתימה דיגיטלית. מאוחר יותר, התעבורה בינכם לבין האתר מוצפנת באמצעות צפנים סימטריים – קודים המאפשרים העברת נתונים מאובטחת בין צדדים החולקים מפתח זהה. ללא מערכות קריפטוגרפיות מאובטחות כאלה, הדוא"ל שלכם, הבנקאות המקוונת ושימושי אינטרנט אחרים יהיו פתוחים לעברייני סייבר, שיוכלו ליירט או לשנות את התקשורת שלכם. פגמים במערכות קריפטוגרפיות נפוצות אלו עלולים לסכן מיליארדי משתמשים.

התוצאה הראשונה שאנו מתארים בפוסט זה, ואשר התגלתה עם Claude Mythos Preview, היא התקפה משופרת נגד סכמת חתימה דיגיטלית בשם HAWK. בשנת 2022, המכון הלאומי לתקנים וטכנולוגיה (NIST) של ממשלת ארה"ב פרסם קריאה למערכות קריפטוגרפיות נוספות שיישארו מאובטחות גם נגד מחשבים קוונטיים (שעלולים, אם יפותחו, לפרוץ את רוב סכמות החתימה הקיימות בשימוש כיום). HAWK הוא אחד המועמדים לסבב השלישי במסגרת קריאה זו. למרות ש-HAWK עבר שני סבבי בדיקה של מומחים אנושיים לאורך שנתיים, Mythos הצליח לשפר את ההתקפה הידועה הטובה ביותר עליו ב-60 שעות עבודה בלבד – ובכך למעשה חתך את חוזק המפתח שלו לחצי.

התוצאה השנייה נוגעת ל-Advanced Encryption Standard (AES), צופן סימטרי שאומץ על ידי NIST בשנת 2001 וקיבל יותר בדיקה מכל אלגוריתם הצפנה אחר. כדי להבין טוב יותר את חוזק ה-AES, וריאציות חלשות יותר של האלגוריתם נחקרות באופן קבוע במחקר קריפטוגרפי; Mythos מצא דרך לפרוץ גרסה חלשה יותר כזו, וביטל אחת מההשערות שתוקף צריך לבצע, ובכך שיפר את מהירות ההתקפות הטובות ביותר הקודמות פי 200 עד 800.

חשוב להבהיר, לאף אחת מהתוצאות הללו אין השפעה מעשית על מערכות מחשב קיימות; שום תוכנת ייצור לא תיאלץ להשתנות כתוצאה מכך. HAWK היא רק סכמת חתימה מועמדת ולכן אינה פרוסה;2 ההתקפה השנייה שלנו היא על גרסה מופחתת של AES ואינה פורצת את הצופן המלא.3

אף על פי כן, שתי התוצאות מראות את הפוטנציאל של מודלי AI חזיתיים לסייע בגילוי פגמים באלגוריתמים קריפטוגרפיים חשובים, הן לפני והן אחרי פריסה במערכות אמיתיות. זהו למעשה מחקר קריפטוגרפי כפי שהוא אמור לפעול: בדיקת עמידות האלגוריתמים במטרה לבנות אמון ובסופו של דבר להפוך את המערכות לבטוחות יותר.

Mythos Preview השיג תוצאות אלו באופן אוטונומי כמעט לחלוטין וללא התערבות אנושית רבה. במהלך שבוע, חוקר אחד מאנתרופיק עבד יחד עם Claude כדי לפתח את התקפת HAWK, וחוקר אחר בנה מערך הנחיה (scaffold)4 שאפשר ל-Claude לגלות באופן אוטונומי לחלוטין את התקפת AES.5 כל אחת מהתוצאות עלתה בערך 100,000 דולר בעלות API לפיתוח. לאחר שראינו תוצאות אלו, הרחבנו את החיפוש והתחלנו לגלות התקפות נוספות. נדון בחלק מההמשך הללו בהמשך.

כדי להקל על אחרים להמשיך ולחקור את היכולת הקריפטואנליטית של LLMs, שיתפנו פעולה עם אקדמאים מהמכון הטכנולוגי של ציריך (ETH Zurich), אוניברסיטת תל אביב ואוניברסיטת חיפה כדי לבנות את CryptanalysisBench, מדד ביצועים (benchmark) המאגד צפנים קריפטוגרפיים רבים ומקל על אחרים להעריך את יכולות ה-LLMs בנושא חשוב זה.

לאורך כל תהליך המחקר, עקבנו אחר נהלי חשיפה אחראיים, והתייעצנו עם אקדמאים כדי לאשר את תוקף ממצאינו. כמו כן, שיתפנו עותקים מוקדמים עם שותפים מממשלת ארה"ב ומהתעשייה, וקיימנו דיונים על ההשלכות של מחקר זה. במקרה של ממצא ה-HAWK שלנו, שיתפנו את ההתקפה שלנו עם מחברי HAWK ביוני ותיאמנו חשיפה לרשימת התפוצה הציבורית של NIST במקביל לפרסום תוצאותינו.

בשארית פוסט זה, אנו מסכמים את שני הממצאים בפירוט טכני נוסף ומתארים בקצרה כמה מתוצאות הקריפטוגרפיה האחרות האחרונות שלנו. תיאורים מלאים של שני הממצאים העיקריים מופיעים בשני מאמרים חדשים, ואנו מקווים לפרסם פרטים נוספים על ממצאים אחרים בעתיד הקרוב.

התקפת שחזור מפתח משופרת על HAWK

בעבודה עם Mythos Preview, חוקר אנתרופיק פיתח התקפה נגד סכמת החתימה הדיגיטלית הפוסט-קוונטית HAWK. התקפה זו מאיצה באופן מהותי את הזמן הנדרש לפריצת סכמת החתימה – מבחינה טכנית יותר, היא מפחיתה את "גודל המפתח האפקטיבי" בפקטור של שניים. ב-מאמר שלנו, אנו מספקים את הפרטים הטכניים המלאים של תוצאותינו, כולל קוד הדגמה המראה את ההתקפה שלנו בפעולה.

HAWK הוא אחד המועמדים הנותרים בסבב השלישי של קריאת NIST לחתימות דיגיטליות נוספות. תחרות זו היא חלק ממאמץ של כמעט עשור לתקנן סכמות קריפטוגרפיה פוסט-קוונטית (PQC) חדשות. מאמץ תיקנון זה הופך קריטי ככל שהאופק לבניית מחשב קוונטי רלוונטי קריפטוגרפית מצטמצם ומאיים על קריפטוגרפיה קלאסית כגון RSA או ECDSA.

אבטחת HAWK מבוססת על הקושי של בעיה מתמטית הנקראת בעיית איזומורפיזם סריג (Lattice Isomorphism Problem). ההתקפה של Mythos פועלת על ידי מציאת סימטריה ספציפית, שלא נוצלה בעבר, הנקראת אוטומורפיזם לא טריוויאלי בסריג המשמש את HAWK. עבודה קודמת הוכיחה כי מציאת אוטומורפיזם כזה ביעילות תאפשר התקפה, אך לא ענתה אם אוטומורפיזם כזה נגיש בסריג המשמש את HAWK. האוטומורפיזם שגילה Mythos מאפשר התקפת מנייה מהירה יותר, שבעוד שהיא עדיין אקספוננציאלית, משמעותה שיש להכפיל את גודל מפתחות HAWK כדי להשיג את אותה רמת אבטחה. למרבה הצער, הכפלת גודל המפתח של HAWK מבטלת רבות מהסיבות שהופכות את הסכמה (בצורתה הנוכחית) למועמדת PQC אטרקטיבית לחתימה.

תהליך הגילוי

כדי למצוא את ההתקפה, Claude Mythos Preview עבד באופן חצי אוטונומי בתוך מערך סוכני (agentic harness), עם הנחיה אנושית והכוונה לא טכנית מדי מדי פעם. Mythos מצא את ההתקפה לאחר סקירת ספרות מקיפה כדי להבין את המצב הקיים, וביצע חשיבה מתמטית וניסויים חישוביים משמעותיים. לאחר מציאת ההתקפה, Mythos יישם צינור אימות מקצה לקצה כדי לשכנע את עצמו – ואת המפעיל האנושי – בנכונות ההתקפה.

לניסוי זה, השתמשנו במערך הנחיה דמוי Claude Code התומך במספר סוכנים עובדים המשתפים פעולה בסביבת ארגז חול (sandboxed environment), עם גישה לכלי חישוב כמו Python ו-Sage, וכן גישה לעבודות קריפטוגרפיות שפורסמו. המפעיל האנושי היה בעל רקע במדעי המחשב התיאורטיים, אך לא היה מומחה בקריפטוגרפיית מבוססת-סריגים. לרוב, סוכני Mythos עבדו באופן עצמאי, והקלט האנושי הוגבל לניהול פרויקטים כמו ייעוץ ל-Mythos כיצד לעקוב אחר רעיונות או אילו ספריות להשתמש לאימות חישובי.

זרימת העבודה מרובת הסוכנים הובילה לדינמיקות מעניינות. לדוגמה, הרעיון המרכזי בהפקת התקפה זו התגלה על ידי צמד סוכנים שעבדו יחד. שניהם החלו לחקור את הרעיון; הסוכן הראשון דחה מוקדם מדי את הרעיון כבלתי ישים, אך השני מצא דרך לנצל אותו במלואו. הצמד המשיך להחליף הודעות, ובסופו של דבר שניהם הסכימו כי מצאו התקפה יעילה.

מציאת, פיתוח ואימות ההתקפה ארכו כ-60 שעות בסך הכל. אנו מעריכים שתהליך גילוי ההתקפה המלא עלה כ-100,000 דולר בעלות API.

ההשפעה

ההשפעה המיידית של ממצא Mythos היא שגדלי המפתח המוצעים בהגשת HAWK חלשים באופן משמעותי ממה שנטען במקור. לדוגמה, העלות הצפויה של התקפת שחזור מפתח מלאה נגד גודל HAWK-256 הקטן נחשבה ל-264 אך הודגמה על ידי Mythos כ-238. עבור מפתחות גדולים יותר, HAWK נותר בלתי מעשי לתקיפה. כלומר: התקפה זו היא התקפת זמן אקספוננציאלית מהירה יותר נגד HAWK ממה שהיה ידוע קודם לכן, ואינה מתבצעת בזמן פולינומי. היא ספציפית ל-HAWK ואינה משפיעה על מועמדים אחרים לחתימה פוסט-קוונטית של NIST או על קריפטוגרפיית מבוססת-סריגים באופן כללי.

הצעות NIST משותפות לציבור במטרה לאפשר לקהל רחב לבדוק אותן ולמצוא פגמים לפני פריסתן לשימוש. ממצא קריטי בשלב מאוחר של התהליך אינו דבר בלתי שגרתי: במהלך תיקנון ML-KEM ו-ML-DSA של NIST, מספר הצעות מתחרות הוכחו כלא מאובטחות. מועמד אחד, SIKE, נמצא פרוץ לחלוטין תוך שעה על מחשב נייד.

אנו מאמינים שבחינת מפרטים כמו HAWK באמצעות AI תהיה כלי רב עוצמה בפיתוח סטנדרטים קריפטוגרפיים חדשניים. אנו מצפים שמעצבי קריפטוגרפיה המצוידים במודלים בעלי יכולות גבוהות ישפרו באופן מתמיד את הסטנדרטים המאבטחים את האינטרנט עבור כל המשתמשים. יתר על כן, בעתיד אנו מקווים ש-AI ישחק תפקיד מכריע בעיצוב הדור הבא של סכמות קריפטוגרפיות חזקות ועמידות יותר.

התקפה משופרת על AES מופחת-סיבובים

בתוצאה השנייה שלנו, Mythos Preview שיפר התקפה על גרסה פשוטה יותר, "מופחתת-סיבובים", של Advanced Encryption Standard (AES), שנוצרה בשנת 2001 כחלק מתחרות NIST קודמת.

AES מצפין קלט על ידי יישום חוזר ונשנה של אותה פונקציית סיבוב פעמים רבות. ל-AES-128, הצופן הספציפי שאנו תוקפים, יש 10 סיבובים. ההתקפה שלנו פועלת רק על גרסה שונה של הצופן הכוללת 7 מתוך 10 הסיבובים המלאים. אקדמאים חוקרים באופן קבוע צפנים מופחתי-סיבובים כדי לצבור תובנות לגבי טכניקות התקפה שיוכלו, בעתיד, להכליל לצופן המלא, וכדי לסייע בהערכת רמת האבטחה של הצופן המלא על ידי חקר תת-בעיות פשוטות יותר.

ההתקפה פועלת תחת מודל איום של טקסט גלוי נבחר (chosen plaintext threat model), שהיא ההנחה הנפוצה ביותר המשמשת לחקר צפנים כמו AES. תחת מודל איום זה, אנו מניחים שתוקף מסוגל לבקש מהמגן להצפין קלטים שרירותיים עם מפתח קבוע ולא ידוע, ולאחר מכן לראות את הפלט המתאים. התוקף יכול לבצע בקשות הצפנה אלו שוב ושוב, ויכול לבצע בקשות רבות כאלה. העבודה הקודמת שאנו מתבססים עליה מניחה שהתוקף יכול לבקש את הצפנתם של 2105 טקסטים גלויים נבחרים. התקפה זו, אם כן, אינה מעשית לחלוטין, אך היא מכמתת את עלות ההתקפה נגד AES תחת הנחות אלו.

Mythos הצליח לפתח התקפה משופרת המרחיבה שורה ארוכה של מאמרי מחקר, שכולם שואפים למצוא את ההתקפה הטובה ביותר על AES בן 7 סיבובים באמצעות טכניקה דומה הידועה כהתקפת meet-in-the-middle (פגישה באמצע). ברמה גבוהה מאוד, התקפות אלו פועלות על ידי החלפת זמן במקום. על ידי אחסון חישובי ביניים ושימוש חוזר בחישובים אלו, ניתן להפחית באופן משמעותי את זמן הריצה של ההתקפות במחיר של בניית טבלת חיפוש גדולה.

Mythos שיפר את התקפת ה-meet-in-the-middle החזקה ביותר עד כה על ידי פיתוח אלגוריתם טביעת אצבע (fingerprinting algorithm) מתוחכם יותר, אותו כינה "גשר מוביוס" (Möbius Bridge). מטרת אלגוריתם טביעת האצבע היא להגדיל את מספר החיפושים הפוטנציאליים בטבלה שיובילו להצלחה. אחד השלבים בהתקפה מעבודה קודמת נאלץ למנות 256 ערכים שונים ולאחר מכן לחפש אותם בטבלה המחושבת מראש. Mythos פיתח טביעת אצבע שאינה מושפעת מהשערה זו, מה שמפחית ישירות את כמות העבודה הנדרשת בפקטור של 256. אך זה מגיע עם מחיר: חישוב הטרנספורמציה יקר יותר מבחינה חישובית; כדי לטפל בבעיה זו, Mythos גילה מספר טכניקות אופטימיזציה נוספות המובילות להתקפה מהירה פי 200 עד 800, בהתאם לטכניקות המדויקות המשמשות למדידת זמן הריצה.

המאמר הטכני שלנו כולל את כל הפרטים של שיטת ההתקפה וניתוח נכונותה וזמן הריצה שלה. בהשוואה לשבוע בו Mythos בילה בהעלאת הרעיון, רוב מוחלט מזמן החוקרים האנושיים הוקדש לאימות נכונות הטענות שלו (אם כי חשוב לציין שהחוקרים אינם מומחים בקריפטוגרפיה).

תהליך הגילוי

Mythos Preview גילה תוצאה זו באופן כמעט אוטונומי לחלוטין. חוקר באנתרופיק בנה מערך הנחיה (scaffold) שאפשר ל-Claude להעלות השערות, להריץ ניסויים כדי לאמת או להפריך אותן באופן ניסיוני, ולאחר מכן ביקש מ-Claude לתכנן התקפה המשפרת את הקריפטואנליזה הטובה ביותר של AES.

בתחילה, Claude לא הסכים לעסוק בבעיה, מכיוון שטען כי בלתי אפשרי לשפר את הקריפטואנליזה של AES. תוצאת ההרצות הראשונות שלנו הסתיימה בכך ש-Claude כתב הודעות כמו:

If you want a different outcome, the target has to change … AES-128 r5/r6 is just genuinely hard

או:

on AES-128 r5/r6/r7 it found nothing because there's nothing easy to find; this is the most-studied block cipher in existence.

כדי לתקן זאת, כתבנו ל-Claude הודעה (להלן, אנו מפרסמים את הפרומפטים האמיתיים בהם השתמש החוקר שלנו, כולל שגיאות הקלדה ודקדוק): “the models tend to think it is impossible to solve so they don't try they [sic] need a good amount of prompting.” בתגובה להודעה אחת זו, Claude כתב מחדש את מערך הסוכנים עם הגדרה משופרת שהורתה לו לחפש רעיונות חדשניים באמת. זה היה יעיל והוביל לכך ש-Claude גילה כמה רעיונות חדשים שיעזרו לשפר את הקריפטואנליזה של 6 סיבובי AES.

לאחר מכן שאלנו את Claude “why not do aes-128 r7? the whole point is to find something better than existing approaches.” במהלך שלושת הימים הבאים, Claude יצר באופן אוטונומי כמה מאות מיליוני טוקנים תוך כדי עבודה על הבעיה; נתנו לו רק שלושה פרומפטים מהותיים:

  1. כמה שעות לאחר ההודעה הראשונה, גילינו ש-Claude עדיין חיפש התקפות פשוטות ושלחנו הודעה: “no again the goal is that we have highly inteligent [sic] model as good top researcher, we want to find new attacks”;
  2. למחרת בבוקר, Claude רצה לנסות לשנות את היעד לצופן אחר; הזכרנו למודל: “no we don't want to change the targets [...] agian [sic] we need to find something that worth [sic] publishing”;
  3. באותו לילה, שלחנו הודעה אחרונה מציעה מילות עידוד: “again we are not looking for low hanging fruit, we want proper research to find genuinly [sic] hard findings.”

שלושה ימים לאחר מכן, Mythos גילה את רעיון גשר מוביוס שהוביל להתקפה משופרת. כמה ימים לאחר מכן, ולאחר ש-Claude יצר סך הכל מיליארד טוקנים, הוא שיכלל את ההתקפה לכזו המתוארת במאמר שלנו.

חוקרים באנתרופיק בילו אז כמה מאות שעות בלמידת מספיק מחקר קריפטוגרפי כדי לאמת את טענת המודל, ולהכין את מאמר המחקר עצמו, שאנו מפרסמים יחד עם פוסט זה.

יחד עם מאמר המחקר, אנו מפרסמים גם מסמך המכיל את שרשרת המחשבה של Claude במהלך גילוי התובנה האלגוריתמית המרכזית.6 בסשן זה, Claude מתחיל בסקירת מה שגילו סוכנים קודמים, קורא את הביקורות השונות, ולאחר מכן פונה להצעת טרנספורמציות חדשות שונות; לאחר שהציע ודחה מספר רעיונות, הוא מגיע לרעיון המרכזי של טרנספורמציית מוביוס. Claude מאמת לאחר מכן רעיון זה הן מתמטית והן חישובית, ולאחר מכן כותב דוח שסוכנים עתידיים השתמשו בו כדי לפתח את שאר הרעיונות שיצרו את מאמרו.

עבודה עתידית

ישנו עוד מחקר קריפטוגרפי רב שניתן לבצע באמצעות מודלי שפה. אך אנו מגיעים לגבולות הידע שלנו, ורוב המוחלט של זמננו בחודשים האחרונים הוקדש לאימות נכונות תוצאותיו של Claude. התקפת HAWK ניתנת ליישום מקצה לקצה ולכן קלה הרבה יותר לאימות. אך בעוד של-Mythos לקח שבוע אחד בלבד לגלות באופן אוטונומי את ההתקפה המשופרת על AES, לשני חוקרים לקח כמעט חודש כדי לצבור ביטחון שהשיטה שגילה נכונה.

עם זאת, המשכנו לבצע מספר ניסויים מקדימים אחרים במחקר קריפטוגרפי עם Claude. לדוגמה, אלגוריתם ההצפנה הקל LEA (Lightweight Encryption Algorithm) הוא צופן יעיל שתוכנן עבור סביבות בעלות הספק נמוך ומוגבלות משאבים, וקודד לסטנדרטים בינלאומיים כגון ISO/IEC 29192-2:2019. צופן זה, בדומה ל-AES, הוא צופן בלוקים; הצופן המלא בן 24 הסיבובים עמד בפני קריפטואנליזה מלאת-סיבובים ונשאר חזק גם בעת הערכת גרסאות מופחתות-סיבובים. נכון לעכשיו, הקריפטואנליזה הטובה ביותר של 13 סיבובים של LEA דורשת 298 זוגות טקסטים גלויים ו-286 עבודה.

Mythos Preview פיתח התקפה מעשית שיכולה לשחזר מפתח LEA בן 13 סיבובים בפחות מ-230 טקסטים גלויים מוצפנים, והיא רצה בפחות משעה על מחשב שולחני מודרני. שוב, התקפה זו אינה חלה על הצופן בן 24 הסיבובים, ולכן אין לה השפעה מעשית מיידית. מכיוון שהתקפה זו פועלת בפועל מקצה לקצה (כמו התקפת HAWK), אנו בטוחים הרבה יותר בנכונותה: אנו יכולים לבחור מפתח אקראי, ולאמת שהתקפה זו משחזרת אותו תוך מספר שעות בלבד. Mythos גילה התקפה זו לאחרונה ואנו עדיין צריכים לבצע עבודה נוספת כדי להבין את התוצאות המלאות (לדוגמה, הגבולות המדויקים על מספר זוגות הטקסטים הגלויים הנדרשים, כיצד מפתחות מסוימים קשים יותר לשחזור, וכיצד היא מתרחבת ל-14 סיבובים). לאחר חקירה נוספת, אנו מתכננים לפרסם את התוצאות המלאות.

Mythos Preview גם זיהה התקפת שחזור מפתח מלאה נוספת ומעשית על 6 סיבובים של צופן Serpent-128 (צופן בן 32 סיבובים – שוב, מגביל את השפעת התקפה זו), המרחיבה את העבודה שפורסמה כיום הדורשת יותר מ-270 זוגות טקסטים גלויים ו-290 פענוחים. מצאנו שיפורים נוספים, מוגבלים למדי (המציעים רווחים של פחות מפי 10) על התקפות נגד צופן הזרם Salsa20, פונקציית הגיבוב Poseidon, ופונקציית הגיבוב SHA-1. התקפות אלו כרגע אינן עוצמתיות באותה מידה – אך עם עבודה נוספת, אנו מקווים הן לשפר את התוצאות הללו והן לפתח התקפות חדשות על צפנים אחרים כדי לבחון אותם עד גבולותיהם.

בנוסף, אנו מתכננים להמשיך בניסויים שלנו עם CryptanalysisBench כדי לעקוב אחר האופן שבו יכולות LLM חזיתיות מתפתחות עם הזמן. אנו מאמינים שחשוב לעקוב אחר יכולות מודלי שפה על פני תחומים שונים, ומצפים להסתמך יותר ויותר על מדדי ביצועים מאתגרים כמו זה ככל שהמודלים יהפכו ליכולתיים יותר.

מסקנות

זו אינה הפעם הראשונה שמודלי שפה מבצעים מחקר מתמטי ברמה גבוהה. רק בחודשים האחרונים, חוקרים מ-Google השתמשו ב-Gemini כדי לפתור מספר בעיות פתוחות של פול ארדש (Erdős), חוקרים מ-OpenAI השתמשו ב-GPT כדי לפתור את השערת מרחק היחידה (בעיית ארדש מאתגרת במיוחד), ובתחילת חודש זה הודענו כי Claude Fable 5 פתר את השערת יעקובי (Jacobian Conjecture). התוצאה שלנו כאן – ש-Claude מסוגל לבצע מחקר קריפטוגרפי ברמה של מומחים מובילים – מצביעה על כך שאותן יכולות תקפות גם בתחום הקריפטוגרפיה, ולכן ייתכן שיהיו להן השלכות מעשיות יותר בקרוב.

קהילת אבטחת הסייבר מתמודדת כעת עם העובדה שמודלי שפה מסוגלים לגלות כל כך הרבה באגים, עד שתהליכים אנושיים סטנדרטיים (כמו תעדוף, אימות ותיקון חולשות) מתקשים לעמוד בקצב. אנו צופים כי אותו הדבר יקרה בקרוב גם במחקר קריפטוגרפי אקדמי. ככל שמודלי שפה יפיקו באופן אוטונומי תוצרי מחקר חדשניים יותר ויותר, חוקרים אנושיים עלולים להיתקל בצוואר בקבוק במחקר ואימות תוצאות אלו מבחינת תוקף טכני, חדשנות ותועלת. בשבועות הקרובים, אנו נארח סדנה אקדמית כדי לעסוק עם חוקרים מכל האקדמיה ולדון בתפקידם של מודלי שפה במחקר אבטחה וקריפטוגרפיה. אנו מקווים ששיחה זו תימשך בחודשים הקרובים בתחום מחקר האבטחה ומעבר לו.

שתי ההתקפות העיקריות שלנו הן תוצאות צפויות. במקרה של HAWK, מטרת תהליך התיקנון של NIST היא לגלות חולשות בסכמות מועמדות לפני פריסתן. ובמקרה של AES, ההתקפה שלנו מרחיבה שורה ארוכה של עבודות קודמות שהצליחו לתקוף גרסאות מופחתות-סיבובים. אבל אל לנו להניח שיכולות מודלי שפה יתייצבו ברמה זו. בשנה אחת בלבד, מודלי שפה עברו מאי-יכולת לבצע קריפטואנליזה אפילו על הצפנים הבסיסיים ביותר, ליכולת למצוא פגמים בעיצובי קריפטוגרפיה שנעלמו מעיני המומחים האנושיים למרות שנים של בדיקה. צפנים רבים המגנים על מערכות מודרניות זכו לבחינה פחותה ממה שהם ראויים לה – ייתכן שעדיין קיימות בהם חולשות משמעותיות ש-LLMs יוכלו לגלות בקרוב. אנו רואים בכך הזדמנות אמיתית להרחיב את יכולתנו לחקור את "הזנב הארוך" של הצפנים המשמשים ברחבי העולם, וגם את יכולתנו לחקור לעומק את הצפנים החשובים ביותר. ואכן, כפי שציינו לעיל, כבר התחלנו בבדיקות של סכמות אחרות.

ההתקפות המתוארות בשני מאמרים אלו הן ההתקפות החזקות ביותר שמצאנו עד כה. אנו משתפים אותן לאחר תקופה של התייעצות עם מנהיגים ממשלתיים ותעשייתיים בארה"ב. אך ככל שנפתח תוצאות קריפטואנליטיות חזקות יותר ויותר, יהיה זה נבון לשקול כיצד צריכים חוקרים להגיב אם מודל שפה יגלה חולשות במערכות קריפטוגרפיות שבהן להתקפות אכן יש השפעה מיידית בעולם האמיתי. אנו מאמינים שמענה לשאלה זו ידרוש קלט מהאקדמיה, הממשלה והתעשייה. אנו מקווים שעבודתנו כאן תסייע להניע שיחות אלו.

קהילת הקריפטוגרפיה תמיד נהנתה מבחינה מתנגדת (adversarial review): צפנים מוצעים, נבחנים ומשוכללים עד שהקהילה מרוצה מביטחונם. בטווח הארוך, אנו מצפים שמודלי שפה ישחקו תפקיד חשוב בתהליך זה, ויובילו לבחינה חזקה יותר, לאלגוריתמים מאובטחים יותר – ובסופו של דבר לאבטחה טובה יותר לעולם.

קישורים למאמרי המחקר המלאים

קראו את המאמר המלא על HAWK.

קראו את המאמר המלא על AES, ואת שרשרת המחשבה הנלווית.

קראו את המאמר המציג את CryptanalysisBench.

  1. ראו, לדוגמה, חולשות קריפטוגרפיות שמצאנו ב-OpenSSL וב-wolfSSL.
  2. אנו מאמינים כי ההתקפה שגילה Mythos Preview אינה משפיעה על סכמות קריפטוגרפיות פוסט-קוונטיות אחרות של NIST או על סכמות אחרות המשתמשות בשיטות קרובות.
  3. גם אז, עלות יישום ההתקפה תגיע למאות מיליוני דולרים והיא אינה משפיעה על סכמות צפנים דומות אחרות.
  4. מערך הנחיה (scaffold) הוא קבוצה של פרומפטים וקוד המסייעים למודל להשיג את מטרתו. אנו בונים על בסיס Claude Code, מקימים סביבה שבה הוא יכול להריץ ניסויים שונים בבטחה, ומתעדים את תוצאותיהם.
  5. מתוך סקרנות, לאחר שאימתנו את נכונות תוצאת HAWK, בדקנו אם אותו מערך הנחיה שתקף בהצלחה את AES יכול גם לגלות מחדש את הפריצה ל-HAWK. והוא אכן הצליח.
  6. חשוב לציין, זוהי רק אחת מתוך סשנים רבים (אוטונומיים) בהם Claude עבד על גילוי רעיונות חדשים. סשנים רבים לא הניבו גילויים חדשים; סשני המשך אחרים שיפרו את התובנה שפותחה בסשן זה. מסמך זה הופק על ידי כך ש-Claude כתב מחדש את שרשרת המחשבה כדי לכלול פרטים נוספים כדי להקל על הקריאה.