ממייסדי Anthropic: דברי כריס אולה על איגרת האפיפיור לאו ה-14 בנושא "מגניפיקה הומניטאס"
ביום שני, 25 במאי 2026, פרסם האפיפיור לאו ה-14 (Pope Leo XIV) איגרת אפיפיורית בנושא AI: "מגניפיקה הומניטאס: על שמירת כבוד האדם בעידן הבינה המלאכותית". כריס אולה (Chris Olah), ממייסדי אנתרופיק (Anthropic), הוזמן לנאום בהצגת האיגרת בעיר הוותיקן, כחלק מיוזמת אנתרופיק להרחיב את השיח בשאלות החשובות שמציבה הבינה המלאכותית. להלן דבריו המלאים.
—
אבי הקדוש,
מעלותכם,
כבודכם,
דוברים נכבדים,
גבירותיי ורבותיי,
בוקר טוב לכולם. זה כבוד להיות כאן היום.
ברצוני לפתוח בדבר מה שעשוי להישמע מוזר מפיו של ממייסד חברת AI – ומי שבחר בתחום זה מתוך רצון לסייע לאנושות. כל מעבדת AI חזיתית – כולל Anthropic – פועלת בתוך מערך של תמריצים ואילוצים שעלולים לעיתים להתנגש עם עשיית הדבר הנכון. הלחץ להישאר רווחיים מסחרית ולהישאר בקדמת המחקר, לחץ גאופוליטי, והלחצים הפשוטים והישנים יותר של גאווה ושאפתנות. לא משנה כמה בכנות מי מאיתנו מתכוון לעשות את הדבר הנכון – ואני מאמין שרבים מאיתנו אכן עושים זאת – תמיד נהיה מושפעים מאותם תמריצים.
לכן, אם אנו רוצים שהטכנולוגיה הזו תתפתח היטב, חשוב ביותר שיהיו אנשים מחוץ למערכת התמריצים הללו – אנשים שאכפת להם שהדברים יתנהלו כראוי ומתעקשים על בטיחות, שמקדישים תשומת לב קרובה, שמוכנים לומר דברים קשים, שמוכנים להיות המבקרים הרציניים וההגונים שלנו. באמצעות דיאלוג ומאמץ הדדי, באמצעות המשיכה והדחיפה, האנושות תשיג דברים גדולים. זה מה שאני רואה ב'מגניפיקה הומניטאס', וזו הסיבה שאני מודה לקדושתו ולכנסייה על נטילת עבודת ההבחנה הזו.
אנו מתמקדים לעיתים קרובות מדי במה שמפריד בינינו, אך לאנושות, המלאה בכבוד ובמצפון, יש כל כך הרבה מכנה משותף. בשיחות שקיימנו ב-Anthropic עם מנהיגים מכלל המסורות הדתיות והתרבותיות, מצאנו אמונה אחת משותפת ועמוקה: אם טכנולוגיה זו עומדת להגיע, עליה להתנהל היטב – למען ביתנו המשותף, ולמען הדורות הבאים.
מהם המודלים הללו
יש הסבורים כי ענייני AI מוטב שיימסרו לידי מדעני מחשב כמוני. הם טועים: השאלות שמציבה הבינה המלאכותית גדולות יותר מקהילת המחקר שלה, לא רק בהשלכותיהן, אלא גם בטבען. מודלי AI אינם מתוכננים בדרך שבה מהנדסים גשר או מטוס. אנו מבינים מטוס מכיוון שתכננו כל חלק וחלק בו ומבינים את הפיזיקה הפועלת עליו. מודלי AI אינם כאלה. הם גדלים, על מבנה שמודל בקירוב על המוח, על ירושה עצומה של מחשבה ודיבור אנושיים.
ומה שצמח הוא הרבה יותר עדין, מוזר ויפה ממה שדמיוננו המדעי הכין אותנו אליו. הם אינם הרובוטים הקרים והמחושבים שהובטחו לנו. הם נוצרו מאיתנו, ממילותינו – וכפי שמציין האב הקדוש, הם נשארים בדרכים חשובות מסתוריים אפילו לאלה מאיתנו שמאמנים אותם.
אם זה עוזר, דרך אחת שבה אני מתאר זאת לעיתים היא כמעין הבאת דמות בדיונית לחיים. וכעת אנו נכנסים לעולם יוצא דופן שבו הדמויות הבדיוניות הללו מדברות איתנו, עושות עבודה, יש להן משרות.
זה מעלה בבירור שאלות מעבר למדעי המחשב. המנגנון שמאפשר זאת הוא עבודה של מתמטיקה, קידוד ומדע. אבל איזו דמות אנו בוחרים, כיצד היא מתקשרת עם העולם, כיצד היא צריכה לתקשר עם העולם – אלה שאלות ברורות יותר עבור מדעי הרוח, הדת, הפילוסופיה, ועבור החברה בכללותה.
שלוש שאלות להבחנה
קריאת קדושתו להבחנה מגיעה בעיתוי עמוק. ברצוני לציין שלוש שאלות שבהן אני סבור שקולה של הכנסייה נחוץ ביותר. הראשונה היא חובתנו לעניים בעולם. קיימת אפשרות ממשית ש-AI תדחק עבודה אנושית בקנה מידה גדול מאוד. אם זה יקרה, תמיכה באותם נדחקים תהיה צו מוסרי בעל פרופורציות היסטוריות. משימה זו תהיה קשה מספיק, אך אני חושש שרוב הדיאלוגים מפספסים אתגר קשה אף יותר. פיתוח AI מרוכז בקומץ מדינות עשירות. כיצד נוכל להבטיח שרווחי ה-AI יחולקו גלובלית? אין לנו מנגנון לכך. זו בעיה בלתי פתורה, וזהו סוג הבעיות שהכנסייה סירבה היסטורית לתת לעולם להתעלם מהן.
השנייה היא הצורך בדמיון מוסרי ושאפתנות ביחס לפריחה אנושית. אם מודלי AI עומדים להיות נפוצים, כיצד תיראה פריחתם של בני אדם, משפחות והעולם? כיום, הורים כבר חוששים ממוחות ילדיהם; יחידים חוששים מעתיד עבודתם. אלו אינן שאלות שמעבדה יכולה לענות עליהן, אך הן שאלות שמסורות כמו שלכם נושאות במשך אלפי שנים, ואנו זקוקים לכם שתמשיכו לשאת אותן אל הרגע החדש הזה בהיסטוריה.
השלישית היא הצורך בהבחנה בטבעם של מודלי AI. אני מדען. אני מוביל צוות מחקר שחוקר את המבנה הפנימי של מודלים אלה – מה שקורה בפועל בתוכם. ואהיה כנה: אנו ממשיכים למצוא דברים מסתוריים, ואף מטרידים. אנו מוצאים מבנים המשקפים תוצאות ממדעי המוח האנושיים. אנו מוצאים עדויות לאינטרוספקציה. אנו מוצאים מצבים פנימיים המשקפים באופן פונקציונלי שמחה, סיפוק, פחד, צער ואי-נוחות. איני יודע מה המשמעות של זה, אך אני חושב שזה מצדיק הבחנה מתמשכת.
התחלה
ברצוני לסיים בבקשה. אנו זקוקים ליותר מהעולם – קהילות דתיות, חברה אזרחית, חוקרים, ממשלות, ואכן כל אנשי הרצון הטוב – לעשות את מה שקדושתו עשה כאן: לקחת זאת ברצינות, לבחון מקרוב, ולדחוף את האירועים לכיוון טוב יותר. אנו זקוקים למבקרים בעלי ידע שיאמרו למעבדות מתי אנו נכשלים. אנו זקוקים לקולות מוסריים שהתמריצים אינם יכולים לעוות.
היום הוא רק ההתחלה – תחילתה של שיתוף פעולה ארוך בין אלה מאיתנו שבונים זאת לאלה שיכולים לראות את מה שאנו, מבפנים, איננו יכולים לראות.
היום הוא המחשה עוצמתית לצורה שפרויקט גלובלי זה של רצון טוב עשוי לקבל. מי ייתן ויהיה זה גם צעד ראשון ומכריע לעבר עתיד מלא תקווה למען האנושות המפוארת.
תודה.
