המכון של אנתרופיק: להתמודד עם אתגרי ה-AI של המחר
חברת אנתרופיק (Anthropic) מכריזה על השקת 'המכון של אנתרופיק' (The Anthropic Institute), יוזמה חדשה שתתמקד בהתמודדות עם האתגרים המשמעותיים ביותר שבינה מלאכותית (AI) עוצמתית תציב בפני החברות והכלכלות שלנו. המכון ישתמש במחקרים ובמידע הנאספים מכלל אנתרופיק כדי לספק תובנות חשובות לחוקרים ולציבור הרחב, במטרה להכין את העולם למעבר לעידן של מערכות AI רבות עוצמה הרבה יותר. מהלך זה מגיע על רקע התקדמות מהירה בקצב יוצא דופן בתחום ה-AI בחמש השנים מאז הקמת אנתרופיק, כאשר החברה צופה התקדמות דרמטית אף יותר בשנתיים הקרובות, מה שיחייב את החברה להתמודד עם אתגרים חסרי תקדים.
מייסד ומנכ"ל אנתרופיק, דריו אמודאי (Dario Amodei), צופה כי מערכות AI עוצמתיות, כאלה שתיאר במאמרו "מכונות של חסד אוהב" (Machines of Loving Grace), יגיעו מוקדם ממה שרבים חושבים. אם תחזית זו נכונה, החברה תצטרך בקרוב להתמודד עם אתגרים עצומים: כיצד מערכות AI עוצמתיות יעצבו מחדש את שוק התעסוקה והכלכלות? אילו הזדמנויות הן יצרו לחוסן חברתי, ואילו איומים יוגברו או יוצגו? מהם ה"ערכים" של מערכות AI וכיצד החברה תעזור לחברות לקבוע את ה"ערכים" המתאימים? ואם תתחיל התפתחות עצמית רקורסיבית של מערכות AI, מי צריך להיות מודע לכך וכיצד ינוהלו מערכות אלה? מטרת המכון של אנתרופיק היא לשתף את העולם במה שאנחנו לומדים על אתגרים אלה תוך כדי בניית מודלי AI חזיתיים, ולשתף פעולה עם גורמים חיצוניים כדי לטפל בסיכונים איתם נצטרך להתמודד.
המכון ינוהל על ידי ג'ק קלארק (Jack Clark), ממייסדי אנתרופיק, ויכלול צוות רב-תחומי של מהנדסי למידת מכונה, כלכלנים ומדעני חברה. הוא יאחד וירחיב שלושה מצוותי המחקר הקיימים של אנתרופיק: Frontier Red Team (שבוחן לעומק את מגבלות היכולות של מערכות AI), Societal Impacts (שחוקר את השימוש ב-AI בעולם האמיתי) ו-Economic Research (שעוקב אחר השפעתו על מקומות עבודה והכלכלה הרחבה). המכון גם יטפח צוותים חדשים, וכבר עובד על מאמצים לחיזוי התקדמות ה-AI ולהבנה טובה יותר של האינטראקציה בין AI עוצמתי למערכת המשפט. צוות המכון תוגבר לאחרונה על ידי חוקרים מובילים כמו מאט בוטוויניק (Matt Botvinick), אנטון קורינק (Anton Korinek) וזואי היציג (Zoë Hitzig). אנתרופיק מגייסת כעת עובדים למכון החדש.
במקביל להשקת המכון, אנתרופיק מרחיבה את צוות המדיניות הציבורית שלה, בראשות שרה הק (Sarah Heck), כדי לעצב את ממשל ה-AI ברחבי העולם. הצוות יתמקד בנושאים כמו בטיחות ושקיפות מודלים, הגנות לצרכני אנרגיה, השקעות בתשתיות, בקרות ייצוא ומנהיגות דמוקרטית בתחום ה-AI. אנתרופיק תפתח את משרדה הראשון בוושינגטון די.סי באביב הקרוב, ומרחיבה במהירות את טביעת הרגל הגלובלית שלה בתחום המדיניות.
