חדשות

מדיניות20 באפריל 2023

אנתרופיק מברכת: צעדי רגולציה גלובליים חדשים לבטיחות AI

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ומחקר בינה מלאכותית, פירסמה לאחרונה את עמדתה בנוגע לשלושה אירועים מדיניים מכוננים שהתרחשו בשבוע האחרון: הצו הנשיאותי המקיף על AI בארה"ב, קוד ההתנהגות הבינלאומי של מדינות ה-G7, ופסגת בטיחות ה-AI בבלצ'לי פארק (Bletchley Park) בבריטניה. החברה, שמטרתה לפתח מערכות AI אמינות, ניתנות לפרשנות וניתנות לשליטה, מברכת על המאמצים הגלובליים הללו. היא רואה בהם אבן דרך חשובה לקביעת סטנדרטים ורגולציה שתבטיח את פיתוחה הבטוח והאחראי של בינה מלאכותית, ותקדם שיתוף פעולה בינלאומי בנושא.

קרא עוד

מדיניות20 באפריל 2023

אנתרופיק קוראת לרגולציה: מפת דרכים לאחריות מודלי AI מתקדמים

חברת המחקר והבטיחות בתחום ה-AI, אנתרופיק (Anthropic), הגישה לאחרונה מסמך המלצות מפורט לממשל האמריקאי, המתווה דרכים להבטחת אחריות ופיקוח על מערכות בינה מלאכותית מתקדמות. המסמך קורא להקמת תשתית ופרוטוקולים אחידים להערכה, ניהול סיכונים ופריסה בטוחה של מודלי AI, תוך שיתוף פעולה בין גורמי ממשל, חברות טכנולוגיה וחוקרים. המטרה היא לגשר על הפער הקיים כיום בהערכה מקיפה של מערכות AI, ולהבטיח שהשפעותיהן העתידיות יהיו חיוביות ובטוחות.

קרא עוד

מוצרים20 באפריל 2023

אנתרופיק משיקה את קלוד: סייען ה-AI החדש ששם דגש על בטיחות

חברת אנתרופיק, המתמקדת במחקר ובטיחות AI, פותחת את הגישה הרחבה למודל השפה הגדול שלה, קלוד (Claude). לאחר תקופת אלפא סגורה עם שותפים מובילים, קלוד זמין כעת למפתחים וארגונים דרך ממשק צ'אט ו-API, ומציע יכולות מתקדמות במגוון משימות לצד התחייבות לבטיחות, כנות ומועילות. המודל מושק בשתי גרסאות – קלוד וקלוד אינסטנט – ומבטיח פלטים אמינים וניתנים לכוונון, כפי שמעידות חברות כמו Quora, Juni Learning ו-Notion שכבר משתמשות בו.

קרא עוד

בטיחות8 במרץ 2023

אבטחת מודלי AI חזיתיים: אנתרופיק קוראת לחיזוק ההגנה מפני גניבה ושימוש לרעה

אנתרופיק (Anthropic), חברת מחקר ובטיחות AI מובילה, מפרסמת קריאה דרמטית לחיזוק אבטחת הסייבר של מודלי בינה מלאכותית חזיתיים (frontier AI models), בטענה שהם מהווים תשתית קריטית עם פוטנציאל להשפיע על ביטחון לאומי וכלכלה גלובלית. החברה קוראת למעבדות AI ולממשלות לאמץ באופן מיידי שיטות עבודה מחמירות, בהן מנגנון 'בקרת שני גורמים' (two-party control) ותקני פיתוח תוכנה מאובטח כמו NIST SSDF ו-SLSA. אנתרופיק מציעה לטפל במגזר ה-AI המתקדם כמגזר תשתית קריטית, עם דגש על שיתוף פעולה הדוק בין המגזר הציבורי לפרטי, על מנת למנוע גניבה או שימוש לרעה במודלים. החברה מצהירה כי היא עצמה מיישמת בקרות אבטחה מתקדמות במודלי Claude שלה.

קרא עוד

מדיניות8 במרץ 2023

אנתרופיק מקימה נאמנות חדשה: להבטיח את עתיד ה-AI לטובת האנושות

אנתרופיק, חברת מחקר ובטיחות בינה מלאכותית מובילה, חושפת מנגנון ממשל תאגידי חדש בשם "נאמנות לטובת הטווח הארוך" (Long-Term Benefit Trust – LTBT). המבנה החדשני נועד ליישר את מטרות החברה עם המשימה לפתח מודלי AI מתקדמים שיהיו בטוחים, ניתנים לפרשנות וניתנים לשליטה, למען טובת האנושות בטווח הארוך. ה-LTBT יעניק לנאמנים עצמאיים סמכות משמעותית בדירקטוריון, ויבטיח איזון בין אינטרסים מסחריים לבין שיקולי בטיחות ורווחה ציבורית, במיוחד עבור סיכונים אקסטרימיים הנובעים מפיתוח מודלי חזית של AI. זהו ניסוי מהפכני בממשל תאגידי בעולם הבינה המלאכותית.

קרא עוד

בטיחות8 במרץ 2023

אנתרופיק מתריעה: AI טרנספורמטיבי בפתח – אך הבטיחות עדיין בגדר תעלומה

אנתרופיק (Anthropic), חברת ה-AI המובילה, מפרסמת מסמך עמדה שבו היא מזהירה כי מערכות בינה מלאכותית טרנספורמטיביות (Transformative AI) עשויות להגיע כבר בעשור הקרוב, עם יכולות שישתוו או יעלו על ביצועי אדם במרבית המשימות האינטלקטואליות. עם זאת, היא מדגישה כי הקהילה עדיין אינה מבינה כיצד להפוך מודלים חזיתיים אלו לבטוחים, מהימנים ומיושרים באופן יציב עם ערכי האדם. החברה קוראת למאמץ מחקרי דחוף ורב-גוני בתחום בטיחות ה-AI, ומציגה את הגישה האמפירית שלה לטיפול ב"בעיית היישור" (alignment) כדי למנוע סיכונים קטסטרופליים אפשריים, העשויים לנבוע מתקלות טכניות או מהפרעה חברתית נרחבת.

קרא עוד

בטיחות8 במרץ 2023

החוקה של Claude: אנתרופיק מפרטת את עקרונות ה-AI האחראי שלה

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, פיתחה את גישת ה-AI החוקתי (Constitutional AI) כדי להפוך מודלי שפה גדולים (LLM) לאמינים, ברי פרשנות וניתנים לשליטה. גישה זו, המוטמעת במודל Claude שלהם, מציעה מענה לשאלת ה"ערכים" של מודלי שפה על ידי מתן עקרונות מפורשים, בניגוד להסתמכות בלעדית על משוב אנושי. השיטה מאפשרת סקיילינג יעיל של פיקוח AI, שקיפות גבוהה יותר של המודל, ומבטיחה תגובות מועילות ולא מזיקות מבלי לחשוף מפעילים אנושיים לתכנים מטרידים.

קרא עוד

שותפויות3 בפברואר 2023

אנתרופיק בוחרת ב-Google Cloud להרחבת פיתוח ה-AI הבטוח שלה

אנתרופיק (Anthropic), חברת מחקר מובילה המתמקדת בבטיחות וביישור AI, הודיעה על שיתוף פעולה אסטרטגי עם Google Cloud. במסגרת השותפות, אנתרופיק תשתמש בתשתיות הענן המתקדמות של גוגל, הכוללות אשכולות GPU ו-TPU, לצורך אימון, סקיילינג ופריסה של מודלי ה-AI שלה, ובפרט מודל השפה הגדול Claude. המהלך נועד לאפשר לחברה להרחיב את פריסת מערכות ה-AI הבטוחות והניתנות להבנה שלה לקהל רחב יותר, תוך שימוש בטכניקות יישור חדשניות כמו AI חוקתי.

קרא עוד

אנתרופיק ו-Scale מאחדות כוחות: Claude מגיע לעולם האנטרפרייז

אנתרופיק מברכת: צעדי רגולציה גלובליים חדשים לבטיחות AI

אנתרופיק קוראת לרגולציה: מפת דרכים לאחריות מודלי AI מתקדמים

אנתרופיק משיקה את קלוד: סייען ה-AI החדש ששם דגש על בטיחות

אבטחת מודלי AI חזיתיים: אנתרופיק קוראת לחיזוק ההגנה מפני גניבה ושימוש לרעה

אנתרופיק מקימה נאמנות חדשה: להבטיח את עתיד ה-AI לטובת האנושות

אנתרופיק מתריעה: AI טרנספורמטיבי בפתח – אך הבטיחות עדיין בגדר תעלומה

החוקה של Claude: אנתרופיק מפרטת את עקרונות ה-AI האחראי שלה

אנתרופיק בוחרת ב-Google Cloud להרחבת פיתוח ה-AI הבטוח שלה

הישארו מעודכנים

נושאים פופולריים