215 כתבות בנושא זה
חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ומחקר ה-AI, הרחיבה משמעותית את חלון ההקשר של מודל השפה הגדול שלה, Claude, מ-9,000 ל-100,000 טוקנים. הרחבה זו, השווה לכ-75,000 מילים, מאפשרת למודל לעבד מאות עמודים של טקסטים מורכבים בתוך שניות בודדות. המהלך פותח דלתות לשימושים עסקיים חדשים, כגון ניתוח דוחות פיננסיים, סיכום מחקרים ארוכים וסיוע בקריאת תיעוד למפתחים, ומבטיח יכולות הסקה ושליפת מידע מתקדמות יותר.
קרא עוד
חברת ה-AI אנתרופיק (Anthropic), הנחשבת לאחד השחקניות המובילות בתחום, שחררה את Claude 2, הדור החדש של מודל השפה הגדול (LLM) שלה, שנועד להיות אמין, ניתן לפרשנות ובטוח יותר. המודל החדש מציג שיפורים משמעותיים בביצועים, יכולות קידוד וחשיבה, ומגיע עם חלון הקשר עצום של 100 אלף טוקנים. בנוסף, הוא זמין דרך API וגם באתר בטא ציבורי חדש, מה שמאפשר נגישות רחבה יותר למודל המתקדם. אנתרופיק מדגישה את מחויבותה לבטיחות ה-AI, ומציינת ש-Claude 2 מציג עמידות כפולה בפני פרומפטים מזיקים בהשוואה לקודמו.
קרא עוד
חברת אנתרופיק (Anthropic), המתמקדת במחקר ובטיחות בתחום ה-AI, הודיעה על גיוס סבב C בהיקף 450 מיליון דולר. הגיוס, שהובל על ידי Spark Capital וכלל משקיעות מובילות כמו גוגל ו-Salesforce Ventures, נועד לתמוך בהרחבת פיתוח מערכות AI אמינות, ניתנות לפרשנות וניתנות לשליטה. בין היתר, המימון ישמש להרחבת יכולות העוזרת הווירטואלית Claude ולקידום מחקר בטיחות ה-AI, תוך התמקדות בטכניקות יישור מתקדמות.
קרא עוד
חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ו-AI אחראי, הכריזה על שיתוף פעולה אסטרטגי עם קבוצת הייעוץ הבינלאומית Boston Consulting Group (BCG). במסגרת השותפות, מודלי ה-AI של אנתרופיק, ובראשם Claude, יוטמעו בארגוני ענק ברחבי העולם, תוך שימת דגש על פריסה בטוחה, אמינה ואתית. שיתוף הפעולה יאפשר ללקוחות BCG לקבל גישה ישירה ל-Claude ולייעל תהליכים עסקיים קריטיים במגוון תחומי פעילות, ויקבע סטנדרט חדש ליישום AI אחראי בארגונים.
קרא עוד
חברת המחקר והבטיחות בתחום ה-AI, אנתרופיק, הפועלת לבניית מערכות AI אמינות, בעלות פרשנות וניתנות לשליטה, הודיעה על שיתוף פעולה אסטרטגי עם Scale. השותפות נועדה להנגיש את מודל השפה הגדול שלה, Claude, למגוון רחב של ארגונים באמצעות הפלטפורמה המובילה של Scale. מהלך זה יאפשר לעסקים לפרוס ולנהל יישומי AI גנרטיביים מתקדמים, תוך ניצול יכולות הנדסת פרומפטים, אימות מודלים ואבטחה ברמת אנטרפרייז שמציעה Scale, בצירוף למערכת ה-AI החוקתי של אנתרופיק.
קרא עוד
אנתרופיק (Anthropic), חברת מחקר ובטיחות AI מובילה, מפרסמת קריאה דרמטית לחיזוק אבטחת הסייבר של מודלי בינה מלאכותית חזיתיים (frontier AI models), בטענה שהם מהווים תשתית קריטית עם פוטנציאל להשפיע על ביטחון לאומי וכלכלה גלובלית. החברה קוראת למעבדות AI ולממשלות לאמץ באופן מיידי שיטות עבודה מחמירות, בהן מנגנון 'בקרת שני גורמים' (two-party control) ותקני פיתוח תוכנה מאובטח כמו NIST SSDF ו-SLSA. אנתרופיק מציעה לטפל במגזר ה-AI המתקדם כמגזר תשתית קריטית, עם דגש על שיתוף פעולה הדוק בין המגזר הציבורי לפרטי, על מנת למנוע גניבה או שימוש לרעה במודלים. החברה מצהירה כי היא עצמה מיישמת בקרות אבטחה מתקדמות במודלי Claude שלה.
קרא עוד
אנתרופיק (Anthropic), חברת ה-AI המובילה, מפרסמת מסמך עמדה שבו היא מזהירה כי מערכות בינה מלאכותית טרנספורמטיביות (Transformative AI) עשויות להגיע כבר בעשור הקרוב, עם יכולות שישתוו או יעלו על ביצועי אדם במרבית המשימות האינטלקטואליות. עם זאת, היא מדגישה כי הקהילה עדיין אינה מבינה כיצד להפוך מודלים חזיתיים אלו לבטוחים, מהימנים ומיושרים באופן יציב עם ערכי האדם. החברה קוראת למאמץ מחקרי דחוף ורב-גוני בתחום בטיחות ה-AI, ומציגה את הגישה האמפירית שלה לטיפול ב"בעיית היישור" (alignment) כדי למנוע סיכונים קטסטרופליים אפשריים, העשויים לנבוע מתקלות טכניות או מהפרעה חברתית נרחבת.
קרא עוד
חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, פיתחה את גישת ה-AI החוקתי (Constitutional AI) כדי להפוך מודלי שפה גדולים (LLM) לאמינים, ברי פרשנות וניתנים לשליטה. גישה זו, המוטמעת במודל Claude שלהם, מציעה מענה לשאלת ה"ערכים" של מודלי שפה על ידי מתן עקרונות מפורשים, בניגוד להסתמכות בלעדית על משוב אנושי. השיטה מאפשרת סקיילינג יעיל של פיקוח AI, שקיפות גבוהה יותר של המודל, ומבטיחה תגובות מועילות ולא מזיקות מבלי לחשוף מפעילים אנושיים לתכנים מטרידים.
קרא עוד
אנתרופיק (Anthropic), חברת מחקר מובילה המתמקדת בבטיחות וביישור AI, הודיעה על שיתוף פעולה אסטרטגי עם Google Cloud. במסגרת השותפות, אנתרופיק תשתמש בתשתיות הענן המתקדמות של גוגל, הכוללות אשכולות GPU ו-TPU, לצורך אימון, סקיילינג ופריסה של מודלי ה-AI שלה, ובפרט מודל השפה הגדול Claude. המהלך נועד לאפשר לחברה להרחיב את פריסת מערכות ה-AI הבטוחות והניתנות להבנה שלה לקהל רחב יותר, תוך שימוש בטכניקות יישור חדשניות כמו AI חוקתי.
קרא עוד
חברת המחקר והבטיחות אנתרופיק פרסמה מחקר פורץ דרך הבוחן את האתגר המורכב של 'פיקוח מדרגי' (scalable oversight) על מערכות בינה מלאכותית מתקדמות. המחקר עוסק ביכולת לפקח על מודלי AI שעלולים להצטיין מעל יכולות אנושיות במגוון משימות. באמצעות תכנון ניסויי חדשני, שבו מומחים אנושיים בסיוע מודל מצליחים במשימות בהן אדם ומודל לבדם נכשלים, אנתרופיק מדגימה היתכנות לגישה זו. הממצאים המעודדים מראים כי משתתפים אנושיים שנעזרו בעוזר דיאלוגי מבוסס LLM הצליחו באופן ניכר יותר, מה שמחזק את ההבנה שמודלי שפה גדולים יכולים לסייע ביעילות לבני אדם במשימות מורכבות.
קרא עוד
חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, פרסמה מחקר המפרט את גישתה לאימון מודלי שפה גדולים (LLM) כדי שיפעלו כסוכנים מועילים ולא מזיקים. המחקר מציג את השימוש ב-RLHF (Reinforcement Learning from Human Feedback) ובמודלי העדפות לכוונון עדין של מודלים, ומראה כי אימון יישור זה לא רק משפר את הביצועים במגוון משימות NLP, אלא גם תואם באופן מלא לאימון עבור יכולות מיוחדות כמו קידוד Python. בנוסף, המחקר מפרט מודל אימון איטרטיבי מקוון, המעדכן את המודלים על בסיס שבועי עם פידבק אנושי טרי, ובוחן את חוסנו של אימון ה-RLHF, מה שמהווה צעד חשוב בפיתוח בינה מלאכותית אמינה, מפורשת וניתנת לשליטה.
קרא עוד