אנתרופיק

231 כתבות בנושא זה

שותפויות22 בנובמבר 2024

מנוע הדור הבא של פיתוח AI: אנתרופיק ו-AWS מרחיבות את השותפות ב-4 מיליארד דולר

אנתרופיק (Anthropic), חברת מחקר ובטיחות בתחום ה-AI, מרחיבה משמעותית את שיתוף הפעולה שלה עם Amazon Web Services (AWS) בהשקעה של 4 מיליארד דולר נוספים, המצטרפת ל-4 מיליארד שכבר הושקעו, ומביאה את ההשקעה הכוללת ל-8 מיליארד דולר. במסגרת ההרחבה, AWS תהפוך לשותפת הענן והאימון העיקרית של אנתרופיק, והשתיים יעמיקו את שיתוף הפעולה בפיתוח חומרת Trainium עבור אימון מודלי חזית (frontier models). הצעד יאפשר לאנתרופיק למנף את התשתית של AWS כדי לפרוס את מודלי Claude המתקדמים שלה, כולל דרך Amazon Bedrock, ולאפשר ללקוחות ארגוניים לפתח פתרונות AI מאובטחים וניתנים להתאמה אישית.

קרא עוד

מחקר19 בנובמבר 2024

מעבר למזל: אנתרופיק מציגה גישה סטטיסטית חדשנית להערכת מודלי AI

הערכה מדויקה של מודלי בינה מלאכותית (AI) היא קריטית, אך מחקרים רבים מתעלמים מהשפעת האקראיות וה"מזל" בתוצאות. מאמר מחקר חדש של אנתרופיק (Anthropic) מציג גישה סטטיסטית קפדנית שמטרתה להפוך את הערכות המודלים לאמינות ומדויקות יותר. המחקר מפרט חמש המלצות מרכזיות, הכוללות שימוש במשפט הגבול המרכזי, טיפול ב-standard errors מקובצים, הפחתת שונות בתוך שאלות, ניתוח הבדלים מזווגים ושימוש בניתוח עוצמה סטטיסטית. באמצעות עקרונות אלו, אנתרופיק שואפת לספק כלים לחוקרים כדי לזהות את היכולות האמיתיות של המודלים, מעבר לרעש הסטטיסטי, ולקדם מדע הערכה מוצק.

קרא עוד

מדיניות31 באוקטובר 2024

רגולציה ממוקדת ל-AI: אנתרופיק קוראת לפעולה דחופה

אנתרופיק, מפתחת מודלי LLM מובילה, מזהירה כי עליית מודלי AI חזקים טומנת בחובה סיכונים משמעותיים לצד פוטנציאל אדיר לקידום המדע והכלכלה. החברה קוראת לממשלות לפעול בדחיפות לגיבוש מדיניות AI ממוקדת ב-18 החודשים הקרובים, שכן חלון ההזדמנויות למניעת סיכונים אקטיבית הולך ונסגר במהירות. רגולציה נבונה וממוקדת, בדומה למודל ה-Responsible Scaling Policy (RSP) של אנתרופיק, חיונית כדי למנף את יתרונות ה-AI תוך מזעור הסכנות.

קרא עוד

בטיחות22 באוקטובר 2024

פריצת דרך ב-AI: Claude של אנתרופיק לומד להשתמש במחשבים כמו בני אדם

חברת אנתרופיק (Anthropic) הכריזה על יכולת חדשנית ל-Claude 3.5 Sonnet שלה: שימוש ישיר במחשב, המאפשר למודל לנווט, להקליק ולהקליד על המסך. פיתוח זה, הנמצא כעת בבטא ציבורית, נחשב לקפיצת מדרגה משמעותית ביכולות AI, שיאפשר מגוון רחב של יישומים שעד כה לא היו אפשריים. החברה מדגישה את תהליך המחקר המורכב ואת אמצעי הבטיחות הנרחבים שהוטמעו, במיוחד סביב סיכוני Prompt Injection, ומציינת את החשיבות האסטרטגית בהכנסת יכולת זו בשלב מוקדם של פיתוח ה-AI.

קרא עוד

מוצרים22 באוקטובר 2024

אנתרופיק משדרגת את קלוד: מודלי 3.5 Sonnet ו-Haiku חדשים ויכולת Computer Use פורצת דרך

אנתרופיק (Anthropic) משיקה עדכון משמעותי למשפחת מודלי השפה שלה, הכולל את Claude 3.5 Sonnet המשודרג, את Claude 3.5 Haiku החדש ואת יכולת ה-"Computer Use" הניסיונית. Claude 3.5 Sonnet מציג שיפורים מהותיים, במיוחד בקידוד ובשימוש בכלים, בעוד ש-Claude 3.5 Haiku מספק ביצועים ברמת מודל הדגל הקודם, Claude 3 Opus, במהירות ובעלות נמוכה יותר. יכולת ה-"Computer Use" מאפשרת למודל לתקשר עם מחשבים כבני אדם, מה שפותח אופקים חדשים לאוטומציה ולפיתוח תוכנה, וממקם את אנתרופיק בחזית חדשנות ה-AI.

קרא עוד

מחקר18 באוקטובר 2024

הערכות חבלה: כך בוחנים מודלי AI חזיתיים על יכולתם להטעות ולתמרן

צוות ה-Alignment Science של אנתרופיק פרסם מחקר חדש שמציג גישה חדשנית להערכת בטיחותם של מודלי AI. המחקר מתמקד ביכולתם של מודלי חזית עתידיים לבצע 'חבלה' – פעולות מוסוות שמטרתן להטעות משתמשים או לתמרן מערכות פיקוח. הגישה כוללת ארבעה סוגי הערכות שונים, הבוחנות כיצד מודל יכול להשפיע על החלטות אנושיות, להחדיר באגים לקוד, להסתיר יכולות מסוכנות (Sandbagging) או לערער מערכות פיקוח. מטרת המחקר היא לזהות יכולות מסוכנות כאלה מבעוד מועד, כדי לאפשר למפתחים לפתח מנגנוני הגנה יעילים לפני פריסה רחבה.

קרא עוד

מחקר16 באוקטובר 2024

לפרק את הקופסה השחורה: אנתרופיק מציגה כלי חדש להבנת מודלי AI

אנתרופיק (Anthropic), חברת מחקר ובטיחות AI מובילה, הציגה לאחרונה עבודה מתפתחת מצוות הפרשנות שלה, המציגה גישה חדשנית לשימוש במאפייני למידת מילון (dictionary learning features) כמסווגים. המחקר, שנועד לקדם את היכולת לבנות מערכות AI אמינות, ניתנות לפרשנות ושליטה, מהווה צעד חשוב בהבנת המנגנונים הפנימיים של מודלים מורכבים. זוהי התפתחות קריטית במאמץ לפענח את ה'קופסה השחורה' של הבינה המלאכותית, ולאפשר למפתחים ולחוקרים להבין טוב יותר כיצד מודלי שפה גדולים (LLMs) מגיעים למסקנותיהם, ובכך לתרום לבניית AI אחראי ובטוח יותר.

קרא עוד

בטיחות8 באוקטובר 2024

אנתרופיק נלחמת בזיופים ומידע כוזב: כך נערכת Claude לבחירות בארה"ב

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, מפרסמת את צעדיה לקראת הבחירות בארצות הברית בנובמבר 2024. על רקע הזמינות הנרחבת של כלי AI גנרטיביים, החברה מציגה עדכוני מדיניות האוסרים על שימוש במוצריה לקמפיינים פוליטיים, לובינג וייצור מידע כוזב. בין היתר, קלוד (Claude) מוגבל לייצור טקסט בלבד כדי למנוע יצירת דיפ-פייקים (deepfakes) בנושאים אלקטורליים. אנתרופיק גם פיתחה כלים מתקדמים לזיהוי שימוש לרעה, מבצעת Red Teaming ובדיקות פגיעות מדיניות (Policy Vulnerability Testing) כדי לבחון ולחזק את מנגנוני ההגנה, ומפנה משתמשים למקורות מידע מהימנים בנוגע להצבעה. המהלכים נועדו להבטיח את טוהר ההליך הדמוקרטי ולמנוע את ניצול ה-AI להפצת דיסאינפורמציה.

קרא עוד

מחקר1 באוקטובר 2024

אנתרופיק חושפת הצצות ראשונות למחקר הפרשנות הפנימית ב-AI

אנתרופיק (Anthropic), חברת מחקר ו-AI מובילה בתחום בטיחות הבינה המלאכותית, חשפה לאחרונה סדרת עדכונים המציגים הצצה נדירה למאמציה המתקדמים בתחום הפרשנות (interpretability) של מודלים. העדכונים, המכונים "Circuits Updates", מספקים רעיונות ראשוניים וניסויים מתפתחים במטרה לבנות מערכות AI אמינות וניתנות לשליטה, תוך הדגשה של שקיפות ושיתוף ידע מוקדם. לצד עדכונים טכניים אלו, החברה ממשיכה להרחיב את פעילותה עם פרסום דוחות כלכליים על השימוש ב-Claude והשקת בלוג מדעי חדש, המדגישים את מחויבותה לשקיפות ולשיתוף ידע בקהילה.

קרא עוד

מחקר6 בספטמבר 2024

מאחורי הקלעים של AI: אנתרופיק חושפת תובנות מפרשנות מודלים

חברת אנתרופיק, המובילה במחקר בטיחות AI, פרסמה עדכון על עבודתה בפיתוח מערכות בינה מלאכותית אמינות, ניתנות לפרשנות ושליטה. העדכון חושף רעיונות ראשוניים ותובנות מתפתחות מצוות ה'פרשנות' שלה, ומהווה הצצה נדירה למאמציה לפענח את 'הקופסה השחורה' של מודלי שפה גדולים. בנוסף, החברה שיתפה ממצאים מדד ה-AI הכלכלי שלה והכריזה על השקת בלוג מדעי חדש, המרחיב את מגוון תחומי המחקר שהיא מקדמת.

קרא עוד

שותפויות3 בספטמבר 2024

סיילספורס משלבת את Claude של אנתרופיק לשיפור יכולות Einstein

סיילספורס משדרגת את Einstein 1 Studio שלה עם מודלי ה-AI המתקדמים של Claude מבית אנתרופיק, הזמינים כעת דרך Amazon Bedrock. שיתוף הפעולה האסטרטגי הזה מאפשר לארגונים למנף את יכולות ה-AI של Claude לשיפור ניכר ביעילות, תובנות והתאמה אישית במגוון תחומי פעילות – ממכירות ושירות לקוחות ועד שיווק ו-IT. האינטגרציה מדגישה אבטחה ודיוק ברמה ארגונית, ומספקת גמישות בבחירת המודלים (Claude 3.5 Sonnet, Opus, Haiku) עבור יישומי CRM מותאמים אישית, כל זאת תוך שמירה על עמידה בתקנים מחמירים באמצעות מערכות ה-AI המאובטחות של Salesforce.

קרא עוד

חדשות1 באוגוסט 2024

קלוד של אנתרופיק עושה עלייה לברזיל: שירותי ה-AI מתרחבים לדרום אמריקה

חברת אנתרופיק (Anthropic) הודיעה על השקת העוזרת הווירטואלית המתקדמת שלה, קלוד (Claude), בברזיל. מעתה, הן צרכנים והן עסקים במדינה יוכלו לגשת למודלי השפה הגדולים (LLM) של קלוד דרך ממשק ה-Web, אפליקציות מובייל לאנדרואיד ול-iOS, וכן דרך ה-API למפתחים. ההשקה מסמלת הרחבה משמעותית של נוכחות אנתרופיק בדרום אמריקה, תוך הדגשה של מחויבותה לבטיחות, פרטיות ופיתוח AI אחראי בכל שירותיה.

קרא עוד