מודלי שפה

235 כתבות בנושא זה

מחקר12 בדצמבר 2024

Clio: אנתרופיק מציגה מערכת לניתוח שימוש ב-AI תוך שמירה על פרטיות

אנתרופיק (Anthropic) מציגה את Clio, מערכת חדשנית לניתוח אופן השימוש במודלי AI בזמן אמת, תוך שמירה קפדנית על פרטיות המשתמשים. המערכת, המקבילה ל-Google Trends עבור שימוש ב-AI, מסייעת לחברה להבין טוב יותר כיצד אנשים מקיימים אינטראקציה עם מודלים כמו Claude, מהם התחומים הפופולריים וכיצד היא מסייעת בשיפור אמצעי בטיחות וזיהוי שימושים לרעה. Clio עושה זאת באמצעות אנונימיזציה וקיבוץ אוטומטי של שיחות, ומספקת תובנות כלליות מבלי לחשוף מידע אישי. זוהי פריצת דרך חשובה בדרך לפיתוח AI אחראי ובטוח יותר, המדגימה שאפשר לשלב בין בטיחות AI להגנת פרטיות המשתמשים.

קרא עוד

שותפויות22 בנובמבר 2024

מנוע הדור הבא של פיתוח AI: אנתרופיק ו-AWS מרחיבות את השותפות ב-4 מיליארד דולר

אנתרופיק (Anthropic), חברת מחקר ובטיחות בתחום ה-AI, מרחיבה משמעותית את שיתוף הפעולה שלה עם Amazon Web Services (AWS) בהשקעה של 4 מיליארד דולר נוספים, המצטרפת ל-4 מיליארד שכבר הושקעו, ומביאה את ההשקעה הכוללת ל-8 מיליארד דולר. במסגרת ההרחבה, AWS תהפוך לשותפת הענן והאימון העיקרית של אנתרופיק, והשתיים יעמיקו את שיתוף הפעולה בפיתוח חומרת Trainium עבור אימון מודלי חזית (frontier models). הצעד יאפשר לאנתרופיק למנף את התשתית של AWS כדי לפרוס את מודלי Claude המתקדמים שלה, כולל דרך Amazon Bedrock, ולאפשר ללקוחות ארגוניים לפתח פתרונות AI מאובטחים וניתנים להתאמה אישית.

קרא עוד

מחקר19 בנובמבר 2024

מעבר למזל: אנתרופיק מציגה גישה סטטיסטית חדשנית להערכת מודלי AI

הערכה מדויקה של מודלי בינה מלאכותית (AI) היא קריטית, אך מחקרים רבים מתעלמים מהשפעת האקראיות וה"מזל" בתוצאות. מאמר מחקר חדש של אנתרופיק (Anthropic) מציג גישה סטטיסטית קפדנית שמטרתה להפוך את הערכות המודלים לאמינות ומדויקות יותר. המחקר מפרט חמש המלצות מרכזיות, הכוללות שימוש במשפט הגבול המרכזי, טיפול ב-standard errors מקובצים, הפחתת שונות בתוך שאלות, ניתוח הבדלים מזווגים ושימוש בניתוח עוצמה סטטיסטית. באמצעות עקרונות אלו, אנתרופיק שואפת לספק כלים לחוקרים כדי לזהות את היכולות האמיתיות של המודלים, מעבר לרעש הסטטיסטי, ולקדם מדע הערכה מוצק.

קרא עוד

מוצרים31 באוקטובר 2024

אנתרופיק משחררת: כוונון עדין ל-Claude 3 Haiku זמין ב-Amazon Bedrock

אנתרופיק (Anthropic) השיקה לאחרונה אפשרות לכוונון עדין (fine-tuning) של מודל השפה הגדול והחסכוני שלה, Claude 3 Haiku, ישירות בפלטפורמת Amazon Bedrock. יכולת חדשה זו מאפשרת לארגונים להתאים אישית את המודל באמצעות נתוני אימון (training data) ספציפיים, מה שמבטיח ביצועים מהירים ומדויקים יותר בעלויות מופחתות. מדובר במהפכה עבור עסקים המעוניינים להטמיע יכולות AI מותאמות אישית באופן עמוק יותר בתהליכים שלהם. חשוב לציין כי הכוונון העדין עבור Claude 3 Haiku ב-Amazon Bedrock זמין כעת באופן כללי (General Availability), לאחר שהיה זמין בעבר בגרסת Preview בלבד.

קרא עוד

מדיניות31 באוקטובר 2024

רגולציה ממוקדת ל-AI: אנתרופיק קוראת לפעולה דחופה

אנתרופיק, מפתחת מודלי LLM מובילה, מזהירה כי עליית מודלי AI חזקים טומנת בחובה סיכונים משמעותיים לצד פוטנציאל אדיר לקידום המדע והכלכלה. החברה קוראת לממשלות לפעול בדחיפות לגיבוש מדיניות AI ממוקדת ב-18 החודשים הקרובים, שכן חלון ההזדמנויות למניעת סיכונים אקטיבית הולך ונסגר במהירות. רגולציה נבונה וממוקדת, בדומה למודל ה-Responsible Scaling Policy (RSP) של אנתרופיק, חיונית כדי למנף את יתרונות ה-AI תוך מזעור הסכנות.

קרא עוד

חדשות29 באוקטובר 2024

קלוד 3.5 סונט מגיע ל-GitHub Copilot: סיוע קידוד מתקדם למיליוני מפתחים

החל מהיום, מודל השפה החדש Claude 3.5 Sonnet של אנתרופיק (Anthropic) מתחיל להיפרס ב-GitHub Copilot, ומעניק למפתחים את האפשרות לבחור בו למשימות קידוד ישירות מתוך Visual Studio Code ובאתר GitHub.com. האינטגרציה הזו מביאה את יכולות הקידוד המתקדמות של Claude לקהילת המפתחים העצומה של GitHub. המודל, המציג ביצועים עדיפים במדדי קידוד מרכזיים כמו SWE-bench Verified ו-HumanEval, יהיה זמין בתצוגה מקדימה לכלל המשתמשים והארגונים במהלך השבועות הקרובים, וישפר משמעותית את תהליכי כתיבת הקוד, הדיבוג ויצירת הבדיקות.

קרא עוד

מחקר25 באוקטובר 2024

אנתרופיק חושפת: האם ניתן 'לנווט' את הטיות מודלי ה-AI מבפנים?

מחקר חדש מבית אנתרופיק (Anthropic) בוחן את טכניקת 'ניווט תכונות' (feature steering), שיטה המאפשרת להתערב במרכיבים פנימיים וניתנים לפרשנות של מודלי שפה גדולים (LLM) דוגמת Claude 3 Sonnet. המטרה היא לבדוק כיצד ניתן למתן הטיות חברתיות מבלי לפגוע ביכולות הכלליות של המודל. הממצאים הראו קיום 'נקודה אופטימלית' (sweet spot) לניווט, ואף זיהוי של 'תכונת ניטרליות' שמפחיתה הטיות רבות. יחד עם זאת, המחקר חשף גם אתגרים כמו 'השפעות בלתי צפויות' (off-target effects) והצביע על מורכבות ההשפעה של תכונות על פלטי המודל, מה שמדגיש את הצורך בהערכה זהירה לפני הטמעת השיטה בפועל.

קרא עוד

בטיחות22 באוקטובר 2024

פריצת דרך ב-AI: Claude של אנתרופיק לומד להשתמש במחשבים כמו בני אדם

חברת אנתרופיק (Anthropic) הכריזה על יכולת חדשנית ל-Claude 3.5 Sonnet שלה: שימוש ישיר במחשב, המאפשר למודל לנווט, להקליק ולהקליד על המסך. פיתוח זה, הנמצא כעת בבטא ציבורית, נחשב לקפיצת מדרגה משמעותית ביכולות AI, שיאפשר מגוון רחב של יישומים שעד כה לא היו אפשריים. החברה מדגישה את תהליך המחקר המורכב ואת אמצעי הבטיחות הנרחבים שהוטמעו, במיוחד סביב סיכוני Prompt Injection, ומציינת את החשיבות האסטרטגית בהכנסת יכולת זו בשלב מוקדם של פיתוח ה-AI.

קרא עוד

מוצרים22 באוקטובר 2024

אנתרופיק משדרגת את קלוד: מודלי 3.5 Sonnet ו-Haiku חדשים ויכולת Computer Use פורצת דרך

אנתרופיק (Anthropic) משיקה עדכון משמעותי למשפחת מודלי השפה שלה, הכולל את Claude 3.5 Sonnet המשודרג, את Claude 3.5 Haiku החדש ואת יכולת ה-"Computer Use" הניסיונית. Claude 3.5 Sonnet מציג שיפורים מהותיים, במיוחד בקידוד ובשימוש בכלים, בעוד ש-Claude 3.5 Haiku מספק ביצועים ברמת מודל הדגל הקודם, Claude 3 Opus, במהירות ובעלות נמוכה יותר. יכולת ה-"Computer Use" מאפשרת למודל לתקשר עם מחשבים כבני אדם, מה שפותח אופקים חדשים לאוטומציה ולפיתוח תוכנה, וממקם את אנתרופיק בחזית חדשנות ה-AI.

קרא עוד

מחקר16 באוקטובר 2024

לפרק את הקופסה השחורה: אנתרופיק מציגה כלי חדש להבנת מודלי AI

אנתרופיק (Anthropic), חברת מחקר ובטיחות AI מובילה, הציגה לאחרונה עבודה מתפתחת מצוות הפרשנות שלה, המציגה גישה חדשנית לשימוש במאפייני למידת מילון (dictionary learning features) כמסווגים. המחקר, שנועד לקדם את היכולת לבנות מערכות AI אמינות, ניתנות לפרשנות ושליטה, מהווה צעד חשוב בהבנת המנגנונים הפנימיים של מודלים מורכבים. זוהי התפתחות קריטית במאמץ לפענח את ה'קופסה השחורה' של הבינה המלאכותית, ולאפשר למפתחים ולחוקרים להבין טוב יותר כיצד מודלי שפה גדולים (LLMs) מגיעים למסקנותיהם, ובכך לתרום לבניית AI אחראי ובטוח יותר.

קרא עוד

מחקר1 באוקטובר 2024

אנתרופיק חושפת הצצות ראשונות למחקר הפרשנות הפנימית ב-AI

אנתרופיק (Anthropic), חברת מחקר ו-AI מובילה בתחום בטיחות הבינה המלאכותית, חשפה לאחרונה סדרת עדכונים המציגים הצצה נדירה למאמציה המתקדמים בתחום הפרשנות (interpretability) של מודלים. העדכונים, המכונים "Circuits Updates", מספקים רעיונות ראשוניים וניסויים מתפתחים במטרה לבנות מערכות AI אמינות וניתנות לשליטה, תוך הדגשה של שקיפות ושיתוף ידע מוקדם. לצד עדכונים טכניים אלו, החברה ממשיכה להרחיב את פעילותה עם פרסום דוחות כלכליים על השימוש ב-Claude והשקת בלוג מדעי חדש, המדגישים את מחויבותה לשקיפות ולשיתוף ידע בקהילה.

קרא עוד

בטיחות8 באוגוסט 2024

אנתרופיק מרחיבה את תוכנית הבאג באונטי: מיקוד בפריצת מגבלות אוניברסליות ב-AI

חברת אנתרופיק (Anthropic) מכריזה על הרחבת תוכנית הבאג באונטי (bug bounty) שלה, שנועדה לחזק את בטיחות מודלי ה-AI שלה. היוזמה החדשה תתמקד באיתור ליקויים במנגנוני ההגנה העתידיים של החברה, במיוחד כאלה שנועדו למנוע מתקפות פריצת מגבלות אוניברסליות (universal jailbreak attacks). במסגרת התוכנית, יוצעו תגמולים של עד 15,000 דולר לחוקרים שיזהו פרצות בתחומי סיכון גבוה כמו CBRN ואבטחת סייבר, במטרה להבטיח את פריסתם האחראית של מודלי ה-AI המתקדמים.

קרא עוד