בינה מלאכותית

128 כתבות בנושא זה

מחקר18 ביולי 2023

מחקר חדש מראה: כך פירוק שאלות משפר את נאמנות ההסקה במודלי שפה

מודלי שפה גדולים (LLM) מתמודדים עם משימות מורכבות יותר, מה שמקשה על אימות נכונותם ובטיחותם. שיטה נפוצה לסייע בכך היא לאפשר למודלים להציג את תהליכי החשיבה שלהם צעד אחר צעד (Chain-of-Thought - CoT). עם זאת, ההסקה המוצהרת לא תמיד משקפת נאמנה את ההסקה האמיתית של המודל. מחקר חדש של אנתרופיק (Anthropic) מציע גישה משופרת: פירוק שאלות מורכבות לשאלות משנה פשוטות יותר. גישה זו, שבה המודל נאלץ לענות על תת-שאלות בהקשרים נפרדים, מגבירה באופן משמעותי את נאמנות ההסקה לעומת CoT, תוך שמירה על ביצועים גבוהים. הממצאים מצביעים על כך שניתן לשפר את אמינות תהליכי החשיבה של מודלים, מה שחיוני לבטיחות ודיוק מערכות ה-AI.

קרא עוד

שותפויות16 במאי 2023

זום ואנתרופיק משלבות כוחות: השקעה ושיתוף פעולה אסטרטגי ב-AI

חברת אנתרופיק (Anthropic), מובילה במחקר ובטיחות בינה מלאכותית, הכריזה על שיתוף פעולה אסטרטגי והשקעה משמעותית מזום (Zoom), ענקית פתרונות התקשורת הארגוניים. במסגרת השותפות, זום תשלב את מודל ה-AI המתקדם של אנתרופיק, קלוד (Claude), במוצריה ללקוחות ארגוניים, במטרה לשפר אמינות, פרודוקטיביות ובטיחות. האינטגרציה הראשונה מתוכננת עבור Zoom Contact Center, שם קלוד יסייע בייעול חווית המשתמש וביצועי הסוכנים. בנוסף, זרוע ההשקעות של זום, Zoom Ventures, השקיעה באנתרופיק, מה שמדגיש חזון משותף לפיתוח AI אחראי ואמין.

קרא עוד

חברה11 במאי 2023

אנתרופיק מגייסת 450 מיליון דולר ב-Series C: בדרך ל-AI אמין ובטוח

חברת אנתרופיק (Anthropic), המתמקדת במחקר ובטיחות בתחום ה-AI, הודיעה על גיוס סבב C בהיקף 450 מיליון דולר. הגיוס, שהובל על ידי Spark Capital וכלל משקיעות מובילות כמו גוגל ו-Salesforce Ventures, נועד לתמוך בהרחבת פיתוח מערכות AI אמינות, ניתנות לפרשנות וניתנות לשליטה. בין היתר, המימון ישמש להרחבת יכולות העוזרת הווירטואלית Claude ולקידום מחקר בטיחות ה-AI, תוך התמקדות בטכניקות יישור מתקדמות.

קרא עוד

מוצרים11 במאי 2023

אנתרופיק משיקה את Claude 2: מודל שפה חזק, בטוח ועם חלון הקשר ענק

חברת ה-AI אנתרופיק (Anthropic), הנחשבת לאחד השחקניות המובילות בתחום, שחררה את Claude 2, הדור החדש של מודל השפה הגדול (LLM) שלה, שנועד להיות אמין, ניתן לפרשנות ובטוח יותר. המודל החדש מציג שיפורים משמעותיים בביצועים, יכולות קידוד וחשיבה, ומגיע עם חלון הקשר עצום של 100 אלף טוקנים. בנוסף, הוא זמין דרך API וגם באתר בטא ציבורי חדש, מה שמאפשר נגישות רחבה יותר למודל המתקדם. אנתרופיק מדגישה את מחויבותה לבטיחות ה-AI, ומציינת ש-Claude 2 מציג עמידות כפולה בפני פרומפטים מזיקים בהשוואה לקודמו.

קרא עוד

מוצרים11 במאי 2023

קפיצת מדרגה לקלוד: אנתרופיק משיקה חלון הקשר של 100,000 טוקנים

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ומחקר ה-AI, הרחיבה משמעותית את חלון ההקשר של מודל השפה הגדול שלה, Claude, מ-9,000 ל-100,000 טוקנים. הרחבה זו, השווה לכ-75,000 מילים, מאפשרת למודל לעבד מאות עמודים של טקסטים מורכבים בתוך שניות בודדות. המהלך פותח דלתות לשימושים עסקיים חדשים, כגון ניתוח דוחות פיננסיים, סיכום מחקרים ארוכים וסיוע בקריאת תיעוד למפתחים, ומבטיח יכולות הסקה ושליפת מידע מתקדמות יותר.

קרא עוד

בטיחות8 במרץ 2023

החוקה של Claude: אנתרופיק מפרטת את עקרונות ה-AI האחראי שלה

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI, פיתחה את גישת ה-AI החוקתי (Constitutional AI) כדי להפוך מודלי שפה גדולים (LLM) לאמינים, ברי פרשנות וניתנים לשליטה. גישה זו, המוטמעת במודל Claude שלהם, מציעה מענה לשאלת ה"ערכים" של מודלי שפה על ידי מתן עקרונות מפורשים, בניגוד להסתמכות בלעדית על משוב אנושי. השיטה מאפשרת סקיילינג יעיל של פיקוח AI, שקיפות גבוהה יותר של המודל, ומבטיחה תגובות מועילות ולא מזיקות מבלי לחשוף מפעילים אנושיים לתכנים מטרידים.

קרא עוד

חברה29 באפריל 2022

אנתרופיק מגייסת 580 מיליון דולר בסבב B: תתמקד ב-AI בטוח וניתן להכוונה

חברת אנתרופיק, המובילה מחקרים בתחום <strong>בטיחות ה-AI</strong>, הודיעה על השלמת סבב גיוס B בסך 580 מיליון דולר. הגיוס ישמש לבניית תשתית ניסויית רחבת היקף במטרה לשפר את מאפייני ה<strong>בטיחות</strong> של <strong>מודלי AI עתירי חישוב</strong>. אנתרופיק מתמקדת בפיתוח <strong>מודלים</strong> אמינים, <strong>ניתנים לפרשנות</strong> ו<strong>ניתנים להכוונה</strong>, המשלבים <strong>מנגנוני הגנה</strong> מובנים כבר בשלבי האימון ודורשים פחות התערבות לאחר מכן. החברה שואפת לפתח כלים שיאפשרו להבין ולוודא את פעילות מנגנוני ה<strong>בטיחות</strong> הללו, תוך בחינת ההשלכות הרחבות של ה<strong>סקיילינג</strong> על החברה והמדיניות.

קרא עוד

חברה28 במאי 2021

אנתרופיק גייסה 124 מיליון דולר לפיתוח מערכות AI כלליות ואמינות יותר

חברת המחקר והבטיחות בתחום ה-AI, אנתרופיק (Anthropic), הודיעה על גיוס סבב A בסך 124 מיליון דולר. גיוס ההון נועד לתמוך בחברה בהוצאה לפועל של מפת הדרכים המחקרית שלה ובפיתוח אבות טיפוס של מערכות בינה מלאכותית אמינות, ניתנות לפרשנות ושליטה. אנתרופיק, שהוקמה על ידי בכירים לשעבר מ-OpenAI, שמה דגש מיוחד על בטיחות ה-AI. היא מתמקדת בפיתוח מודלי AI בקנה מידה גדול עם דגש על יישור, פרשנות ושילוב הדוק של משוב אנושי.

קרא עוד