AI אחראי

99 כתבות בנושא זה

שותפויות3 בספטמבר 2024

סיילספורס משלבת את Claude של אנתרופיק לשיפור יכולות Einstein

סיילספורס משדרגת את Einstein 1 Studio שלה עם מודלי ה-AI המתקדמים של Claude מבית אנתרופיק, הזמינים כעת דרך Amazon Bedrock. שיתוף הפעולה האסטרטגי הזה מאפשר לארגונים למנף את יכולות ה-AI של Claude לשיפור ניכר ביעילות, תובנות והתאמה אישית במגוון תחומי פעילות – ממכירות ושירות לקוחות ועד שיווק ו-IT. האינטגרציה מדגישה אבטחה ודיוק ברמה ארגונית, ומספקת גמישות בבחירת המודלים (Claude 3.5 Sonnet, Opus, Haiku) עבור יישומי CRM מותאמים אישית, כל זאת תוך שמירה על עמידה בתקנים מחמירים באמצעות מערכות ה-AI המאובטחות של Salesforce.

קרא עוד

בטיחות8 באוגוסט 2024

אנתרופיק מרחיבה את תוכנית הבאג באונטי: מיקוד בפריצת מגבלות אוניברסליות ב-AI

חברת אנתרופיק (Anthropic) מכריזה על הרחבת תוכנית הבאג באונטי (bug bounty) שלה, שנועדה לחזק את בטיחות מודלי ה-AI שלה. היוזמה החדשה תתמקד באיתור ליקויים במנגנוני ההגנה העתידיים של החברה, במיוחד כאלה שנועדו למנוע מתקפות פריצת מגבלות אוניברסליות (universal jailbreak attacks). במסגרת התוכנית, יוצעו תגמולים של עד 15,000 דולר לחוקרים שיזהו פרצות בתחומי סיכון גבוה כמו CBRN ואבטחת סייבר, במטרה להבטיח את פריסתם האחראית של מודלי ה-AI המתקדמים.

קרא עוד

חדשות1 באוגוסט 2024

קלוד של אנתרופיק עושה עלייה לברזיל: שירותי ה-AI מתרחבים לדרום אמריקה

חברת אנתרופיק (Anthropic) הודיעה על השקת העוזרת הווירטואלית המתקדמת שלה, קלוד (Claude), בברזיל. מעתה, הן צרכנים והן עסקים במדינה יוכלו לגשת למודלי השפה הגדולים (LLM) של קלוד דרך ממשק ה-Web, אפליקציות מובייל לאנדרואיד ול-iOS, וכן דרך ה-API למפתחים. ההשקה מסמלת הרחבה משמעותית של נוכחות אנתרופיק בדרום אמריקה, תוך הדגשה של מחויבותה לבטיחות, פרטיות ופיתוח AI אחראי בכל שירותיה.

קרא עוד

מוצרים1 ביולי 2024

אנתרופיק משיקה יוזמה חדשה לקידום הערכות צד שלישי למודלי AI

מערך הערכות צד שלישי חזק וחיוני הוא קריטי להבנת היכולות והסיכונים של בינה מלאכותית, אך המצב הנוכחי מוגבל והביקוש להערכות איכותיות עולה על ההיצע. כדי להתמודד עם אתגר זה, חברת אנתרופיק (Anthropic) משיקה יוזמה חדשה למימון ארגוני צד שלישי שיפתחו הערכות. המטרה היא למדוד ביעילות יכולות מתקדמות במודלי AI ולשפר את בטיחותם, ובכך לקדם את כלל תחום בטיחות ה-AI ולספק כלים יקרי ערך לכלל האקוסיסטם.

קרא עוד

מחקר28 ביוני 2024

אנתרופיק חושפת הצצות למחקר הליבה שלה: מה חדש ב'מעגלים'?

חברת אנתרופיק, המובילה בתחום בטיחות ופרשנות ה-AI, פרסמה עדכון נדיר המציע הצצה למאחורי הקלעים של צוות מחקר ה'פרשנות' שלה. ה'Circuits Updates' חושפים רעיונות מתפתחים וממצאים ראשוניים שמטרתם להבין טוב יותר את אופן פעולתם של מודלי שפה גדולים כמו Claude. עדכונים אלו, אף שאינם מהווים מאמרים סופיים, מדגישים את מחויבות החברה לשקיפות וקידום היכולת לבנות מערכות בינה מלאכותית אמינות, בטוחות וניתנות ליישור.

קרא עוד

בטיחות12 ביוני 2024

האתגרים ב-Red Teaming של AI: אנתרופיק חושפת את התהליך

חברת אנתרופיק (Anthropic) חושפת תובנות מגוון גישות Red Teaming המשמשות אותה לבחינת מערכות ה-AI שלה, ומדגישה את חשיבותן לשיפור הבטיחות והאבטחה. הכתבה מצביעה על היעדר סטנדרטים אחידים בתחום כאתגר מרכזי, ועל הצורך בפרקטיקות מבוססות ל-Red Teaming שיטתי. אנתרופיק סוקרת שיטות שונות, החל מ-Red Teaming ממוקד-מומחים ועד שימוש במודלי שפה גדולים וגישות רב-מודאליות, תוך הדגשה של המעבר מבדיקות איכותניות לכמותיות ואוטומטיות. לבסוף, היא מציגה המלצות למעצבי מדיניות כיצד לבסס אקוסיסטם חזק של בדיקות AI.

קרא עוד

בטיחות6 ביוני 2024

אנתרופיק נגד פייק ניוז בבחירות: חושפת את מנגנוני הבטיחות של מודלי ה-AI שלה

לקראת שנת הבחירות הגלובלית של 2024, חברת אנתרופיק (Anthropic) מפרסמת הצצה למאמציה המתמשכים לבחון ולהפחית סיכונים הקשורים לבחירות במודלי ה-AI שלה, בדגש על קלוד (Claude). החברה משתמשת בשילוב של בדיקות עומק ידניות עם מומחים חיצוניים (PVT) והערכות אוטומטיות מבוססות סקיילינג, כדי לזהות ולטפל בסוגיות כמו מידע שגוי והטיה. הדו"ח מפרט כיצד ממצאי הבדיקות מובילים ליישום אסטרטגיות הפחתה אפקטיביות, כולל עדכונים ל-System Prompt וכוונון עדין של המודלים, במטרה להבטיח את שלמות התהליך הדמוקרטי. תהליך זה מדגים את מחויבותה של אנתרופיק ל-AI אחראי.

קרא עוד

חדשות21 במאי 2024

אנתרופיק מתחזקת: קרישנה ראו מונה לסמנכ"ל הכספים החדש

חברת ה-AI אנתרופיק (Anthropic), הנחשבת לשחקנית מפתח בתחום בטיחות ה-AI, הודיעה על מינויו של קרישנה ראו (Krishna Rao) לסמנכ"ל הכספים החדש שלה. ראו מביא עמו כמעט שני עשורים של ניסיון פיננסי אסטרטגי מחברות מובילות כמו Airbnb ו-Fanatics Commerce. המינוי נועד לחזק את האסטרטגיה הפיננסית והפעילות של אנתרופיק, בפרט לנוכח צמיחתה המהירה, המומנטום העסקי המשמעותי והרחבת הפעילות הבינלאומית של החברה בתחום הבינה המלאכותית האחראית.

קרא עוד

מדיניות10 במאי 2024

אנתרופיק: עדכון מדיניות השימוש – דגש על בטיחות ו-AI אחראי

חברת אנתרופיק (Anthropic) הודיעה על עדכון משמעותי במדיניות השימוש במוצריה, שתכנס לתוקף ב-6 ביוני 2024. המדיניות החדשה, שנקראה בעבר "מדיניות שימוש קבילה" (Acceptable Use Policy), תשנה את שמה ל-"מדיניות שימוש" (Usage Policy) ותתמקד בבהירות ובאחריות. העדכונים נועדו ליישר קו עם התפתחויות רגולטוריות, יכולות המודלים המתקדמות וצרכי המשתמשים, תוך שימת דגש על איחוד כללי השימוש, הגברת הבטיחות בשימושים בסיכון גבוה והגנה על פרטיות, לצד הרחבת הגישה למוצרים עבור קטינים ורשויות אכיפת חוק, בכפוף למנגנוני הגנה מחמירים.

קרא עוד

מחקר26 באפריל 2024

אנתרופיק חושפת תובנות ממעבדת המחקר: הצצה נדירה לליבת בטיחות ה-AI

חברת אנתרופיק (Anthropic), הנחשבת למובילה בתחום בטיחות ופרשנות ה-AI, פרסמה עדכון מיוחד מ"מעבדת המעגלים" שלה (Circuits Updates). העדכון, הכולל רעיונות מתפתחים וממצאים ראשוניים מצוות הפרשנות, מאפשר הצצה נדירה למאחורי הקלעים של המחקר המתקדם במטרה להבין ולשלוט במודלי שפה גדולים. לצד זאת, החברה שיתפה ממצאים מדד הכלכלה שלה והשיקה בלוג מדעי חדש, המעידים על גישתה המקיפה לפיתוח בינה מלאכותית אחראית ובת קיימא.

קרא עוד

בטיחות23 באפריל 2024

אנתרופיק וחברות AI מובילות מתחייבות לבטיחות ילדים ברשת

חברת אנתרופיק, יחד עם חברות AI מובילות נוספות, הודיעה על מחויבותה העמוקה ליישום אמצעי בטיחות חזקים להגנה על ילדים, כחלק מפיתוח, פריסה ותחזוקה של טכנולוגיות AI יוצרות (גנרטיביות). היוזמה החדשה, בהובלת ארגוני Thorn ו-All Tech Is Human, נועדה לצמצם את הסיכונים ש-AI מציב בפני ילדים, ובמיוחד למנוע יצירה או הפצה של חומרים פוגעניים (AIG-CSAM) דרך מודלי בינה מלאכותית.

קרא עוד

שותפויות20 במרץ 2024

שיתוף פעולה אסטרטגי: אנתרופיק, AWS ואקסנצ'ר משלבות כוחות ל-AI אמין בארגונים

אנתרופיק (Anthropic), ספקית מודלי ה-AI המובילה, הודיעה על שיתוף פעולה אסטרטגי עם AWS ואקסנצ'ר (Accenture) במטרה לספק פתרונות AI יוצר אמינים ובטוחים לארגונים. המיקוד הוא במגזרים מפוקחים הדורשים דיוק, אמינות ואבטחת מידע קפדנית. במסגרת השותפות, מעל 1,400 מהנדסי אקסנצ'ר יעברו הכשרה מקיפה במודלים של אנתרופיק על גבי תשתית AWS, ויסייעו ללקוחות ליישם אסטרטגיות AI מקצה לקצה – החל מכוונון עדין של מודלים וכלה בפריסה באמצעות Amazon Bedrock. שיתוף הפעולה יאיץ את אימוץ מערכות AI מתקדמות תוך שמירה על גישה ממוקדת אדם.

קרא עוד