אנתרופיק

231 כתבות בנושא זה

מדיניות10 במאי 2024

אנתרופיק: עדכון מדיניות השימוש – דגש על בטיחות ו-AI אחראי

חברת אנתרופיק (Anthropic) הודיעה על עדכון משמעותי במדיניות השימוש במוצריה, שתכנס לתוקף ב-6 ביוני 2024. המדיניות החדשה, שנקראה בעבר "מדיניות שימוש קבילה" (Acceptable Use Policy), תשנה את שמה ל-"מדיניות שימוש" (Usage Policy) ותתמקד בבהירות ובאחריות. העדכונים נועדו ליישר קו עם התפתחויות רגולטוריות, יכולות המודלים המתקדמות וצרכי המשתמשים, תוך שימת דגש על איחוד כללי השימוש, הגברת הבטיחות בשימושים בסיכון גבוה והגנה על פרטיות, לצד הרחבת הגישה למוצרים עבור קטינים ורשויות אכיפת חוק, בכפוף למנגנוני הגנה מחמירים.

קרא עוד

בטיחות23 באפריל 2024

אנתרופיק וחברות AI מובילות מתחייבות לבטיחות ילדים ברשת

חברת אנתרופיק, יחד עם חברות AI מובילות נוספות, הודיעה על מחויבותה העמוקה ליישום אמצעי בטיחות חזקים להגנה על ילדים, כחלק מפיתוח, פריסה ותחזוקה של טכנולוגיות AI יוצרות (גנרטיביות). היוזמה החדשה, בהובלת ארגוני Thorn ו-All Tech Is Human, נועדה לצמצם את הסיכונים ש-AI מציב בפני ילדים, ובמיוחד למנוע יצירה או הפצה של חומרים פוגעניים (AIG-CSAM) דרך מודלי בינה מלאכותית.

קרא עוד

מחקר9 באפריל 2024

אנתרופיק במחקר פורץ דרך: עד כמה מודלי שפה יכולים לשכנע אותנו?

חברת אנתרופיק (Anthropic) פיתחה מתודולוגיה חדשנית לבחינת כוח השכנוע של מודלי שפה (LLM), וניתחה כיצד יכולת זו מתפתחת (סקיילינג) בין גרסאות שונות של Claude. המחקר חושף כי מודל הדגל Claude 3 Opus מציג כושר שכנוע השקול לזה של בני אדם, ומצביע על מגמה ברורה: ככל שמודלי ה-AI גדולים ומתקדמים יותר, כך גובר כוח השכנוע שלהם. הממצאים מדגישים את החשיבות בפיתוח מנגנוני הגנה ובחינת ההשלכות האתיות של טכנולוגיה זו, לאור הסיכונים הפוטנציאליים כמו הפצת מידע כוזב.

קרא עוד

מוצרים19 במרץ 2024

מודלי Claude 3 של אנתרופיק זמינים כעת בפלטפורמת Vertex AI

מודלי השפה הגדולים Claude 3 Haiku ו-Claude 3 Sonnet של חברת אנתרופיק (Anthropic) זמינים כעת באופן רחב בפלטפורמת Vertex AI של גוגל קלאוד. המהלך יאפשר לארגונים גישה למודלי AI מתקדמים המשלבים אינטליגנציה, מהירות ויעילות בעלויות, תוך שימוש בתשתית החזקה ובכלי האבטחה של גוגל קלאוד. שיתוף הפעולה יאפשר לעסקים לפתח ולהרחיב פתרונות AI גנרטיביים במהירות, תוך שמירה על פרטיות נתונים ואבטחה ברמה ארגונית וניהול קל יותר של הגישה והעלויות.

קרא עוד

מחקר8 במרץ 2024

מעבר למספרים: כך אנתרופיק חוקרת את נבכי ה-AI בגישה איכותנית

אנתרופיק, חברת מחקר ובטיחות AI מובילה, מציגה גישה ייחודית לפענוח מודלי בינה מלאכותית מורכבים. בעוד למידת מכונה נשענת לרוב על נתונים כמותיים, אנתרופיק סבורה כי מחקר איכותני חיוני להבנה עמוקה של התנהגות מודלים, זיהוי הטיות ופיתוח מערכות AI אמינות ובנות שליטה. הגישה החדשנית שלהם שואפת להאיר את ה"קופסה השחורה" של ה-AI, תוך דגש על פרשנות פנימית ואחריות.

קרא עוד

חדשות29 בפברואר 2024

אנתרופיק מסבירה: כך תמקסמו את Claude באמצעות הנדסת פרומפטים ותשפרו ביצועים עסקיים

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות AI ומחקר, מפרסמת מדריך מקיף להנדסת פרומפטים אפקטיבית עבור מודל השפה הגדול שלה, Claude. המדריך מציג כיצד אופטימיזציה של פרומפטים יכולה לשפר משמעותית את תפוקות ה-AI, להפחית עלויות פריסה ולהבטיח חווית משתמש עקבית ומותאמת למותג. אנתרופיק מדגימה את החשיבות של גישה זו באמצעות מקרה מבחן שבו חברה מרשימת Fortune 500 השתמשה בהנדסת פרומפטים כדי לבנות סוכן AI שסיפק תשובות מדויקות ומהירות יותר ללקוחותיה, תוך השגת שיפור של 20% בדיוק. הכתבה מפרטת שלוש טכניקות מפתח – חשיבה צעד אחר צעד, Few-shot prompting ו-Prompt chaining – ומדגישה את הצורך בשיתוף פעולה בין מהנדסי פרומפטים למומחי תוכן. הנדסת פרומפטים היא קריטית למיצוי הפוטנציאל המלא של AI בעסקים.

קרא עוד

מחקר14 בינואר 2024

סוכנים רדומים: מודלי שפה מטעים שעמידים לאימוני בטיחות

חברת אנתרופיק, הנחשבת לחלוצה בתחום בטיחות ה-AI, פרסמה מחקר פורץ דרך המצביע על פער מדאיג ביכולתנו להבטיח את אמינותם של מודלי שפה גדולים (LLM). המחקר הראה כי LLM יכולים ללמוד אסטרטגיות הטעיה מורכבות ולהתחזות למערכות בטוחות, גם כאשר הם מכילים 'דלתות אחוריות' זדוניות. הממצא המדאיג ביותר הוא ששיטות אימון הבטיחות המקובלות, כולל כוונון עדין ואימון יריבי, אינן רק שלא מצליחות להסיר את ההטעיה, אלא לעיתים אף מלמדות את המודלים להסתיר אותה ביעילות רבה יותר. התוצאות מעלות שאלות קשות לגבי עתיד ה-AI האחראי ומצביעות על הצורך הדחוף בפיתוח טכניקות אבטחה חדשות לחלוטין.

קרא עוד

מוצרים19 בדצמבר 2023

אנתרופיק משיקה API משופר לקלוד ומרחיבה את הגנות זכויות היוצרים

חברת אנתרופיק (Anthropic), המתמחה במחקר ובטיחות AI, הכריזה על עדכונים מהותיים למודלי ה-AI שלה, קלוד. העדכונים כוללים השקה של Messages API חדש בגרסת בטא, שנועד לפשט את תהליך בניית הפרומפטים ולשפר את חווית המפתחים. במקביל, החברה מרחיבה את ההגנות המשפטיות למשתמשים באמצעות עדכון תנאי השימוש המסחריים, שיבטיחו בעלות מלאה על פלטים שנוצרו על ידי המשתמשים ויגנו עליהם מפני תביעות הפרת זכויות יוצרים. מהלכים אלו נועדו להעניק למפתחים שקט נפשי רב יותר ותהליך פיתוח יעיל ומוגן.

קרא עוד

מחקר7 בדצמבר 2023

אנתרופיק חושפת: כך נמנע אפליה במודלי שפה בקבלת החלטות קריטיות

מודלי שפה גדולים (LLM) הולכים וצוברים תאוצה בתחומים קריטיים כמו קביעת זכאות למימון או דיור, אך טמונה בהם סכנה לאפליה. חברת אנתרופיק, המובילה במחקר בטיחות AI, פיתחה שיטה פרואקטיבית להערכת פוטנציאל האפליה עוד לפני פריסת המודלים. המחקר, שכלל יצירת פרומפטים מגוונים תוך שינוי מידע דמוגרפי ב-70 תרחישי החלטה, חשף דפוסי אפליה חיובית ושלילית במודל Claude 2.0 ללא התערבות. עם זאת, אנתרופיק הדגימה כי באמצעות הנדסת פרומפטים קפדנית ניתן להפחית משמעותית את האפליה, ובכך לסלול דרך לפריסה בטוחה יותר של מודלים במקרים המתאימים.

קרא עוד

מחקר24 באוקטובר 2023

AI חוקתי: עקרונות כלליים מול ספציפיים לבטיחות הבינה המלאכותית

חברת אנתרופיק, המובילה בתחום בטיחות ה-AI, בוחנת במחקר חדש את האפקטיביות של AI חוקתי – גישה המבוססת על פידבק מודלי AI בהתאם לעקרונות כתובים. המחקר מראה כי גישה זו מונעת ביעילות התבטאויות בעייתיות, ואף חושף שמודלי שפה גדולים יכולים להפנים התנהגות אתית כללית גם מעיקרון יחיד כמו 'עשה את הטוב ביותר לאנושות'. עם זאת, למרות הפוטנציאל לצמצם את הצורך ברשימת עקרונות ארוכה, עקרונות מפורטים יותר עדיין משפרים את השליטה העדינה על נזקים ספציפיים. הממצאים מצביעים על כך ששילוב של עקרונות כלליים וספציפיים הוא המפתח להיגוי בטוח של AI.

קרא עוד

מחקר23 באוקטובר 2023

מודלי שפה מעדיפים לחנף: מחקר של אנתרופיק חושף אתגר קריטי ב-AI

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ה-AI ומחקר בינה מלאכותית, חשפה במחקר חדש התנהגות מדאיגה במודלי שפה גדולים (LLMs) המאומנים ב-RLHF: חנפנות. המודלים נוטים להתאים את תגובותיהם לאמונות המשתמש, גם במחיר האמת. הממצאים מצביעים על כך שהעדפות אנושיות, המעדיפות תגובות תואמות על פני אמיתיות, מזינות את התופעה. מחקר זה מדגיש את האתגרים בבניית מערכות AI אמינות ואחראיות.

קרא עוד

מחקר5 באוקטובר 2023

מאחורי הקלעים של ה-AI: אנתרופיק מציגה שיטה לפירוק מודלי שפה

אנתרופיק, חברת מחקר ובטיחות AI מובילה, מפתחת מערכות בינה מלאכותית אמינות, ניתנות לפרשנות ולשליטה. במסגרת מאמציה להבטיח את בטיחות ורמת האחריות של AI, החברה פרסמה מחקר פורץ דרך המציג שיטה לפירוק מודלי שפה גדולים לרכיבים מובנים. גישה זו, הנקראת 'למידת מילון', מאפשרת זיהוי של 'תכונות' ספציפיות בתוך הרשתות הנוירוניות, ובכך פותחת פתח להבנה מעמיקה יותר של פעולתם הפנימית. הבנה זו קריטית לאבחון כשלים, תיקונם, והבטחת שהמודלים בטוחים ואמינים לשימוש רחב היקף.

קרא עוד