AI אחראי

99 כתבות בנושא זה

בטיחות25 באוגוסט 2026

אנתרופיק תשקיע בבחינת השפעת AI על רווחת משתמשים

חברת אנתרופיק משיקה תוכנית מענקים בהיקף 5 מיליון דולר לקידום מחקר עצמאי שיבחן את השפעת הבינה המלאכותית על רווחתם הנפשית של משתמשים. במסגרת התוכנית, יקבלו החוקרים מימון, גישה למודלים של החברה ותמיכה טכנית לפיתוח כלי הערכה בקוד פתוח. המטרה היא לגבש סטנדרטים ברורים לבחינת האופן שבו מודלי AI מתנהגים בהקשרים רגישים, כמו תמיכה רגשית או סיוע במשברי בריאות הנפש, ולאפשר למגוון רחב של מומחים, כולל קלינאים ופסיכולוגים, לתרום את מומחיותם לתחום קריטי זה.

קרא עוד

בטיחות14 באוגוסט 2026

אנתרופיק: כך עובד סימן המים הסמוי בטקסט של קלוד

אנתרופיק (Anthropic) הודיעה כי מודלי קלוד (Claude) העתידיים ייצרו טקסטים עם סימני מים בלתי נראים, כחלק מדרישות חוק ה-AI של האיחוד האירופי. סימון זה יאפשר לקבוע את הסבירות שקלוד היה מעורב בכתיבת הטקסט, אך החברה מדגישה כי הוא אינו פוגע באיכות או בתוכן, אינו ניתן לזיהוי אנושי, ואין לו השפעה על מהירות או עלות המודל. בנוסף, לא ניתן לייחס את סימן המים למשתמש ספציפי, ופלטפורמות AI מובילות אחרות צפויות ליישם מנגנונים דומים.

קרא עוד

מדיניות4 באוגוסט 2026

טינו קואלר יצטרף לאנתרופיק כסמנכ"ל לעניינים גלובליים

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות ומחקר ה-AI, הודיעה על מינויו של מריאנו-פלורנטינו (טינו) קואלר (Mariano-Florentino (Tino) Cuéllar) לתפקיד סמנכ"ל לעניינים גלובליים, הראשון בחברה. קואלר, בעל ניסיון עשיר בממשל, משפט, טכנולוגיה וביטחון בינלאומי, יוביל את מדיניות החברה, את קשריה הבינלאומיים ואת מערכות היחסים עם ממשלות ברחבי העולם. מינוי זה מגיע בתקופה קריטית בה עיצוב עתיד ה-AI נמצא על סדר היום העולמי, ואנתרופיק שואפת להבטיח שהטכנולוגיה תפותח ותנוהל על ידי חברות דמוקרטיות באופן אחראי. תפקידו יכלול יצירת שיתופי פעולה עם מנהיגים וקבוצות קהילתיות כדי למצות את ההזדמנויות ולמזער את הסיכונים של AI מתקדם.

קרא עוד

בטיחות27 ביולי 2026

דריו אמודאי מאנתרופיק: עמדתנו על מודלי קוד פתוח

דריו אמודאי (Dario Amodei), מנכ"ל אנתרופיק (Anthropic), מבהיר כי החברה מעולם לא תמכה באיסור על מודלי קוד פתוח (open-weights models), ומדגיש את ערכם כנכס ציבורי כשהם בטוחים. במאמר חדש, אמודאי מציג את חששותיה העיקריים של אנתרופיק: התפתחות יכולות AI מתקדמות בידי ממשלות אוטוריטריות ושימוש לרעה במודלי AI חזקים להתקפות סייבר או ביולוגיות. במקום איסורים גורפים, הוא תומך בהגבלת מכירת שבבים למדינות מסוימות, מאבק בפעולות Distillation בקנה מידה תעשייתי, ובדיקות בטיחות חובה לכל המודלים המסוגלים, פתוחים וסגורים כאחד.

קרא עוד

מדיניות9 ביולי 2026

בן ברננקי מצטרף לקרן הנאמנות לטווח ארוך של אנתרופיק

אנתרופיק, חברת מחקר ו-AI המתמקדת בבטיחות, הודיעה על מינויו של ד"ר בן ברננקי (Ben Bernanke), לשעבר יו"ר הפדרל ריזרב וחתן פרס נובל, לקרן הנאמנות שלה לטווח ארוך (LTBT). צירופו של ברננקי, המביא עמו ניסיון עשיר בכלכלה עולמית, נועד לחזק את הפיקוח על פיתוח ה-AI האחראי של החברה ואת הבנת ההשלכות הכלכליות של הטכנולוגיה. המהלך מדגיש את המבנה הניהולי הייחודי של אנתרופיק, שנועד להבטיח איזון בין הצלחה מסחרית לתועלת ציבורית ארוכת טווח.

קרא עוד

מדיניות6 ביולי 2026

ממשלת אלברטה משתמשת בקלוד לתיקון פרצות אבטחה קריטיות

ממשלת אלברטה בקנדה מציגה מהפכה באבטחת סייבר באמצעות שימוש במודלי Claude Opus ו-Sonnet של Anthropic. הצוות הטכנולוגי סרק 466 מיליון שורות קוד ב-20 שעות בלבד, איתר ותיקן אלפי פרצות אבטחה במערכות ממשלתיות מיושנות, תוך חיסכון של שנים רבות של עבודה ידנית. המהלך לא רק חיזק את האבטחה אלא גם תוכנן להפוך למודל לפיקוח מתמשך ולמודרניזציה בקנה מידה רחב עבור ממשלות אחרות ברחבי העולם, תוך שימוש בסוכני AI לבנייה מחדש של יישומים.

קרא עוד

בטיחות2 ביולי 2026

אנתרופיק חושפת: פרטים על מנגנוני ההגנה של Fable 5 ומסגרת פריצת מגבלות AI

אנתרופיק (Anthropic) מפרסמת פרטים נוספים אודות מנגנוני ההגנה שלה מפני סיכוני סייבר במודל Fable 5, בדגש על מסווגי הבטיחות (safety classifiers) הקובעים אילו פעולות חסומות ואילו מותרות. במקביל, החברה חושפת טיוטה ראשונית למסגרת הערכת חומרת פריצות המגבלות (jailbreaks) במודלי AI. מטרת המסגרת היא ליצור שפה אחידה לתקשורת בין מפתחי AI לממשלות בנוגע לסיכוני אבטחה, ולאפשר הגנה טובה יותר מפני ניצול לרעה של יכולות המודלים, תוך כדי התרת שימושים לגיטימיים.

קרא עוד

בטיחות12 ביוני 2026

אנתרופיק חושפת: סקר ענק על עמדות הציבור בארה"ב כלפי AI

אנתרופיק (Anthropic) מפרסמת את הממצאים הראשונים מסקר ה-Anthropic Public Record, מחקר מקיף שבוחן את עמדות הציבור האמריקאי כלפי בינה מלאכותית. הסקר, שנערך בקרב כ-52 אלף אזרחים, חושף כי בעוד שהתקוות העיקריות מ-AI נוגעות לריפוי מחלות ועזרה לבעלי מוגבלויות, החשש הגדול ביותר הוא מאובדן מקומות עבודה. הממצאים מראים תמיכה רחבה בהתערבות ממשלתית בפיקוח על AI, לצד אמון נמוך בחברות ה-AI עצמן בקבלת החלטות לגבי פיתוח הטכנולוגיה.

קרא עוד

חדשות27 במאי 2026

אנתרופיק פותחת משרד במילאנו: תמיכה בעסקים, מחקר ומפתחים באיטליה

חברת אנתרופיק (Anthropic) ממשיכה להרחיב את נוכחותה באירופה ופותחת משרד חדש במילאנו, איטליה – המשרד השישי שלה ביבשת. המהלך נועד לחזק את הקשר עם חברות, מפתחים ומוסדות מחקר איטלקיים, ולסייע להם להטמיע את מודלי ה-AI של החברה, ובראשם קלוד (Claude), בצורה אחראית. המשרד יתמוך בחברות מובילות במגוון סקטורים, מסייע להן להאיץ תהליכי קידוד ופיתוח, וכן יקדם שיח אודות עתיד הבינה המלאכותית מחוץ למגזר הטכנוולוגי.

קרא עוד

מחקר27 במאי 2026

סוכני קידוד ובינה מלאכותית: מה חושבים חוקרי מדעי החברה?

מחקר חדש של אנתרופיק, המבוסס על סקר בקרב 1,260 חוקרי מדעי החברה, חושף כיצד סוכני קידוד ובינה מלאכותית משנים את עולם המחקר. בעוד שרוב עצום (81%) התנסו בצ'אטבוטים של AI לעזרת מחקר, בעיקר לכתיבת קוד ועריכת טקסט, רק כ-20% אימצו בפועל סוכני קידוד מתקדמים כמו Claude Code. הסקר מצביע על פערי אימוץ משמעותיים בין קבוצות שונות, כאשר גברים וחוקרים מאוניברסיטאות מובילות מובילים באימוץ. עוד נמצא כי משתמשי סוכני קידוד מפרסמים יותר Working Papers ומגישים יותר בקשות למענקים, אך לא מגישים יותר מאמרים לכתבי עת – מה שמעלה שאלות לגבי פרודוקטיביות מיידית לעומת ארוכת טווח.

קרא עוד

בטיחות19 במאי 2026

אנתרופיק מרחיבה את השיח על מודלי AI חזיתיים עם קהילות מגוונות

חברת אנתרופיק, הפועלת בתחום בטיחות ומחקר ה-AI, שמה לה למטרה לבנות מערכות בינה מלאכותית מועילות, אמינות וניתנות לניווט. במסגרת מאמציה להרחיב את השיח על מודלי AI חזיתיים, היא יזמה סדרת דיאלוגים עם נציגי 'מסורות חוכמה' – לרבות חוקרים, אנשי דת, פילוסופים ואתיקנים. מטרת השיחות היא לקבל תובנות מעמיקות שישמשו לעיצוב ה'גיבוש המוסרי' של מודל קלוד, לחוקה שלו, ליישור הערכים ולאופן שבו מערכות AI משפיעות על החברה. המהלך נועד להבטיח את פיתוחם של מודלים בעלי אופי טוב ועמידות בפני לחצים.

קרא עוד

חדשות19 במאי 2026

KPMG משלבת את קלוד בכלל פעילותה ול-276,000 עובדיה

חברת הייעוץ הבינלאומית KPMG הודיעה על שיתוף פעולה אסטרטגי גלובלי עם אנתרופיק (Anthropic) לשילוב מודל ה-AI קלוד (Claude) בליבת עסקיה. במסגרת ההסכם, קלוד יוטמע בפלטפורמת Digital Gateway של KPMG וישמש ליישומים קריטיים בתחומי מס ומשפטים, כמו גם ככלי עבודה זמין לכל 276,000 עובדי החברה ברחבי העולם. השותפות, המדגישה את מחויבותן של שתי החברות ל-AI אחראי, תכלול גם פיתוח מוצרים חדשים מבוססי קלוד עבור חברות פורטפוליו של קרנות השקעה פרטיות ושימוש ב-AI לזיהוי ותיקון פגיעויות אבטחת סייבר, תוך שיפור דרמטי ביעילות תהליכי עבודה.

קרא עוד