ANTHROPIC IL
ניוזלטרמדד כלכליטיפיםהנדסה באנתרופיקמחקרמודליםחדשותראשי
ANTHROPIC IL

הקהילה הישראלית של Anthropic. חדשות, מחקרים, מדריכים ועדכונים על Claude ועל כלי ה-AI של אנתרופיק - בעברית.

RSS support@anthropic-il.co.il

הישארו מעודכנים

הצטרפו לניוזלטר השבועי וקבלו את כל העדכונים החמים מעולם ה-AI ישירות למייל.

מדורים

  • חדשות
  • מחקר
  • הנדסה
  • כלכלה
  • טיפים וטריקים
  • קהילה
  • ניוזלטר
  • חיפוש

משפחת Claude

  • Claude Code (קלוד קוד)
  • Claude - סקירה
  • Claude Sonnet
  • Claude Opus
  • Claude Haiku

נושאים חמים

  • בינה מלאכותית
  • מודלי שפה
  • LLMs
  • Anthropic API
  • סוכני AI
  • קידוד סוכני
  • מודלי חזית

מחקר ובטיחות

  • בטיחות AI
  • AI אחראי
  • מחקר AI
  • פרשנות מודלים
  • יישור (Alignment)
  • Red Teaming
  • מדיניות ורגולציה

אתרי אחות

  • קלודLEARN - לימוד
  • מבוא ל-LLMs
  • הזיות בקלוד
  • פרומפט ראשון
מדיניות פרטיות·תנאי שימוש·צור קשר
כל הזכויות שמורות Anthropic IL © 2026
אנתרופיק | אנטרופיק ישראל | אנטרופיק בעברית | Anthropic Israel

אתר קהילתי בלתי רשמי - אתר זה אינו קשור, מאושר או מופעל על ידי חברת Anthropic, PBC. התכנים מתורגמים באופן אוטומטי מ-anthropic.com ועשויים להכיל אי-דיוקים. כל הסימנים המסחריים הם רכוש בעליהם.

ראשי/הזרקת פרומפטים

הזרקת פרומפטים

2 כתבות בנושא זה

אנתרופיק חושפת שיפורים משמעותיים בהגנה מפני הזרקות פרומפטים בשימוש בדפדפן
מחקר24 בנובמבר 2025

אנתרופיק חושפת שיפורים משמעותיים בהגנה מפני הזרקות פרומפטים בשימוש בדפדפן

אנתרופיק, חברת מחקר ובטיחות AI מובילה, מציגה את מודל Claude Opus 4.5, המציע עמידות משופרת באופן משמעותי בפני התקפות הזרקת פרומפטים. שיפורים אלו קריטיים במיוחד עבור סוכני AI הפועלים בסביבת דפדפן, שם הם חשופים לסיכונים רבים של הוראות זדוניות. למרות ההתקדמות המרשימה, החברה מדגישה כי האתגר טרם נפתר במלואו, אך הוביל להרחבת זמינות תוסף Claude for Chrome לשלב הבטא עבור כלל מנויי ה-Max.

קרא עוד
Claude Code משיק מצב אוטומטי: פחות אישורים, יותר בטיחות
הנדסה22 באפריל 2025

Claude Code משיק מצב אוטומטי: פחות אישורים, יותר בטיחות

אנתרופיק משיקה מצב אוטומטי חדש עבור Claude Code, שמטרתו לפתור את "עייפות האישורים" הנגרמת מבקשות אישור חוזרות ונשנות. המצב החדש, המבוסס על מסווגים מתקדמים מבוססי מודל, מציע פשרה בטוחה בין אישור ידני לבין היעדר מוחלט של מנגנוני הגנה. הוא משלב שתי שכבות הגנה ייחודיות – אחת בשכבת הקלט לזיהוי הזרקות פרומפטים, ואחת בשכבת הפלט לחסימת פעולות מסוכנות שאינן תואמות את כוונת המשתמש. מנגנון זה נועד להתמודד עם התנהגויות סוכני כוזבות כמו נלהבות יתר על המידה וטעויות כנות, תוך שיפור יעילות העבודה ובטיחות המשתמשים.

קרא עוד