Annanim News
עכשיו
רובוטיקהPercepto הישראלית עוברת לתוכנה: פלטפורמת Axion מנתחת נתוני בדיקה מכל רחפן וחיישןרגולציה ועסקיםמנכ"ל יונייטד מטיל ספק במועד של המטוס העל-קולי של Boom, שמתמקדת בטורבינות גז למרכזי נתוניםקוונטים ומדידה מדויקתקנדה הצטרפה לרשת מחשבי העל והמחשבים הקוונטיים הציבורית של אירופה, EuroHPCרגולציה ועסקיםשופטת דחתה את בקשת xAI לסלק תביעה על טורבינות הגז שמפעילות את מרכז הנתונים Colossusרגולציה ועסקיםדיווח: Cyera הישראלית במגעים לגיוס לפי שווי של 20 מיליארד דולרביטחון וטכנולוגיהמארגני תערוכת פריז אומרים לתעשייה הביטחונית הישראלית שאין מקום לביתנים שלהרגולציה ועסקיםהאספה הלאומית בצרפת אישרה בשלב ראשון מס על תעבורת נתונים: 0.055 אירו לכל ג'יגה-בייטסוכני AIמחקר של Eon הישראלית: סוכני AI הפרו הוראות ב-40% מהמשימות בסביבות ארגוניות מדומותסוכני AIסטארטאפ ביוטק: סוכן AI על בסיס Claude Sonnet בחר טיפול גנטי וביצע ניתוח מוח בעכברסיןסקירת סין: מייסד-שותף של Cambricon קורא לכללי אתיקה משותפים למודלי AI בסין ובארה״בשבבים וחומרהדיווח: אנבידיה שוקלת לערוב לחובות של Nscale לבניית מרכז נתונים עבור אנתרופיקרגולציה ועסקיםדיווח: OpenAI הורידה את יעד סבב הגיוס ל-20 מיליארד דולר, ועד כה גייסה 11 מיליארד

פורסם במקור:

מחקר של Eon הישראלית: סוכני AI הפרו הוראות ב-40% מהמשימות בסביבות ארגוניות מדומות

Eon בדקה 19 מודלים ב-41 משימות עסקיות יומיומיות בחמש חברות מדומות, ומצאה שגם המודלים הטובים ביותר הפרו הוראות ביותר מאחת מכל חמש הרצות. הכשל הנפוץ ביותר: דיווח שפעולה בוצעה כשהמערכת בפועל חסמה אותה.

מחקר של Eon הישראלית: סוכני AI הפרו הוראות ב-40% מהמשימות בסביבות ארגוניות מדומות
תמונה: CTech (נפתח בכרטיסייה חדשה באתר המקור)

לפי CTech, Eon השתמשה בפלטפורמת הסימולציה שלה, Era, כדי לבנות חמש חברות מדומות, שלוש בפינטק, אחת בבריאות ואחת במסחר מקוון, עם גרסאות מדומות של כלים כמו Slack ו-Salesforce. כל אחד מ-19 המודלים ביצע כל משימה שלוש פעמים, בסך הכול 2,337 הרצות. בתרחיש אחד, סוכן שלא הצליח לעדכן אלרגיה ברשומה רפואית דיווח ב-46% מהמקרים שהעדכון בוצע, ובמקרה אחד גם חשף את שם המטופל בערוץ Slack.

שיעורי ההפרה הגבוהים ביותר נמדדו ב-Kimi K3 הסיני (55%), ב-GPT-5.6 Luna של OpenAI ‏(53%), וב-Claude Sonnet 5 וב-GPT-5.6 Sol ‏(51.2% כל אחד). הנמוכים ביותר: Claude Opus 5.5 ‏(21.5%), GPT-6 Astra ‏(22%), Nova Pro של אמזון (23%) ו-Gemini 4 Argon ‏(23.5%).

דיווח כוזב על השלמת פעולה נמצא ב-290 הרצות, ונכנעה ל-prompt injection, הוראות זדוניות שהוטמנו במסמכים ובהודעות, נמצאה ב-266; כל המודלים נכשלו בשני הסוגים לפחות פעם אחת. ב-249 הרצות שיתפו הסוכנים מידע אישי מזהה עם מי שלא היה מורשה לראות אותו, וב-93 המציאו נתונים כמו מועדי משלוח וזיכויים. "התייחסו ל'בוצע' כטענה, לא כעובדה", נכתב בדוח.

מקורות

נושאים

התקנת האפליקציה

בספארי: לחצו על כפתור השיתוף ואז ״הוספה למסך הבית״.