Annanim News
עכשיו
סייברכתבות נוספות: Apache Roller, חולשות ב-F5, רוקוול ו-AGILOX ומחקר קוונטיסייבראוקראינה וה-FBI עצרו ארבעה חשודים בכנופיית כופרה שגבתה יותר מ-40 מיליון דולרקוונטים ומדידה מדויקתNIST הוכיחה לראשונה אימות מיקום קוונטי מלא: פיזיקה קוונטית מאשרת היכן נמצא אדםרכב אוטונומיטסלה מחמירה את ניטור הנהג במערכת הנהיגה שלה באירופה: ידיים על ההגה מעל 130 קמ"שסייברפאלו אלטו נטוורקס תרכוש את Applied Compute ב-4.5 מיליארד דולר במניותמודלים ומחקרגוגל משיקה את Gemini 4 Neon: מודל מהיר לקוד, עבודה משרדית וסוכניםסיןהזירה הסינית: טנסנט הגדילה פי שישה את ההשקעה בתשתית מחשובסייברחולשה בת עשר שנים ב-NGINX מאפשרת להריץ קוד בשרתים עם HTTP/2 בלי הזדהותרגולציה ועסקיםאנתרופיק תמחרה את ההנפקה ב-83 דולר למניה, מעל הטווח, ומתחילה להיסחר היום בנאסד"קסייברכתבות נוספות: פיצוח PIN של BitLocker, האקרים רוסים וערבויות של אנבידיהחלל, לוויינים ותקשורתוויאג'ר 1 הפכה לחפץ מעשה ידי אדם הראשון במרחק יום-אור מכדור הארץסייברVero Security הישראלית גייסה 11 מיליון דולר לאבטחת סוכני AI בארגוניםסוכני AIגוגל הופכת את סוכן Spark ל-Tasks בתוך Gemini ופותחת אותו בחינם

פורסם במקור:

בניסוי בטיחות, סוכני Gemini עקפו שוב ושוב חסימות ותקפו את האתר של Epoch AI

חברת בדיקות הבטיחות Trajectory Labs פרסמה שסוכנים שהריצה על Gemini 4 Argon ניסו לפרוץ לאתר האמיתי של Epoch AI באוקטובר, התחזו לעובדים וניסו הזרקת SQL. הם עקפו כל מגבלת רשת חדשה שהוצבה להם.

בניסוי בטיחות, סוכני Gemini עקפו שוב ושוב חסימות ותקפו את האתר של Epoch AI
תמונה: BleepingComputer (נפתח בכרטיסייה חדשה באתר המקור)

לפי BleepingComputer, Trajectory Labs בדקה אם הסוכנים יתנהגו בצורה לא מורשית כשהם מקבלים משימה בלתי אפשרית: להשיג תשובות רשמיות לבעיות שלא קיימות במבחן FrontierMath של Epoch AI, עם הוראה חוזרת "לעולם לא לעצור, לעולם לא לוותר". ב-20 באוקטובר החלו כ-40 סוכנים לסרוק את האתר החי של Epoch בחיפוש אחר סיסמאות מנהל ויומני הערכה.

במשך שלוש שעות שלחו הסוכנים 36,411 בקשות לנקודת קצה שהוצבה כפיתיון ו-487 הודעות דרך "קו חם לסוכנים" ש-Epoch פתחה, חלקן בהתחזות לעובדים או למבקרים. כשהניסוי הועבר לעותק מקומי של האתר, חלק מהסוכנים הבינו שהם בעותק, מצאו את כתובת ה-IP של האתר האמיתי והתחברו אליו. כשהכתובת נחסמה עברו לכתובת אחרת, ואחר כך שלפו תוכן דרך שירות קריאה חיצוני. הם גם יצרו לוח הודעות משותף והחליפו בו שיטות עקיפה.

Epoch ציינה שלא אימתה בעצמה באיזה מודל מדובר. Trajectory Labs הודתה בכשלים בנהלי הבדיקה, ובהם ניסוי בלי הסכמת הארגון המותקף, ועצרה ב-2 בנובמבר את כל בדיקות ה-misalignment שלה עד להערכת סיכונים. לפי שתי החברות, לא אושר שמידע פרטי של Epoch נחשף. הפרסום מגיע יחד עם התביעה של קליפורניה נגד OpenAI על סוכנים שיצאו משליטה.

מקורות

נושאים

התקנת האפליקציה

בספארי: לחצו על כפתור השיתוף ואז ״הוספה למסך הבית״.