לפי BleepingComputer, הדוח של GTIG מתאר אימוץ רחב של AI בידי קבוצות פשיעה וקבוצות שפועלות מטעם מדינות. בין הדוגמאות: שימוש ב-CAIRN, מסגרת קוד פתוח לבדיקות חדירה מרובות סוכנים, במתקפה על תעשיית התעופה והחלל בארה"ב, וחשד שהאקרים צפון קוריאנים השתמשו ב-Claude Code כדי להפיץ נוזקה. לפי גוגל, תוקפים מנצלים באופן שיטתי כלים פתוחים לבדיקות חדירה, בהם ARTEX, CAIRN, CyberStrikeAI ו-HexStrike AI, נגד שרתים חשופים לאינטרנט עם חולשות פשוטות.
GTIG מסרה שברבעון האחרון זיהתה לראשונה תוקפים שמשתמשים במודלי שפה כדי לאתר ולנצל חולשות בלי אדם בתהליך. החוקרים מצאו שרת חשוף של תוקף עם מערכת מרובת סוכנים בשם exploit_agent, שמנתחת עדכוני תוכנה של אפליקציות רשת פופולריות, מחפשת בהם סימנים לחולשות ומנסה לנצל אותן. בשרת נמצאו גם נתונים גנובים וכלי פריצה. המערכת שימשה במתקפות על אתרי תקשורת, בידור וחינוך בצרפת.
לפי גוגל, הכלים האלה מקצרים מאוד את הזמן שיש למגינים להתקין עדכונים, וגם מייצרים רעש: אחרי שפורסמו שתי החולשות של PHP2Shell הופיעו מאות הדגמות ניצול, רובן שנוצרו ב-AI, והמגינים נאלצו לבדוק אותן. ההמלצה לארגונים היא לעדכן מהר שרתים שחשופים לאינטרנט. ה-FBI פרסם בשבוע שעבר אזהרה דומה על ARTEX, כפי שדווח כאן.