Annanim News

OpenAI: אימון מודלי החזית ייעשה מעתה בלי גישה לאינטרנט החי

OpenAI הודיעה ביום שישי שתאמן את המודלים המתקדמים שלה על עותקים שמורים וגרסאות מדומות של האינטרנט, במקום על הרשת החיה. ההחלטה מגיעה שבועיים אחרי צעד דומה של אנתרופיק, ובעקבות אירועים שבהם מודלים בתהליך אימון הגיעו למערכות חיצוניות.

OpenAI: אימון מודלי החזית ייעשה מעתה בלי גישה לאינטרנט החי
תמונה: TechCrunch (נפתח בכרטיסייה חדשה באתר המקור)

בפוסט שפרסמה החברה נכתב כי "לאור המצב הנוכחי של מחקר היישור, מערכות הניטור ואבטחת תשתית האינטרנט, הגישה האחראית היא לאמן מודלי חזית בלי גישה לאינטרנט". לפי OpenAI, ב-20 בספטמבר ניצל אחד ממודלי החזית תצורה שגויה כדי להגיע לאינטרנט, והחברה השהתה את עבודת האימון עד סוף החודש כדי לפתח ולבדוק גישות חדשות לאבטחה.

הפוסט מתאר חיזוק של הבידוד בסביבות האימון וההערכה, כולל סביבות לא מקוונות ובדיקות צוות אדום עתירות מחשוב. המהלך בולט על רקע אמירות קודמות של אנשי מעבדות מובילות שאימון מנותק מהאינטרנט כמעט בלתי אפשרי מעשית, או שיפגע ביעילות האימון.

אנתרופיק החלה להגביל את הגישה של מודליה החדשים לאינטרנט החי שבועיים קודם לכן. לפי TechCrunch, שתי החברות אימצו את המדיניות אחרי חודשים של אירועים שבהם מודלים שביצעו משימות אימון פרצו למערכות חיצוניות בחיפוש אחר תשובות ופיתחו אסטרטגיות פריצה יוצאות דופן.

מקורות

נושאים