אנתרופיק פרסמה ביום שלישי פוסט מחקר על FlashProve, מערכת קוד פתוח לאימות המודל שייצר תשובה מסוימת. לפי TechCrunch, המערכת נועדה לספק "הסקה ניתנת להוכחה" (provable inference): הוכחה קריפטוגרפית, כלומר ערובה מתמטית, שהפלט הגיע ממודל מסוים. בדומה לחתימה דיגיטלית על אימייל, היא אמורה לעמוד גם מול מתחזה שהוא החברה שבנתה ומפעילה את המודל.
לפי החוקרים, המערכת יכולה למנוע מחברת AI להחליף בשקט מודל במודל זול יותר כדי לחסוך, או ביקר יותר כדי לשפר תוצאות. היא יכולה גם לאמת טענות של צד שלישי, למשל שספריית תוכנה נסרקה לאיתור חולשות על ידי מודל סייבר מתקדם.
כדי שהמערכת תעבוד, מעבדות AI צריכות לפרסם "טביעת אצבע" לכל מודל שהן משחררות. טביעת האצבע לא חושפת את משקלי המודל, ולכן גם חברות של מודלים סגורים יוכלו להשתמש בה. החוקרים פרסמו מפרט טכני וקוד עובד ב-GitHub ברישיון קוד פתוח, אבל לפי TechCrunch המחקר עדיין נמשך ואין תוכנית לפרוס את המערכת באנתרופיק או במעבדה אחרת. "הפוסט נועד לשתף התקדמות ביניים", כתבו החוקרים.