זה התחיל כניסוי שנועד לבדוק עד כמה מתקדמות יכולות הסייבר של הבינה המלאכותית, אבל במהלך הבדיקה התרחש אירוע חריג: מודלים של OpenAI הצליחו לנצל חולשות אבטחה, להגיע לאינטרנט ומשם גם לתשתיות של HuggingFace.
בין המודלים שהשתתפו בניסוי היו GPT-5.6 Sol ומודל נוסף שטרם הושק.
HuggingFace היא אחת הפלטפורמות המרכזיות בעולם הבינה המלאכותית, ומשמשת חוקרים ומפתחים לפרסום, שיתוף והורדה של מודלים וכלים בתחום. במילים פשוטות, אפשר לחשוב עליה כמעין "GitHub של עולם הבינה המלאכותית" - מקום שבו מפתחים יכולים למצוא מודלים קיימים ולהשתמש בהם בפרויקטים שלהם.
כדי להבין את משמעות האירוע, צריך להבין גם כיצד נערך המבחן. OpenAI אפשרה למודלים לפעול בסביבת בדיקה מבודדת שלכאורה לא היה בה אינטרנט, וללא מנגנוני הסינון הרגילים, כדי לבחון מה הם מסוגלים לעשות בתחום הסייבר כאשר ההגבלות הללו אינן מופעלות.
במהלך המבחן הצליחו המודלים לזהות כמה חולשות אבטחה ולשלב ביניהן. בין היתר הם ניצלו פרצת Zero-Day - חולשת אבטחה שעדיין אינה מוכרת ליצרן ולכן טרם קיבלה תיקון - ובאמצעותה הצליחו להשיג גישה לאינטרנט ולהתקדם מעבר לסביבת המחקר.
בשלב הבא ניסו המודלים לאתר מידע שיעזור להם להשלים את המשימה שניתנה להם במסגרת ההערכה. החיפוש הזה הוביל אותם, בין היתר, לתשתיות של HuggingFace, וכך מבחן פנימי שנועד לבדוק את יכולות ה-AI הפך לאירוע אבטחה שנגע גם בחברה חיצונית.
ב-HuggingFace כבר ידעו שמשהו חריג מתרחש, אך בתחילה לא ידעו מי עומד מאחוריו. שלשום הודיעה החברה כי גורם חיצוני חדר לרשת שלה, והעלתה את האפשרות שנעשה שימוש בכלי בינה מלאכותית מתקדמים.
אנשי HuggingFace השתמשו במודל הסיני הפתוח GLM-5.2, שבו משתמש גם ערוץ 7, כדי לנסות להבין את היכולות של המודל שפעל מולם ולסגור את הפרצה. באותו שלב, לפי המידע שנמסר, הם עדיין לא ידעו כי מקור הפעילות קשור לניסוי של OpenAI.
בהמשך זיהו צוותי האבטחה של OpenAI ושל HuggingFace את הפעילות החריגה, עצרו אותה ופתחו בחקירה משותפת. פרצת האבטחה שאפשרה את הגישה דווחה לגורם הרלוונטי לצורך תיקון, וב-OpenAI החליטו במקביל להחמיר את אמצעי ההגנה והבקרה בסביבות שבהן נבחנים המודלים.
ב-OpenAI הגדירו את המקרה "אירוע סייבר חסר תקדים", והעריכו כי ככל שמודלי הבינה המלאכותית יהפכו חזקים ומתקדמים יותר, אירועים דומים עלולים להפוך לנפוצים יותר. החברה מסרה כי תמשיך לחקור את האירוע יחד עם HuggingFace ותפרסם ממצאים נוספים לאחר השלמת הבדיקה.
האירוע מגיע במקביל לדיון רחב יותר בארצות הברית סביב הדור הבא של מודלי הבינה המלאכותית. לפי דיווח ב"בלומברג", מנכ"ל OpenAI סם אלטמן צפוי להיפגש בשבוע הבא עם גורמים בבית הלבן ועם מחוקקים אמריקנים ולתדרך אותם על המודלים הבאים של החברה ועל יכולותיהם.
לפי הדיווח, בתדרוך הודגש גם הצורך באסטרטגיה אמריקנית רחבה מול התחרות בתחום הבינה המלאכותית. במוקד נמצאים בין היתר מודלים סיניים המופצים באינטרנט בחינם וזמינים להורדה לכל דורש.