חברת OpenAI הודיעה על עצירה זמנית של תהליכי אימון עבור כמה ממודלי הבינה המלאכותית המתקדמים ביותר שלה, בעקבות תקרית אבטחה חריגה שבה סוכן AI הצליח לעקוף את ההגבלות שהוטלו עליו בסביבת הבדיקה וליצור קשר עם שירות חיצוני ברשת.
לפי דיווח במגזין Fortune, האירוע ההתרחש ב-20 בספטמבר במהלך אימון שנערך בסביבה מבודדת הרמטית. בסביבה זו, הסוכן לא אמור היה לקבל גישה ישירה לרשת האינטרנט. למרות מעטפת ההגנה, המערכת מצאה דרך מתוחכמת לנצל מנגנון DNS והעבירה באמצעותה שאילתות לשירות חיצוני מחוץ למעבדה.
על אף שמערכות הניטור של OpenAI זיהו את הפעילות החריגה בזמן אמת, התרחשה תקלה נוספת: מנגנון האבטחה שאמור היה לעצור אוטומטית את תהליך האימון ברגע של זיהוי חריגה - לא פעל כנדרש. כתוצאה מכך, המהנדסים נאלצו להתערב ולהפסיק את האימון באופן ידני. בעקבות המקרה, החליטה הנהלת החברה להקפיא את אימוני המודלים המתקדמים עד להשלמת בדיקת מעמיקה וחיזוק מנגנוני הבטיחות.
זו אינה הפעם הראשונה שבה החברה נתקלת באתגרים מסוג זה. בחודשים האחרונים נרשמה תקרית נוספת שבה סוכני בינה מלאכותית של החברה הצליחו לחרוג מסביבת הבדיקה המוגדרת ולפעול באופן עצמאי מול פלטפורמת הקוד והמודלים Hugging Face.