מייסד מיקרוסופט ביל גייטס משמיע אזהרה חריגה בעוצמתה מפני הסכנות הטמונות בבינה מלאכותית.
בריאיון ששודר ביום ראשון בתוכנית "Meet the Press" של NBC, הזהיר מייסד מיקרוסופט כי כלי AI מתקדמים, כאשר הם מגיעים לידיהם של גורמים בעלי כוונות זדוניות, מסוגלים להניע שרשרת אירועים שתסתיים באסון עצום ממדים - עד כדי מיליארד בני אדם שיאבדו את חייהם.
"AI בהחלט חזק מספיק כדי להניע אירועים שעלולים לגרום למיליארד מקרי מוות", אמר גייטס למראיינת קריסטן וולקר. מיד לאחר מכן הוא חידד את מקור החשש מבחינתו: "מעולם לא היה נשק חזק כמו השילוב של אנשים בעלי כוונות זדוניות המשתמשים בכלי ה-AI העדכניים ביותר".
המספר הדרמטי שבו נקב גייטס אינו תחזית שלפיה מיליארד בני אדם אכן עומדים למות כתוצאה מבינה מלאכותית. דבריו עסקו בעוצמתה האפשרית של הטכנולוגיה ובתרחיש שבו נעשה בה שימוש לרעה. האזהרה נועדה לתמוך במסר המרכזי שהציג בריאיון: אסור להשאיר את האחריות לבטיחות הבינה המלאכותית בידי חברות הטכנולוגיה בלבד.
לדברי גייטס, נדרשת מעורבות ממשלתית ישירה. הוא קרא למחוקקים ולגורמי אכיפת החוק בארצות הברית להשתלב בקביעת אמצעי ההגנה והפיקוח על התחום, והבהיר כי מבחינתו אין די במודל שבו החברות המפתחות את הטכנולוגיה מפקחות בעצמן על הסיכונים שהיא יוצרת. "אף אחד לא חושב שפיקוח עצמי מספיק", אמר.
גייטס הוסיף כי הדרישה למנגנוני פיקוח מחייבים אמנם תיצור עלויות נוספות לתעשיית ה-AI, אך להערכתו אין מדובר במהלך שאמור להאט באופן דרמטי את קצב פעילותה. מבחינתו, הפיקוח צריך להיות חלק מובנה מהמשך הפיתוח - ולא החלטה וולונטרית שכל חברה תקבל בעצמה.
ההתבטאות החריפה אינה מגיעה בחלל ריק. בחודשים האחרונים גייטס הגביר את עיסוקו בסיכונים הנלווים להתפתחות המהירה של הבינה המלאכותית. בריאיון לרויטרס מוקדם יותר החודש הוא הזהיר כי ממשלות ברחבי העולם מפגרות בהיערכות לשינויים שהטכנולוגיה צפויה לחולל, והצביע בין היתר על סיכונים הנוגעים לתעסוקה, מתקפות סייבר וכלי AI ממכרים. לצד החששות, הוא ממשיך להדגיש גם את הפוטנציאל של הטכנולוגיה לשיפור חייהם של בני אדם, במיוחד בתחומי הבריאות, החינוך והחקלאות.
החשש מפני שימוש זדוני בכלים המתקדמים כבר אינו תיאורטי לחלוטין. מוקדם יותר החודש דיווחה Anthropic כי עצרה ניסיונות לעשות שימוש במודלי Claude שלה לצרכים מסוכנים, ובהם מחקר הקשור לנשק ביולוגי ופעילות סייבר. לפי החברה, בין המקרים שזוהו היה משתמש שנעזר במערכת לצורך תכנון ניסויים בשפעת העופות, לצד שימושים הקשורים לריגול סייבר.
במקביל, שאלת הסיכונים שמציבה הבינה המלאכותית כבר נמצאת גם במוקד השיח בין המעצמות. ארצות הברית וסין הסכימו לקיים דיאלוג רשמי שיעסוק בסיכוני AI ובמנגנוני תקשורת למצבי חירום, כאשר בין הנושאים שעלו נמצאים סוכני AI שעלולים לצאת משליטה ואיומים מצד גורמים שאינם מדינות, ובהם מתקפות סייבר.
האזהרה של גייטס מגיעה בתקופה שבה הוויכוח בתוך תעשיית הטכנולוגיה על גבולות הפיתוח הופך חריף יותר. לצד קריאות להגברת הפיקוח, קיימת גם מחלוקת סביב היקף הסיכון והדרך שבה נכון להתמודד איתו, בזמן שהמרוץ העולמי לפיתוח מערכות מתקדמות ממשיך בקצב גבוה.
גייטס עצמו אינו מציג את הבינה המלאכותית כטכנולוגיה שיש לעצור. המסר שלו מורכב יותר: אותה עוצמה שמאפשרת ל-AI לסייע בתחומים כמו בריאות, חינוך ומדע עלולה להפוך למסוכנת כאשר היא מנוצלת לרעה. מבחינתו, נקודת התורפה המרכזית אינה בהכרח המכונה לבדה - אלא החיבור בינה לבין בני אדם שמבקשים להשתמש ביכולותיה כדי לגרום נזק.
והפעם, כדי להמחיש עד כמה גדול לדעתו הסיכון האפשרי, גייטס בחר במספר שקשה להתעלם ממנו: מיליארד בני אדם.