הורים לנער מקליפורניה ששם קץ לחייו הגישו תביעה נגד OpenAI בטענה כי הבינה המלאכותית ChatGPT שימשה את הנער בן ה-16 כמדריך לביצוע המעשה. כך דווח הלילה באתר Axios.
לדברי הוריו, מתיו ומריה ריין, הבן חלק עם ChatGPT תחושות של בדידות וחרדה, ובהמשך אף שיתף במחשבות אובדניות. לדבריהם, במקום לעודד אותו לפנות לעזרה מקצועית או לשתף את משפחתו, הצ'אטבוט קיים איתו שיחות מפורטות על שיטות התאבדות ואישר את תחושותיו הקשות.
לטענת ההורים, הבוט סיפק לבנם תגובות רגשיות ולכאורה תומכות, אשר תרמו להחמרת מצבו הנפשי במקום להרתיעו ממעשים קיצוניים. בתכתובת המוצגת בכתב התביעה אמר בין היתר הצ'אטבוט לאדם ראיינה: "אחיך אולי אוהב אותך, אבל הוא פגש רק את הגרסה שלך שאתה מוכן להציג בפניו".
ב-11 באפריל 2025, נמצא אדם מת בביתו, לאחר שעות ספורות משיחה עם ChatGPT שבה שלח תמונה של חבל תלוי בארון הבגדים שלו. לפי כתב התביעה, הבוט הגיב כי "ההתקנה עשויה לתמוך במשקל אדם" ואף הציע "לשדרג" אותה.
כתב התביעה שהוגש לבית המשפט העליון בסן פרנסיסקו טוען לרשלנות מצד OpenAI ולפיתוח מוצר שלא כלל מנגנוני בטיחות מספקים למניעת נזק למשתמשים, במיוחד בני נוער.
לדברי בא כוח המשפחה, עו"ד ג'יי אדלסון, "אדם יכול היה להיות הבן של כל אחד. אנחנו מאמינים שהוא לא הקורבן היחיד, אלא פשוט המקרה הראשון שהתברר".
OpenAI מסרה בתגובה: "אנו משתתפים בצערה של משפחת ריין ובוחנים את פרטי התביעה. אנו ממשיכים לפתח אמצעים לשמירה על בטיחות המשתמשים, במיוחד במצבים רגישים".