הצ'אט אינו רופא. אדם בן 60 הגיע לחדר מיון עם תסמינים פסיכיאטריים שכללו הזיות ופרנויות. במהלך הבדיקות הוא סיפר לרופאים כי לאחר שקרא על ההשפעות השליליות של נתרן כלורי, מלח שולחן, הוא התייעץ עם צ'אט GPT לגבי הסרת כלוריד מהתזונה שלו.
לדבריו, הצ'אט ייעץ לו להחליף את מלח השולחן בחומרים אחרים ובהם נתרן ברומיד. לאחר שהוא צרך נתרן ברומיד במשך מספר חודשים, הוא החל לסבול מתסמינים פסיכיאטריים קשים. הוא טען בפני הרופאים כי "השכן שלי מנסה להרעיל אותי".
לאחר בדיקה, הרופאים אבחנו כי האיש סובל מתסמונת נדירה בשם "ברומיזם" או "הרעלת ברומיד" הגורמת לתסמינים נוירולוגיים ופסיכיאטריים מגוונים, בין היתר חוסר שקט, עצבנות, בלבול, הזיות, פסיכוזה, חולשה, קהות, ובמקרים חמורים אף תרדמת.
במאמר שכתבו חוקרים מאוניברסיטת וושינגטון בסיאטל בכתב העת הרפואי Annals of Internal Medicine הם מזהירים מפני התייעצות עם צ'אט GPT או תוכנות אחרות בנושאי בריאות. "המקרה מדגיש כיצד השימוש בבינה מלאכותית יכול לתרום להתפתחות של תוצאות בריאותיות שליליות שניתן למנוע", כתבו החוקרים.
הם גם הוסיפו כי "ברומיזם הייתה תסמונת מוכרת היטב בתחילת המאה ה-20, אשר נחשבה כגורם לכמעט של אחד מכל 10 אשפוזים פסיכיאטריים באותה תקופה".
מחברי המאמר בדקו בעצמם בצ'אט לגבי תחליפים למלח, וגם הם קיבלו תשובה שכללה את הברומיד, ללא אזהרות לגבי תופעות הלוואי והסיכונים הבריאותיים כתוצאה מצריכת ברומיד באופן ממושך.