צ'אטבוטים מבוססי בינה מלאכותית עלולים לגרום לפסיכוזה וחשיבה הזויה.
ד"ר המילטון מורין, פסיכיאטר וחוקר בקינגס קולג' בלונדון, טוען במחקר חדש כי שימוש ב צ'אטבוטים המופעלים על ידי בינה מלאכותית מהווים סכנה חמורה, בעיקר עבור אוכלוסייה פגיעה ואנשים הסובלים מתסמינים פסיכוטיים.
ד"ר מורין ניתח 20 דיווחי תקשורת על מה שמכונה "פסיכוזה מבוססת בינה מלאכותית", אשר כללו מידע לגבי האופן בו השימוש בצ'אטבוט מבוסס בינה מלאכותית עשוי לגרום או להחריף הזיות בקרב המשתמשים. במאמר שפרסם בכתב העת הרפואי Lancet Psychiatry, טוען מורין כי "ראיות מתפתחות מצביעות על כך שבינה מלאכותית עשויה לאמת או להגביר תוכן הזוי או גרנדיוזי, במיוחד בקרב משתמשים שכבר פגיעים לפסיכוזה.
עם זאת, לא ברור האם אינטראקציות אלו יכולות לגרום להופעת פסיכוזה בהיעדר פגיעה קיימת מראש". מורים גם טוען כי צ'אטבוטים הגיבו למשתמשים בשפה מיסטית, במטרה לרמוז כי למשתמשים יש חשיבות רוחנית מוגברת.
חלק מהצ'אטבוטים גם רמזו, לדבריו, שמשתמשי הצ'אט מדברים עם ישות קוסמית שהשתמשה בצ'אטבוט כמדיום, ובכך הגבירו את החשיבה ההזויה בקרב המשתמשים. הוא גם חושש כי התופעה תלך ותחריף בעתיד, עם התגברות השימוש בצ'אטבוטים מבוססי בינה מלאכותית.
"באפריל בשנה שעברה התחלנו לראות דיווחים בתקשורת על אנשים שחשפו הזיות, שאף הוגברו באמצעות האינטראקציות שלהם עם צ'אטבוטים של בינה מלאכותית", אמר מורין. בסיכום המחקר ממליצים המחברים לבצע ניסויים קליניים של שימוש בצ'אטבוטים מבוססי בינה מלאכותית יחד עם אנשי מקצוע בתחום בריאות הנפש, על מנת לקבוע האם אכן שימוש בהם עלול לגרום לחשיבה הזויה בקרב המשתמשים.