מערכת בינה מלאכותית ששימשה לתיעוד פגישה רפואית באוסטרליה הכניסה לתיקה של מטופלת מידע שקרי שלפיו היא צורכת פטריות פסיכדליות - טעות שהתגלתה רק לאחר שהמידע כבר הופיע במכתב רפואי שנשלח לרופא המשפחה שלה.
רבקה גרין הגיעה לפגישה ראשונה עם אורולוגית והתבקשה להסכים לכך שמערכת בינה מלאכותית תתעד את השיחה. היא הסכימה ללא היסוס, בין היתר משום שלא רצתה להיתפס כמטופלת שמקשה על הרופאה או גוזלת מזמנה.
אלא שלאחר שעברה בחודש מרץ ניתוח בעקבות אבנים בכליות, קראה גרין מכתב ששלחה הרופאה לרופא המשפחה שלה וגילתה בו פרט שמעולם לא מסרה: במסמך נכתב כי היא נוטלת מינונים זעירים של פטריות פסיכדליות, ואף הועלתה האפשרות שהדבר קשור לדימום קודם באזור הכליות.
גרין הבהירה כי מעולם לא השתמשה בפטריות פסיכדליות. "הייתי המומה ובכיתי", סיפרה לרשת ABC האוסטרלית.
לטעות הייתה מבחינתה משמעות החורגת מהרישום הרפואי. באותה תקופה קיבלה גרין פיצויים בעקבות פגיעה בעבודה, והיא חששה כי אזכור של שימוש בסמים בלתי חוקיים בתיק הרפואי שלה עלול להשפיע על ענייניה.
בעקבות תלונתה התנצלה האורולוגית והוציאה מסמך רפואי מתוקן. לדבריה, לא ניתן היה לקבוע בוודאות כיצד נכנסה ההתייחסות לפטריות הפסיכדליות למסמך, אך נראה שמקורה בטעות בתהליך ההכתבה או התמלול. הרופאה הודיעה גם כי תבחן מחדש את אופן השימוש בבינה מלאכותית במרפאה.
המקרה מצטרף לחששות הולכים וגוברים באוסטרליה סביב שימוש במערכות AI המתעדות שיחות בין רופאים למטופלים. מחקר של ארגון Digital Rights Watch הצביע על מקרים שבהם מערכות מסוג זה יצרו מידע רפואי שגוי - אף שלא נאמר בפועל.
בין הדוגמאות שעלו נמצאו מקרה שבו מערכת רשמה את הצד הלא נכון בגוף באבחון של סרטן השד, ומקרה אחר שבו נרשם כי מטופל סובל מאפילפסיה אף שלא סבל מהמחלה.
הרגולטור האוסטרלי למקצועות הבריאות, AHPRA, הדגיש כי האחריות נותרת בידי אנשי המקצוע וכי עליהם לבדוק את התוצרים שמייצרות מערכות התיעוד המבוססות על בינה מלאכותית ולוודא את דיוקם.
גרין אמרה כי היא חוששת במיוחד ממטופלים שאינם מגלים טעויות מסוג זה בעצמם. לדבריה, בדיקה אנושית של המסמך לפני שליחתו הייתה יכולה למנוע את הכנסת המידע השגוי לתיקה הרפואי.