הרכב שמכריע מי יחיה ומי ימות

רכב אוטונומי דוהר יצטרך להכריע אם לפגוע במי שחצה באדום, לסטות ולפגוע בהולך רגל או להתנגש ולפגוע בנהג. ואם הולך הרגל הוא רופא?

שמעון כהן - ערוץ 7 , ח' באייר תשפ"א

הרכב שמכריע מי יחיה ומי ימות-ערוץ 7
סומכים על שיקול דעתן?
פלאש 90

התאונה הקטלנית של יצרנית כלי הרכב האוטונוטמיים טסלה, בה נהרגו שני בני אדם ונסיבותיה של התאונה, מעלים לדיון כלל עולמי את שאלת השיקולים האתיים שצריך רכב אוטונומי לקחת בחשבון איכשהו.

על הסוגיה האתית טכנולוגית הזו שוחחנו עם ד"ר שמעון זילברשלג, מומחה לאתיקה ויו"ר מכללת אתיקס. "זו סוגיה שמעסיקה הרבה מאוד את עולם האתיקה", הוא אומר ומבהיר כי "הטכנולוגיה של מכוניות אוטונומיות אמורה לחסוך הרבה מאוד נפגעים בגלל שלא יהיו טעויות אנוש, אבל זה מעלה סוגיות אתיות".

"דוגמא פשוטה, רכב דוהר ומזהה שלושה חוצים את הכביש וצריך להחליט אם לפגוע בהם, לפנות הצידה ולפגוע בהולך רגל או להתנגש בקיר ולפגוע בנהג עצמו", מעלה ד"ר זילברשלג את הדוגמא הבסיסית ביותר של לבטים אתיים שניצבים בפני סוג כזה של כלי רכב.

עוד הוא מעלה שאלות שקשה להעלות בקול רם, אך במערכת תכנות הרכב יש לחשוב גם עליהן, האם להעדיף פגיעה במבוגר או בצעיר, גבר או אישה, ילדים או בוגרים וכיוצא באלה. זילברשלג מספר כי מחקר בינלאומי שנערך ב-MIT בחן שורה ארוכה של שאלות אתיות מהסוג הזה במספר רב של מדינות ומכארבעים מיליון התשובות שנאספו במחקר עלה פער משמעותי בין תפיסותיהם של בני אדם במקומות שונים בעולם:

"היו החלטות קונצנזוס כמו העדפת הרג חיות על פני אנשים, יחיד על פני רבים, אבל היו גם העדפות שונות במדינות שונות. לדוגמא, במדינות נוצריות העדיפו פגיעה של מבוגר על פני צעיר ובמוסלמיות להיפך. במדינות כמו פינלנד עם שלטון יציב וחזק אין לאנשים בעיה לפגוע בעברייני תנועה, כלומר אם מישהו חצה באדום זו בעיה שלו לטעמם. עלתה גם שאלה של פער הכנסה ובמדינות דרום אמריקה העדיפו פגיעה במי שנראה מוזנח והומלס על פני אדם שנראה מכובד ורגיל".

הבדלי הגישות הללו בחברות תרבותיות שונות חושפת את הקושי לגבש קונצנזוס עולמי החשוב כל כך בפיתוחו של כלי רכב שיוצא מהיצרן לכל רחבי העולם. כרגע, מספר זילברשלג, יש ועדות בכל העולם שמנסות לגבש תפיסה, אך בשלב זה כל מדינה שומרת את הקלפים קרוב לחזה.

עוד מרחיב ד"ר זילברשלג ומציין כי הדיון האתי סביב הסוגיה מגלה פערים בין תפיסה תועלתנית למוסר מוחלט השולל הרג בכל מקרה, ומסתבר שהשאלה האתית מורכבת הרבה יותר מכפי שנדמה, שכן אם אנו במצב מלחמה והרכב צריך להתלבט אם לפגוע באותם שלושה אזרחים החוצים את הכביש או לסטות ולפגוע ביחיד שהוא גם חייל קרבי בתפקיד, או רופא בתקופת מגיפה. האם ניתן לתכנת את מערכת הרכב על מנת שהוא לבדו יכריע בסוגיות הללו ובהתאם לתקופות המשתנות, לערכים המשתנים במקומות שונים בעולם? האם ניתן לקבוע שחוקי מוסר של חברה אחת ייכפו על חברה אחרת, כלומר האם נגיע למצב שבו אדם יסרב להגיע למדינה בה כלי הרכב מתוכנתים על פי ערכי מוסר המנוגדים לאמונתו שלו? האם נסכים להיכנס לרכב שאנו לא סומכים על שיקוליו הערכיים?

השאלות הללו ניצבות בליבת הסוגיה האתית טכנולוגית, וכשאנו שואלים אם יתכן ומכלול מורכב כל כך של שאלות עשוי להוביל לכך שהרכב האוטונומי יהיה מוכן בפס הייצור אך לא יגיע לכבישים, משיב ד"ר זילברשלג כי להערכתו המתכונת שתגיע לכבישים תהיה כזו המשלבת בצורה כזו או אחרת את הטכנולוגיה עם המרכיב האנושי של הנהג, מכוניות חצי מוסריות, הוא מכנה זאת. איך זה יפעל בדיוק? נראה שנצטרך להמתין מעט ורק אז לדעת.