הבינה המלאכותית כבר מסוגלת לנתח מידע, להציע פתרונות ולסייע בקבלת החלטות מורכבות, אך לדעת ד"ר חנן שי ממכון משגב, חסר לה המרכיב החשוב ביותר: היכולת להבחין בין טוב לרע.
דווקא בתקופה שבה העולם עוסק בסכנות הטמונות בטכנולוגיה המתפתחת, הוא מציע להפוך את האיום להזדמנות ולהוביל מישראל מהפכה נוספת - מהפכת החוכמה, שתוסיף לבינה המלאכותית ממד של שיקול דעת מוסרי.
"הבינה המלאכותית נמצאת היום בעצם במצב שבו היה אדם לפני שהיה לו מוסר", מסביר שי בריאיון לערוץ 7. "הוא מקבל החלטות, יכול לבחור, אבל הוא צריך ערכים שלאורם הוא יוכל לבחור".
לדבריו, ההבחנה בין ידע, בינה וחוכמה היא המפתח להבנת האתגר. "יש את הדעת, כלומר הידע שיש לו. לאור הידע הזה, הוא יכול לקבל החלטות באמצעות הבינה", מסביר שי. אלא שאת ההחלטות המשמעותיות, לשיטתו, יש להעביר דרך החוכמה, המאפשרת לאדם לבחון אותן לאור ערכים מוסריים.
שי רואה בהתפתחות הטכנולוגית רצף היסטורי שהחל במהפכת הדפוס, נמשך במהפכת המחשוב ובמהפכת האינטרנט, והגיע לשיא חדש עם הופעת הבינה המלאכותית. כל אחת מהמהפכות הללו הרחיבה את יכולתו של האדם לצבור ידע, להפיץ אותו ולעבד אותו.
כעת, הוא טוען, הגיע הזמן לפתח את השלב הבא. "אנחנו עומדים במקום שבו צריך להתחיל לפתח גם את החוכמה". לדבריו, המשמעות המעשית היא פיתוח מערכת נוספת שתלווה את הבינה המלאכותית ותאפשר לבחון את פעולותיה גם מבחינה מוסרית.
אלא שכאן מתגלה קושי עמוק הרבה יותר מן האתגר הטכנולוגי. כיצד אפשר ללמד מכונה להבחין בין טוב לרע כאשר גם בני האדם אינם מסכימים על מערכת ערכים מוסרית משותפת?
"זה סיפור מורכב. לאו דווקא טכנולוגי", מודה שי. לדבריו, הקושי העיקרי הוא שבהיעדר מוסכמה עולמית ברורה באשר לערכי היסוד, אין בסיס מוסרי מוסכם שאפשר להטמיע במערכות הממוחשבות. "יש בהחלט ערכים מוסריים, אבל הם נזילים, הם לא סדורים".
בנקודה הזאת הוא מציע להיעזר במסורת המוסר היהודית. לטענתו, היהדות מציעה מערכת ערכים עתיקה וסדורה, שיכולה לשמש נקודת מוצא לגיבוש כללים מוסריים גם בעידן הטכנולוגי. בין הערכים שמנה נמצאים קדושת החיים, השלום, האמת, כבוד האדם והצדק.
הוא מדגיש כי אין מדובר בערכים שנותרו נחלתה של היהדות בלבד. לדבריו, עקרונות מוסריים שמקורם במסורת היהודית חלחלו לאורך הדורות גם לתרבויות ולדתות אחרות. אף שהפרשנויות השתנו, הוא סבור כי אפשר למצוא הסכמה רחבה באשר לחשיבותם של ערכים בסיסיים.
אחת הדוגמאות שהציג נוגעת למושג האמת. שי מתאר גישות פילוסופיות המייחסות לאמת משמעות סובייקטיבית או חברתית, ולעומתן את התפיסה היהודית שהוא מציג, שלפיה האמת קיימת גם אם האדם אינו מסוגל להגיע אליה במלואה. על פי תפיסה זו, תפקידו של האדם הוא להמשיך לחפש אותה ולהתקרב אליה.
הדיון הזה, לשיטתו, אינו מוגבל לשאלות טכנולוגיות. הוא קשור גם ליכולת של החברה הישראלית לגבש לעצמה בסיס ערכי משותף.
לטענתו בשיח היהודי העיסוק במצוות תופס לעיתים מקום מרכזי יותר מן העיסוק במוסר שקדם להן. דווקא החזרה לעקרונות היסוד של דרך ארץ, הוא סבור, יכולה ליצור בסיס משותף בין יהודים דתיים לחילונים. "דרך ארץ יכולה לחבר אנשים שלא שומרים מצוות עם אנשים ששומרים מצוות".
בהקשר הזה הזכיר את מגילת העצמאות, שלדבריו מדגישה את הזהות היהודית ואת מורשת המוסר של הנביאים. הוא ציין כי המגילה אינה כוללת את המילה "דמוקרטיה", אך מרבה להתייחס לעם היהודי, ליהדות ולעקרונות מוסריים.
אף על פי כן, טען שי, מדינת ישראל אינה מחזיקה כיום במסמך מוסכם המגדיר באופן סדור את ערכי המוסר המכוננים שאמורים להנחות את ההכרעות הערכיות שלה. בעיניו, גיבוש מערכת כזאת הוא אתגר מרכזי, לא רק לצורך פיתוח הבינה המלאכותית, אלא גם לחברה הישראלית עצמה.
שי אף קשר בין היעדרם של ערכים מוסכמים לבין הביקורת הבינלאומית על ישראל בעקבות המלחמה ברצועת עזה. הוא טען כי בחלק מן השיח הבינלאומי התהפכו היוצרות מבחינה מוסרית, כך שישראל מוצגת כצד הפוגע ואילו חמאס זוכה להצדקות. לדבריו, הוויכוח הזה ממחיש את הצורך במערכת ברורה ועקבית של עקרונות מוסריים.
לצד המסורת הערכית, הוא מזהה בישראל שני יתרונות נוספים שעשויים לאפשר לה להוביל את המהלך: הניסיון שנצבר במדינה בהתמודדות עם הכרעות מוסריות מורכבות, והיכולות הטכנולוגיות של תעשיית ההייטק הישראלית.
לדבריו, ישראל נדרשת לעיתים קרובות לקבל החלטות הכרוכות בשיקולים מוסריים, אך אינה מקפידה להסביר את התשתית הערכית שעליה נשענות ההחלטות הללו. הוא סבור כי הניסיון הזה, לצד הידע הטכנולוגי הקיים בישראל, עשוי לשמש בסיס לפיתוח מערכות שיסייעו לבני אדם לשקול את ההשלכות המוסריות של פעולותיהם.
"יש לנו ניסיון שאין לאחרים, ויש לנו את ההייטק, שגם בו אנחנו מובילים בעולם", אמר. "דווקא מכאן צריכה לצאת הבשורה של המרכיב הנוסף, המכונה הנוספת של החוכמה".
עם זאת, שי מקפיד להבחין בין מערכת שתסייע בקבלת החלטה מוסרית לבין מערכת שתקבל את ההחלטה בעצמה. בתפיסתו, הבינה המלאכותית לא אמורה להחליף את האחריות האנושית, אלא דווקא להבטיח שהאדם לא יוכל להתחמק ממנה. "החלטה מוסרית רק האדם יכול לקבל", הוא מדגיש.
המערכת שהוא מציע תוכל לזהות מצבים המחייבים הכרעה ערכית ולעצור את התהליך עד שהאדם יתערב, יבחן את האפשרויות ויקבל החלטה. היא עשויה להציג חלופות ואף להמליץ על אחת מהן, אך לא תורשה להמשיך בפעולתה ללא אישור אנושי כאשר נדרש שיקול מוסרי.
"היא לא תמשיך לעבוד לפני שהאדם יעשה את הדיון וייתן לה את ההוראה", הסביר.
ד"ר חנן שי אינו מתעלם מן המורכבות של הכרעות מוסריות גם בקרב בני אדם. החלטות כאלה, לדבריו, מחייבות לעיתים ויכוח מעמיק ובחינה של עמדות מנוגדות. הוא הזכיר בהקשר זה את המחלוקות בין בית הלל לבית שמאי כדוגמה לחשיבות הדיון בדרך להכרעה.
אף שהוא אינו מציג תוכנית הנדסית מפורטת לפיתוח המערכת, שי סבור שהקושי העיקרי לא יהיה בהכרח היכולת ליצור מנגנון טכנולוגי שיעצור את פעולת הבינה המלאכותית. השאלה הקשה יותר תהיה אילו ערכים יש להטמיע בו, מי יקבע אותם וכיצד תתקבל ההכרעה במצבים שבהם ערכים שונים מתנגשים.
כדי להמחיש את הפוטנציאל של המהלך, הוא חזר להשפעתן של מהפכות טכנולוגיות קודמות על החברה האנושית. מהפכת הדפוס, לדבריו, לא הסתכמה בהנגשת ספרים אלא תרמה גם לשינויים דתיים, חברתיים ופוליטיים. הפצת הידע צמצמה את שליטתם של מוסדות דת במידע ואפשרה ליותר בני אדם לקרוא ולפרש טקסטים בעצמם.
גם התפתחות כלי הנשק, לטענתו, השפיעה על מבנה החברה ועל התרחבות הזכויות הפוליטיות. הצורך בצבאות גדולים, המורכבים מאזרחים שנדרשו להילחם ואף לסכן את חייהם, תרם לדבריו לדרישה להעניק להם זכויות.
באופן דומה, שי מאמין כי פיתוח ממד מוסרי בבינה המלאכותית עשוי להוביל לשינוי החורג מן התחום הטכנולוגי. עצם הדרישה להגדיר ערכים, לדון בהם ולהכריע על פיהם עשויה לחייב גם את בני האדם לבחון מחדש את הדרך שבה הם מקבלים החלטות.