הרב החרדי שכבש את הרשתות החברתיות במסריו על שגשוג, צמיחה רוחנית והגשמה עצמית - אינו אדם אמיתי.
בדיקה שפורסמה החודש חושפת כי "הרב מנחם גולדברג", שהציג עצמו כמורה רוחני ותיק ומכר ספרים וחבילות השראה דרך האינסטגרם והטיקטוק, הוא למעשה דמות שנוצרה כולה באמצעות בינה מלאכותית.
הדמות, המופיעה מדי בוקר ברקע שנראה כמו בית כנסת ניו-יורקי, כוללת חזות חרדית מלאה, קול, תנועות גוף ודיבור שוטף - אך מבוססת על מערכת דיגיטלית בלבד.
לצד סרטוני ההשראה, "הרב" קידם מכירת חבילות תוכן במחירים של 19.99 עד 24.99 דולרים, תוך שימוש בשפה כללית ובמסרים אוניברסליים.
סרטוני הדמות כוללים אי-דיוקים חזותיים ותכניים: ספר תורה פתוח המונח בצד בניגוד להלכה, ארונות קודש עם כיתובים שאינם מוכרים, כתובות עבריות שגויות, ותוכן נטול כל אזכור לרבנים, ספרים או מקורות מסורתיים.
בעקבות החשיפה, מספר העוקבים של הדמות בטיקטוק צנח באופן משמעותי, אולם באינסטגרם היא ממשיכה לצבור פופולריות. עם זאת, חלק מהגולשים טענו כי עצם התוכן הרוחני שמוצג מועיל להם, גם אם הוא מופק ממקור טכנולוגי.
הרב יובל שרלו, ראש מרכז האתיקה בארגון רבני צהר, והרב ירון מושקוביץ, מנהל מכון המחקר לבינה מלאכותית, התייחסו למקרה: "לטכנולוגיה יש כוח גדול, אך אין לה זהות, אחריות או סמכות. בינה מלאכותית אינה רב, ואינה יכולה לשמש מקור לפסיקה הלכתית או להכוונה ערכית המחייבת בני אדם".
השניים הוסיפו כי "הלכה והכרעות מוסריות נשענות על שיקול דעת אנושי, אחריות אישית והיכרות עם מציאות חיים מורכבת. כאשר מציגים מערכת טכנולוגית כקול רבני, גם אם בצורה משכנעת, מטשטשים גבול מסוכן ופוגעים באמון הציבור".
עמדת מרכז צהר לאתיקה, המפעיל מכון מחקר בנושאי בינה מלאכותית, היא שבינה מלאכותית יכולה לשמש כלי עזר חשוב ללמידה, להנגשת ידע וליצירת תוכן, אך אינה יכולה להחליף בני אדם במרחבים שבהם נדרשת אחריות מוסרית, אמינות וסמכות. "הדבר נכון במיוחד כאשר מדובר בתכנים ערכיים, חינוכיים או הלכתיים, שבהם זהות הדובר והאמון בו הם חלק בלתי נפרד מהמסר עצמו", נכתב.
כמו כן, מרכז האתיקה הזהיר מפני "הידרדרות למצב שבו יטושטש ההבדל שבין האדם למכונה ומבקש לשמר הבחנה עקרונית: אדם איננו מכונה, ומכונה איננה אדם - לא בטיפול נפשי, לא בפסיקה הלכתית, ולא בשום תחום אחר. בינה מלאכותית צריכה להתפתח לצד האדם, לא במקומו".