אבל הגעתי למסקנה שהוא פשוט מאוד מהיר ולפעמיים התשובות קלות לו אז הוא עונה מהר. זה לא בכל תשובה..

אגב, רק לי הוא נתקע לפעמיים בלופ? אני כותב לו משהו והוא חוזר על אותה תשובה ככה כמה פעמים..

אני כמעט לא משתמשת, וקרה לי פעם אחת.

בעלי סיפר לי על ביטויים ספציפיים משונים שאנשים מצאו שגורמים לזה

תבחן מה ה"תשואה" (תרגום לא ממש מוצלח למונח מדעי המחשב באנגלית throughput) של מערכות ומרכזי מיחשוב AI, הן מבחינת יכולות החישוב המבוזרות (בשבבי GPU), הן מבחינת הבאת המידע הנבחן והרלוונטי (מבחינת צמתי תקשורת, "אינפיניבנד" ומהירויות קריאה ושידור) והן מבחינת הארכיטקטורה (ה"וורטיקלית" ברובה) של המידע עצמו. זה עכשיו הרבה הרבה הרבה מעבר לתפיסת האדם. כשתקלוט באיזה כוח אסטרונומי הכלי מתקשר איתך, עושה מול עצמו את החישוב, ואז מחזיר תגובה, לא תתפלא על כלום. אבל עדיין, זה לא חשיבה ולא שיקול דעת אנושי ממש.

כעיקרון זו ההכרה, הקוגניציה. אנחנו עצמנו לא הגדרנו היטב קוגניציה, אבל כמכלול זה קיים, וברור לגמרי שאיכשהו זה יוצא שונה בקרב בני אדם שונים. להכניס צבא לעזה? אנשים שונים חושבים מחשבות שונות, אבל התוצאה שמודל אמור לספק נדרשת להיות מוגדרת היטב. משחקים בפרמטרים ולפי זה ייצא מה שייצא.
אולי האדם הוא כן מודל - חזק בהרבה מהמהונדסים והמוכרזים, אבל מודל - אבל זה לא מודל מהסוג שמוכר לנו ולא משהו שהצליחו כרגע לחקות. אפילו לא סביר להניח שזה LLM, כי שפת הדיבור והביטוי עצמה משתנית בהתאם לרעיונות אנושיים. רוצה לבקש ממודל להכין שפה אנושית חדשה? אני אישית לא הייתי עוסק בהשגת תוצאה כזו, כי אני חושש מגודל הכיעור.

אנשים שונים שגדלים בסביבות שונות מאומנים על ידי קלטים שונים ולכן ודאי המודלים שלהם יהיו שונים והם יחשבו באופן שונה על סוגיות מורכבות.

אני לחלוטין לא חושבת שהבינה המלאכותית היא ברמה אנושית עכשיו, אבל לטעמי קשה לקבוע בנחרצות שמה שיש הוא "לא חשיבה" ברמה מסוימת. כלומר, שאין חלק בבינה האנושית שפועל באופן דומה לבינה המלאכותית של ימינו. 

השתמשתי בנוסח זהיר מאוד - "עדיין... זה לא שיקול דעת אנושי ממש".

חישובים סטטיסטיים והסתברותיים?

המוח האנושי הוא מסובך וכולל הרבה מאוד תפקודים.

ולמרות שיש לנו הבנה (מודעת), יש תהליכים רבים שנעשים ללא מודעות.

אם יש תהליך שניתן לבצע באמצעים "פשוטים" (יחסית), יכול להיות שזה אכן מה שקורה.

למשל, כשאנחנו שומעים משפט באופן לא לגמרי ברור, המוח מבצע תיקון שגיאות ומשלים את החסר או מתקן את הלא-ברור. די ברור לי שההחלטה כיצד לתקן מגיעה ממודל הסתברותי שלוקח בחשבון את ההקשר של שאר המשפט, את אופי ההפרעה, מידע נוסף כגון זהות הדובר ואופי השיחה וכו'. לפעמים אנחנו מודעים לזה, לפעמים לא, לפעמים אנחנו נעשים מודעים לכך בדיעבד (בטוחה שחווית דברים כאלה).

איך המידע שצריך לעבד *מיוצג* בדיוק (האם המוח עובד עם ווקטורים)? לא נראה לי מהותי כאן אם המידע מיוצג על ידי טרנזיסטורים או נוירונים.

לגבי דיבור - זה עניין מסובך יותר, כאן נכנס ה"אני" שמדבר ובוחר, אבל כמובן לא *כל* התהליך המסובך של הדיבור הוא מודע (בלי קשר לפעולה של איברי הדיבור, אני מתכוונת רק לעיבוד של המשפט עוד לפני שהוא מתורגם או מופק לצליל). גם אם אנחנו יודעים מה הרעיון שאנחנו רוצים להביע, בחירת המילים המדויקות נעשית באופן שחלקו פחות מודע - אנחנו לא חושבים על כל מילה שיוצרת לנו מהפה. אנחנו גם לפעמים יכולים להתבלבל ולהשתמש במילה מתאימה פחות, ולתקן את עצמינו, או להיתקע באמצע משפט ולא למצוא את המילה המתאימה. הבחירה של המילים האלה - אני לא יודעת איך היא קורית, אבל אם נחזור למשפט שכתבתי קודם - אם יש תהליך שניתן לבצע באמצעים "פשוטים" (יחסית), יכול להיות שזה אכן מה שקורה. אנחנו רואים שהכלים של בינה מלאכותית מגיעים לתוצאות טובות בשיטות שבהן הם עובדים, ולכן זה לא נראה לי מופרך לחשוב שחלק מתהליך בנית המשפט במוח שלנו יפעל באופן דומה. אני לא חושבת שזה הכל - ודאי שלא, אבל תהליך מסוים כחלק מתהליכים רבים (מסובכים יותר ממנו)? אולי.

אבל ברור שלי שהAI לעולם יוכל לחקות רק את הצדדים הטכניים באופן חשיבה שלנו ולא מעבר לכך (כולל הטיות וכדו', אבל זה עדיין רק טכני).

אני מאמינה ש"אני החושב" בכללותו הוא ישות בלתי ניתנת להגדרה טכנית.

כשמארי קירי החלה לצרוך אנרגיה (קרינה רדיואקטיבית) במעבדה [ובאופן מסוכן להחריד עקב אי ידיעת עוצמתה של התפרקות גרעינית], זה היה "מופלא" יחסית למה שחשבו עשרים שנה קודם לכן על טבע החומרים. אבל זו בסך הכל היתה הדגמה טכנית (אם כי מזעזעת בהשלכותיה, את המחברות של קירי עדיין שומרים בתיבות עופרת מעוצמת הקרינה שנושרת מהן) של ידע חדש שהוציא פוטנציאל הנדסי מחומרי גלם. לא רואה שום דבר שאיננו "טכני" בהקשר זה. גם הוכחת אינסופיות מספר המספרים הראשוניים - מתמטיקה טהורה ועתיקה - היא "טכנית", כי היא בסך הכל מוציאה מסקנה מרשימה מהבנות קודמות יסודיות. אולי האלגנטיות המתמטית ורוממות המסקנה הן "מופלאות", אבל ודאי אין בזה כל קסם אל-טבעי.
לעצם הדיון, מה שהושג עד עכשיו לא באמת יודע לנהוג כראוי בכבישי העולם באורח חופשי. וכמובן לא "מבין" מכוח עצמו חידות מתמטיות לא פתורות (כגון השערת גולדבאך). לי לא מוכר שום מהלך לוגי שמחייב שבינה מלאכותית תשיג אי פעם את יכולת החשיבה האנושית.

אני חושבת שזה לגמרי הדיון, וקשור באופן הדוק למה שכתבת "לעצם הדיון": בהחלט בינה מלאכותית כיום רחוקה מהבינה האנושית ואף אחד לא יכול לומר שהוא יודע בוודאות לאן היא תוכל להגיע. אף אחד גם לא יכול לומר שהוא יודע בוודאות לאן היא לא תוכל להגיע.

אם נעקוב אחרי אופן הפעולה של הAI נגלה בסה"כ מתמטיקה מתוחכמת במיוחד, המבוססת על מאגרים עצומים של טקסטים קיימים.

לדעתי הטענה שגם המח שלנו עובד בשיטה מתמטית דומה המסתמכת על מאגרי הידע הפנימיים שלנו, היא טענה אמנם מפתה אך לא נכונה.

ניקח רק דוגמה: הAI מחשב את המילים עם ההסתברות הגבוהה ביותר להופיע בהמשך המשפט, ובוחר אחת מהן באופן "אקראי" על מנת ליצור שפה "טבעית".

זהו ניסיון מלאכותי ביותר לחקות את הספונטניות האנושית, שנובעת מהיותנו ישות חושבת שאינה חומרית לחלוטין שפשוט לא  ניתן למדל.

אני מסכימה שבני אדם אינם חומריים לחלוטין, אבל אני לא בטוחה ש"ישות *חושבת* שאינה חומרית לחלוטין" תופס את הנקודה בה בני אדם אינם חומריים. כלומר, אני לא בטוחה עד כמה חשיבה דווקא היא מותר האדם מן המכונה... אני בהחלט מקווה ורוצה שיהיה הבדל מהותי כזה, אבל אין לי סיבה מספיק חזקה להאמין שדווקא זו אכן המציאות (גם אין לי סיבה חזקה להאמין דווקא הפוך. כרגע נראה לי שאנחנו לא מספיק מבינים את הסוגיה), ולכן כמו שכתבתי בכותרת: למיטב שיפוטי, זו השערה בלבד.

(אני כן חושבת שתודעה ורצון ובחירה הן תכונות אנושית לא חומריות, שלטעון שהן תופעת לוואי של חומר מספיק מתוחכם לא נשמע משכנע.)

אם תודעה, רצון ובחירה הן תכונות אנושיות לא חומריות, אז למעשה הן לא ניתנות למידול ולכן לא ניתנות לחיקוי ע"י AI (שהוא מודל, כמובן).

כשהשתמשתי במילים "ישות חושבת" התכוונתי לעולמו הפנימי של האדם שכולל בתוכו את התכונות הנ"ל, מה שלא יהיה לעולם ל-AI.

"חשיבה" לא נראה לי נכון. אפשר אולי לומר שחלק ממה שאנו קוראים לו חשיבה *תלוי* בהם (אולי, זו השערה). אבל אין זהות בינם לבינה. 

ב"חשיבה" אני כוללת כל מיני דברים שאנשים לרוב כוללים במונח הזה: עיבוד מידע, הסקת מסקנות, פתרון בעיות, סינתזה של רעיונות ליצירת יצירה ספרותית / ויזואלית / מוזיקלית וכו' חדשה.

שזה כולל את התודעה, הרצון, וגם הרגש וכדו'

מה שהגדרת כחשיבה, אני מצטטת:

"עיבוד מידע, הסקת מסקנות, פתרון בעיות, סינתזה של רעיונות ליצירת יצירה ספרותית / ויזואלית / מוזיקלית וכו'"

זה בחלט יכול להיחשב טכני וניתן למידול, למעשה הAI כבר עושה את זה.

אבל תודעה, רצון או רגש הם בלתי ניתנים למידול.

הם לא תוצר של מתמטיקה ומאגרי נתונים מספיק גדולים.

יש כאלה שאומרים שהוא מעביר מידע

נו באמת, כאילו קיים שירות באינטרנט שלא שומר עלינו מידע. שקוף

דרך אגב, GPT מעולם לא ניסה להסתיר שהוא שומר מידע כזה

האם נעשה סחר במידע הזה לצרכי שיווק וכדו'? יתכן. גם לפני עידן ה-AI

שבתשלום.  

הייתי בשבוע שעבר בהרצאה של ד"ר אייל דורון.

ד"ר אייל דורון - חוקר ומפתח חשיבה יצירתית הנוגעת לכל תחומי החיים

הוא בפירוש הדגיש את העובדה הזו.

שממליץ מאוד לשלם את ה 20$ בחודש לחשבון אישי ב ChatGPT, ואז הפרטיות מובטחת.

בפרט כאשר נעזרים ב AI לנתח מידע מסחרי, מידע פיננסי אישי, וכל דבר שלא היינו רוצים שמידע מאיתנו יצא משליטתנו. 

נ.ב. קראתי את המילה "שבתשלום" - שבת שלום..

כל פעם כשאני מצליח לצאת ממנו, אני מופתע כל פעם מחדש.

ת'אמת, שזה לא בדיוק 'מצליח' אלא שהשם מוציא אותי ממנו.

אבל נשמע מסקרן הנושא

מעצמי אני לא מתייאשת (כנראה) אף פעם

אני יודעת שתמיד יש דרך להשיג את מה שאני רוצה

לפעמים זה לוקח זמן למצוא/ ליישם אותה

מאחרים כן

אני לא נותנת צ'אנס שוב ושוב

אני לא מצפה מאנשים לעשות אחרת ממה שהם תמיד עושים 

לגבי עצמי.

השאלה היא אם זה נכון ו/או מציאותי ומעשי

במילים אחרות

סטנדרטים גבוהים

עצמיים ומאינטרקציה עם הסובבים

באופן מעשי זה אומר לסמוך בעיקר על עצמי

להבין יתרונות/ חסרונות של הסובבים

ולפעול בהתאם 

לפעמים לוקח שנים כדי להבין את עומק הייאוש שאתה מיואש ממישהו אחר..

אני מבין שאת מהוותיקות פה

קמתי במצב רוח קרבי..

אשמח להבין מה הפריע לך, כי אני לא ראיתי שום בעיה במה שכתבתי.

(אני גם לא מגיב פה הרבה בכללי...)

ולא את ציבור הבית שלך.

אולי יש קבוצה של חברים מסביבך שזה השיח בה, אבל זה לא מה שעובר על הציבור כולו, לא מה שקורה בעיתונים החרדיים, לא מה נאמר אצל הרבנים, לא מה שהיה במשך היסטוריה שלמה.

ויש לציין שאתה שם אותנו במילכוד, כי אם נהיה "נגד" מה שאתה אומר אז זה פוגע בך, ואם נהיה "בעד" אז אנחנו נעשה שקר בנפשנו.

תוכל לעזור לנו להבין איך לשוחח איתך?

יש לציין שגם אני מתמודד עם השאלה הזו, בקשר לאיך לתקשר עם עצמי

את יכולה להרגיש. קודם כל.

אפשר להציע/להזמין. אפשר לעשות את 'העבודה' בצד שלך. אבל בצד שלה,  אם היא לא רוצה אין באמת משהו שאת יכולה לעשות. זה שלה.

לכתוב. שוטף. בלי הפסקה. לפחות 5 פסקאות.

אבל לצערי שמעתי על כמה סיפורים כאלה, שהמקור שלהם היה איזו חוויה לא נעימה מלפני הרבה שנים. אולי בעלך החמוד עשה משהו ששידר משהו... (לפעמים זה איזה תת מודע מדברים מהילדות, שמעוררחם אצלה קנאה או כאב כלשהו. כל עוד את הקטנה, יש יותר סיכוי שאת לא זוכרת/מודעת להכל).

את יודעת מה פער הגילים ומה הגיוני וכדו'.

בכל מקרה, אין המון מה לעשות עם הדברים האלה. נשמע שאתן חיות בטןב למרות הקרירות הזו, אז אולי אפשר להניח לזה ככה...

יכול להיות חוויה ישנה, אבל יכול להיות יותר אופי שמשהו באופי שם נח לה יותר מהאופי במשפחה.

לא רוצה לפרט אבל מישהו מהמשפחה- שאני מאוד מאוד אוהב ורוצה קשר חי- לא כל כך קשור אליי בלשון המעטה, בשלב כלשהו פתאום קלטתי שמאז שהתחתן כשמגיע אלינו שבתות לא היה אומר לי שלום ישיר/נותן איזה חיבוק/ אפילו לא מיישיר מבט. לאחים אחרים כן.

אותו דבר כשהיה הולך, כואב לי מאוד. ברור לי שלא ממקום רע.

פתאום גם קלטתי שהמון דברים שאני עובר לאחרונה הוא אפילו לא מודע אליהם. אפילו ברמה הטכנית ובטח שלא בקטע ריגשי.

הוא גם מאוד מאוד מחובר למשפחה של הצד השני ומרגיש שם בבית (כל הכלות והחתנים שלהם זה ככה)..

אבל יש כמה דברים שדי ברורים לי לוידע למה אבל נראלי אין היגיון בלא להסכים עם זה.

כמובן הכל רק לדעתי והרגשתי..

א- לומשנה כמה הוא מרגיש טוב עם המשפחה של הצד השני, ברור שכמו שהוא חסר לי ככה אני חסר לו, אין תחליף למשפחה, אח או אחות, לכן, אם אנחנו מדברים על חוסר אמיתי, שהוא לא רק דמיון בראש שלי ברור שגם הצד השני סובל מהמציאות הזו ורוצה משהו אחר..

ב- בחיים בחיים אני לא אסכים עם אמירה של לא נורא תוותרי ותמשיכי ככה, סך הכל אין מריבות.. (לפעמים חוסר קשר כואב וקשה הרבה יותר ממריבה, וגם אם לא), ברגע שיש תביעה (דו צדדית, ושוב, כנראה שיש) לקשר עמוק, אם לא נרווה את זה, זה לעולם לא סתם 'יירגע'.. זה יעני תביעה בנפש שתישאר..

ג- אז לעצמי אני אומר.. קודם כל לא להתייאש מהקשר. ואז גם לא לכעוס על הצד השני.

ד- אולי לאט לאט לפתח איתה קשר. אבל ממש לאט בהדרגה, לשלוח הודעה, להגיד שלום. ומתישהו אפילו לדבר על עצם הניתוק. לצערי בשלב די עוד אין לי ניסיון..

בהצלחה ממש!

האמת, סורי אבל נחמד לדעת שיש עוד איתך בסירה..

פשוט הרגשתי הזדהות ממש חזקה עם המון פרטים שכתבת. וכמה תגובות, סליחה, אבל נראות לי ממש מוטעות שיובילו לעוד כאב וחיים פחות בריאים..

ממש מקווה להצלחתך

זה נראה כאילו תוצאה של מה שהיה בבית ההורים קודם.

זה מאד מוערך שאת מרגישה את החוסר ואת זה שצריך אחרת.

האם לדעתך אפשר לבנות קשר חדש?

את רוצה בזה?

דווקא אחרי הנישואין מגלים כמה אנחנו צריכים את האחים שלנו הרבה יותר מאי פעם..

וגם תלוי בזמנים.

לאחרונה נגע בי השיר "שווים"

יש לי מלא שירים וזמרים

כל שיר כמעט ונוגע בי לא משנה באיזה שפה..

אבל יש זמר שאני ממש אוהבת

זה רון בוחניק

כולם פתאום עוברים שינויים ביחד