ממה אנשים מתעלמים בויכוח AI

מעניין היה לציין את מה שנכתב על בינה מלאכותית (AI) בשבועות האחרונים, במיוחד בכל הנוגע להייפ סביב ChatGPT. עד כמה שאני יכול לשפוט, רוב זה מסתכם בעצם בתפיסה, או הפחד, שבינה מלאכותית גברה על בני אדם בכל הקשור לאינטליגנציה. של ד"ר הארווי ריש חשבון מאיר עיניים של 'השיחה' שלו עם AI הוכיח היטב שזו תפיסה שגויה, ובכל זאת נראה שהיא נמשכת בכל מקרה. 

חוויה שעברתי לאחרונה עם חובב ChatGPT מעבירה את אותו רושם לגבי האמונה הרווחת שה-AGI האחרון (בינה כללית מלאכותית) הוא השווה, אם לא המעלה על בני האדם במחלקת החכמה. זה התרחש לרגל הרצאה שנשאתי בפני חברי ארגון תרבות בנושא המידה שבה עבודתם של פרויד וחנה ארנדט יכולה לספק תובנה לגבי הצמיחה הנוכחית של אמצעי שליטה טוטליטריים ערמומיים ברחבי העולם. 

התפתחות מובהקת כזו היא הניסיון של ארגון הבריאות העולמי לשדוד את ריבונותן ממדינות על ידי תיקון מוצלח של החוקה שלו. הניסיון הזה נכשל לפני שנתיים כאשר מדינות אפריקאיות התנגדו לתיקונים המוצעים, אבל ב-2024 ארגון הבריאות העולמי ינסה שוב, לאחר שבינתיים לחצה נמרצות על מנהיגי אפריקה.

בעקבות ההרצאה שלי, מישהו קשר את הנושא שלו ל-AI. באופן ספציפי, זה נוגע לטענתי שהמושגים של פרויד של ארוס (דחף חיים) ותאנאטוס (דחף מוות), מצד אחד, והמושגים של ארנדט לגבי לידה (כל אדם מביא משהו ייחודי לעולם דרך היוולדו) ו רוֹב קוֹלוֹת (כל בני האדם שונים), מאידך, שופכים אור על טבעה של הטוטליטריות. זה גם קשור לשאלה האם הטוטליטריות יכולה להתקיים על ידי מי שמקדם אותה. התברר שאחרי שנושא ההרצאה שלי הופץ, הוא ביקש מ-ChatGPT להגיב עליו, והביא את ה'תשובה' של ה-AI לפגישה בפורמט מודפס כדי להראות לי.

כצפוי, עבור מכונת מחקר לשונית המאפשרת זיהוי תבניות וחיזוי עם מסד נתונים עצום (שזה מה ש-ChatGPT באמת) לא היה קשה לפרק במדויק את המשמעות של המושגים הפרוידיאניים והארנדטיאניים הרלוונטיים - כל תלמיד יכול למצוא זאת באינטרנט או גם בספרייה. אבל המקום שבו הבינה המלאכותית דשדשה נגע לקשר שיצרתי בין רעיונותיהם של הוגים אלה לבין אירועים עכשוויים המתרחשים במרחב הגלובלי.

נזכיר שהשתמשתי במושגים של פרויד וארנדט בצורה היוריסטית ביחס למה, ככל הנראה, סימנים ל'מהלכים' טוטליטריים שנעשו כיום בתחומים מוסדיים שונים. ChatGPT - שוב כצפוי - עשה (ואפשר לטעון יכול) לא לפרט על הקשר שרמזתי בכותרת המופצת של הרצאתי, ופשוט 'הצהרתי' שיש קשר 'איזושהי' בין רעיונותיהם של שני הוגים אלה לבין טוטליטריות.

הסיבה לכך צריכה להיות ברורה מיד. בשום מקום במסד הנתונים של ChatGPT אין מידע כלשהו - במתכונת של פרשנות קריא - לאלו אירועים כמו הניסיון המתמשך של ארגון הבריאות העולמי להפוך לגוף המנהל בעולם (המוזכר לעיל), הם סימפטומטיים, כלומר משטר טוטליטרי עולמי מתחיל. כדי ש-ChatGPT (או כל בינה מלאכותית אחרת) יוכלו להמציא 'פרשנות' כזו, היא תצטרך להיות מוזנת למסד הנתונים שלו על ידי המתכנתים שלה - מה שלא סביר, אם לא בלתי מתקבל על הדעת, בהתחשב בביקורת המרומזת שלו על עצם קונסטלציה של כוחות שהולידו את הבנייה של ChatGPT - או שה-AI יצטרך להחזיק את היכולת שיש לכל בני האדם ה'נורמליים', כלומר להיות מסוגלים לפרש את העולם החווייתי סביבם. ברור שלאף AI אין יכולת כזו בגלל התלות שלו בתכנות. 

בן שיחי חלק על תגובת ההסבר הזו מצידי, בטענה ש-ChatGPT מראה את יכולתו 'לנמק' בכל 'תשובה' שהוא מגיע איתה לשאלות שאפשר לשאול. זה, ציינתי, אינו תיאור מדויק של מה שה-AI עושה. זכור: ChatGPT מייצר תגובות אנתרופומורפיות בשפה היומיומית לשאלות המועלות אליו. הוא עושה זאת על ידי שימוש בדוגמאות שזוהו במערך הנתונים העצום שיש לו גישה אליהם, ומאפשרות לו לחזות מילים עוקבות במשפטים. ניסוח תמציתי: הוא מסוגל למצוא דפוסים סטטיסטיים במסדי נתונים ענקיים אלה, באמצעות 'למידת מכונה'. 

זה לא מה שהנמקה, כפי שכל תלמיד שלמד לוגיקה ותולדות הפילוסופיה צריך לדעת - כפי שטען רנה דקארט ב-17^th המאה, חשיבה היא שילוב של תובנות אינטואיטיביות והסקת מסקנות או דדוקציה. מתחילים עם תובנה אינטואיטיבית - נניח שהאורות כבו - ומשם מסיקים שאו שמישהו כיבה אותם, או שאספקת החשמל נפגעה. או שאפשר לנמק (על ידי דדוקציה) מקבוצה אחת של נתונים (התובנה האינטואיטיבית) שאחרת סביר או לא סביר. בשום זמן אין לפנות לכמויות אדירות של נתונים שאדם סורק אחר דפוסים המציגים קווי דמיון, ומיזמים תחזיות צפויות על בסיס זה.

אף על פי כן, כפי שניתן לדעת מדעני מחשבים כגון ד"ר ארווינד נאריאנן, פרופסור למדעי המחשב באוניברסיטת פרינסטון, אנשים (כמו בן שיחי) מתעתעים בקלות על ידי AI כגון ChatGPT מכיוון שהוא נראה כל כך מתוחכם, וככל שהם הופכים יותר מתוחכמים, כך יהיה קשה יותר למשתמשים לזהות את החסרונות שלהם בנוגע הנמקות פסאודו כמו גם הטעויות שלהם.

כפי שד"ר Narayanan מציין, תשובותיו של ChatGPT לכמה שאלות בבחינת מדעי המחשב שהציג לה היו מזויפות, אך הן נוסחו בצורה כה מופרכת שהשקר שלהן לא היה ברור מיד, והוא נאלץ לבדוק אותן שלוש פעמים לפני שהיה בטוח שזה היה המקרה. עד כאן היכולת המפורסמת של ChatGPT 'להחליף' בני אדם.

עם זאת, צריך לזכור שמה שנדון עד כה במונחים השוואתיים הוא הנושא, האם AI כמו ChatGPT פועל באותו אופן כמו בני אדם ברמת האינטליגנציה, הנוגעת להבדלים כמו חשיבה לעומת זיהוי דפוסים, וכולי. אפשר לנסח את השאלה גם במונחים של נחיתות ועליונות, כמובן, ויש הטוענים כי בני אדם עדיין מופיעים להערים על AI, גם אם AI יכול לבצע חישובים מתמטיים מהר יותר מבני אדם. 

אבל רק כאשר מעבירים את השטח, ניתן לראות את ההבדלים הבסיסיים בין בן אנוש, בהסתכלות הוליסטית, לבין AI, חכם ככל שיהיה, בפרספקטיבה. אנשים שעוסקים בוויכוח על בני אדם בניגוד לבינה 'מלאכותית' מתעלמים מכך, מהסיבה הפשוטה שהאינטליגנציה היא לֹא כל מה שחשוב. 

כדי להמחיש למה אני מתכוון, חשבו על מה שקרה בין אלוף העולם בשחמט גארי קספרוב לבין ®Deep Blue דיפ בלו, 'מחשב העל' של יבמ ב-1997. לאחר שהובס על ידי קספרוב ב-1996, ®Deep Blue דיפ בלו השיגה את הניצחון הראשון על בן אנוש על ידי מכונה בשנה שלאחר מכן, וגם אז - כמו ב-ChatGPT היום - הייתה קינה אוניברסלית על "מוות" כביכול של המין האנושי, המיוצג על ידי מחשב שמתגבר על קספרוב ( AI). 

כמו היום בנוגע ל-ChatGPT, התגובה הזו הייתה מסמלת את השגיאה שביצע הרוב המכריע של האנשים כשהם שופטים את היחסים בין AI לבני אדם. בדרך כלל הערכה כזו מתבצעת במונחים של קוגניציה, על ידי הערכה מה יותר 'אינטיליגנטי' – בני אדם או מכונות. אבל צריך לשאול האם אינטליגנציה הייתה המדד המתאים - שלא רק, המתאים ביותר - להשוואת בני אדם ומחשבים (כנציג של AI) אז, ואכן עכשיו. 

מובן שההשפלה של קספרוב על ידי המכונה דווחה בכל מקום באותה תקופה, ואני זוכר שנתקלתי בתיאור כזה שבו הכותב הראה הבנה טובה של מה יש לי בראש כשאני מתייחס לימין, או אמות מידה מתאימות להשוואה בין בני אדם לבין AI. לאחר ששיחזר את הפרטים המדכאים של המסלול ההיסטורי של קספרוב על ידי ®Deep Blue דיפ בלו, סופר זה פנה לפנטזיה הומוריסטית, אך מספרת מעט.

לאחר התבוסה הסמלית של האדם, היא או הוא ספידו, צוות המהנדסים ומדעני המחשב שתכננו ובנו ®Deep Blue דיפ בלו יצאו לעיר כדי לחגוג את נצחונם העידן. זה יהיה שגוי לכתוב 'הניצחון של המכונה שלהם', כי למהדרין זה היה הצוות האנושי שהשיג ניצחון באמצעות המחשב 'שלהם'.

הפאנץ' ליין היה מוכן כאשר הסופר שאל, באופן רטורי, האם ®Deep Blue דיפ בלוגם הוא יצא לצבוע את העיר באדום בוורוד בהיר כדי להתענג על כיבושה. מיותר להדגיש, התשובה לשאלה הרטורית הזו שלילית. אחריו הגיע הפאנץ'ליין, שקבע את המובן מאליו; כלומר, ש'בני אדם חוגגים; מחשבים (או מכונות) כן לֹא." 

במבט לאחור, מפתיע שהכותב הזה היה בעל חזון מסוגים, שהשתמש בפיקציה כדי להדגיש את העובדה שלמרות שבני אדם ובינה מלאכותית חולקים 'אינטליגנציה' (אם כי מסוגים שונים), לֹא לסמן את ההבדלים הברורים ביותר, בלתי ניתנים לצמצום, בין AI ואנשים. ישנם הבדלים אחרים, הרבה יותר מכריעים, בין בני אדם לבין AI, שחלקם נחקרו כאן ו כאן .