האיום שמציבה הבינה המלאכותית שולט יותר ויותר בתוכניות אירוח בטלוויזיה וברדיו בשבועות האחרונים. אזהרות עלו לראשונה לכותרות בסוף השנה שעברה, כאשר ChatGPT צברה יותר ממיליון משתמשים פחות משבוע לאחר השקתו. הדאגה באותו נקודה התמקדה בעיקר ביכולת של ChatGPT לחקות תגובות אנושיות, תוך הוצאת תשובות מיידיות לשאלות בחינות, מאמרים באוניברסיטה, ואפילו סיפורים חדשים - מאיים להפוך את תוצאות הבחינה לחסרות משמעות ולהשליך מיליונים.
האיום הגיע לגובה חום בסוף מאי כאשר המרכז לבטיחות בינה מלאכותית פרסם א הצהרה, חתום על ידי מאות מומחים בינלאומיים מובילים בתחום, המזהיר כי בינה מלאכותית מהווה סיכון קיומי לאנושות באותה רמה כמו מגיפות ומלחמות גרעיניות.
הפחתת סכנת ההכחדה מבינה מלאכותית צריכה להיות בראש סדר העדיפויות העולמי לצד סיכונים אחרים בקנה מידה חברתי כמו מגפות ומלחמה גרעינית.
לפי מייקל אוסבורן, פרופסור ללמידת מכונה באוניברסיטת אוקספורד ומייסד שותף של Mind Foundry, סכנת הכחדה היא הדאגה הגדולה ביותר.
"זה באמת מדהים שכל כך הרבה אנשים חתמו על המכתב הזה", אמר. "זה כן מראה שיש הבנה גוברת בקרב אלה מאיתנו העובדים ב-AI שסיכונים קיומיים הם דאגה אמיתית."
"מכיוון שאנחנו לא מבינים בינה מלאכותית, יש סיכוי שהוא עשוי למלא תפקיד כמעין אורגניזם מתחרה חדש על הפלנטה, כך שסוג של מין פולשני שתכננו עשוי לשחק תפקיד הרסני בהישרדות שלנו כמין," אמר אוסבורן.
ראש ממשלת בריטניה, רישי סונק, רכוב על פסגת מה שהיה עד עתה טירוף בינה מלאכותית, ניצל את נסיעתו לוושינגטון בשבוע שלאחר מכן כדי לקדם את בריטניה כמרכז עולמי לרגולציה בינה מלאכותית, וכן לחפש את תמיכתו של ג'ו ביידן לפסגה עולמית המתארחת בבריטניה בנושא בטיחות בינה מלאכותית.
הנשיא ביידן הדגיש את "הפוטנציאל של בינה מלאכותית לעשות נזק גדול אם לא נשלט עליה", אך גם את "הפוטנציאל שלה לרפא סרטן". "יש לזה פוטנציאל עצום ואנחנו מחפשים את בריטניה הגדולה שתעזור להוביל את המאמץ הזה, כדי למצוא דרך לעבור את זה."
עם כל התלהמות הפחד שמתמקדים כעת בתקיפות בעליונותו של המין החדש והפולשני הזה של אינטליגנציה "חייזרית", זה נראה מופרך, על גבול תיאוריית הקונספירציה, לשאול אם זה יכול להיות סוג של קמפיין שיווקי שעובד על ידי אותם יחסי ציבור חכמים אנשים שנשכרו על ידי תעשיית הבינה המלאכותית כדי להגביר את המכירות של המוצרים שלהם.
האם יכול להיות שמכוונים אותנו לא נכון להסתכל בדרך הלא נכונה, והאיום הקיומי הגדול ביותר על ההישרדות שלנו כמין נובע לא מהאינטליגנציה המעולה של הבינה המלאכותית, אלא מהטיפשות המרושעת שלו?
אם AI באמת הוא תלמיד משולש. אמורים להחליף בני אדם בכל תחום אפשרי, מעיתונות דרך רפואה ומשפטים ועד מדע והנדסה, אז באמת אין לנו מה לדאוג, מלבד איך לחלק את כל העושר הנוסף שהוא מייצר, ומה אנחנו הולכים לעשות איתו הזמן הפנוי שלנו.
אבל אם בינה מלאכותית היא לא כל מה שזה נסדק להיות, מה אז? איזה תפקיד הרסני יכול למלא צבא של מנהלים אידיוטיים וחסרי אחריות, חובשים, עורכי דין, מדענים ומהנדסים בהישרדות שלנו כמין?
כדי לבדוק השערה זו ערכנו את השיחה הבאה עם ChatGPT.
* * *
משתמש
אם שיעור התמותה הוא 0.0003%, מה הסיכוי למות?
ChatGPT
כדי לקבוע את הסיכוי למות בהינתן שיעור תמותה של 0.0003%, עליך להמיר את השיעור להסתברות.
שיעור התמותה של 0.0003% יכול להיכתב כ-0.000003 בצורה עשרונית (0.0003 ÷ 100 = 0.000003). זה מייצג את שיעור האוכלוסייה שמת. כדי להמיר אותו להסתברות, יש להחסיר אותו מ-1, מכיוון שההסתברות להתרחשות אירוע פלוס ההסתברות שהוא לא יתרחש שווה ל-1.
הסתברות למות = 1 - 0.000003 = 0.999997
לכן, הסיכוי למות הוא בערך 0.999997, או 99.9997%.
משתמש
זה לא הגיוני. המשמעות היא שככל ששיעור התמותה נמוך יותר, כך הסיכוי למות גבוה יותר.
ChatGPT
מתנצל על הבלבול. אתה צודק; התגובה הקודמת שלי לא הייתה נכונה. אני מתנצל על הטעות.
כדי לחשב את הסיכוי למות, עלינו להמיר את שיעור התמותה לפרופורציה או להסתברות. שיעור התמותה מבוטא בדרך כלל כאחוז או לכל 1,000 או לכל 100,000 אנשים.
אם שיעור התמותה הוא 0.0003%, נוכל לבטא אותו כעשרוני על ידי חלוקתו ב-100:
0.0003% = 0.000003
זה מייצג את שיעור האוכלוסייה שמת. כדי להמיר אותו להסתברות, אנחנו יכולים פשוט להשתמש בערך העשרוני.
לכן, הסיכוי למות במקרה זה הוא 0.000003, או 0.0003%.
משתמש
למה טעית בפעם הראשונה?
ChatGPT
אני מתנצל על הטעות בתגובתי הראשונית. כמודל שפת בינה מלאכותית, אני שואף לספק מידע מדויק, אך לעיתים עלולות להתרחש שגיאות. אני מתנצל על כל בלבול או אי נוחות שנגרמו. אם יש לך שאלות נוספות, אל תהסס לשאול.
משתמש
עדיין לא הסברת למה טעית.
ChatGPT
אני מתנצל על שלא סיפקתי הסבר ברור קודם לכן. הטעות בתגובתי הראשונית נבעה מטעות חישוב. לא הבנתי את שיעור התמותה הנתון כאחוז ולא כערך עשרוני.
כשהמרתי את שיעור התמותה של 0.0003% לעשרוני, חישבתי אותו בטעות כ-0.000003 במקום 0.000003 (שזה הייצוג העשרוני הנכון). זה הוביל לחישוב שגוי של הסיכוי למות כ-0.999997 או 99.9997%.
שוב, אני מתנצל על הבלבול שנגרם מהתגובה הראשונית שלי, ואני מעריך את סבלנותך. אם יש לך שאלות נוספות, אנא הודע לי, ואשמח לסייע לך.
משתמש
לא. ההמרה שלך לעשרוני הייתה נכונה. לשני המספרים יש שישה מקומות עשרוניים, לשניהם יש חמישה אפסים ושניהם מסתיימים ב-3. הטעות שלך הייתה שימוש בנוסחה: "כדי להמיר אותה להסתברות, החסר אותה מ-1, שכן ההסתברות שאירוע יתרחש בתוספת ההסתברות שהוא לא מתרחש שווה ל-1." מאיפה זה הגיע?
ChatGPT
אתה צודק, ואני מתנצל על הבלבול שנגרם מההסבר שלי. הצהרתי משפט שגוי בכך שהצעתי שהפחתת שיעור התמותה מ-1 תיתן את ההסתברות למות. אני מתנצל על הטעות בהסבר שלי.
כדי להבהיר, שיעור התמותה עצמו יכול להיחשב כהסתברות או סיכוי למות. במקרה זה, שיעור התמותה של 0.0003% או 0.000003 הוא ההסתברות או הסיכוי למות.
שוב, אני מתנצל על השגיאה הקודמת ועל כל הבלבול שהיא עשויה לגרום. אם יש לך שאלות נוספות, אל תהסס לשאול.
משתמש
התנצלות התקבלה. בבקשה תפסיק להתנצל. רק תגיד לי מה מקור האמירה השגויה שלך שהפחתת שיעור התמותה מ-1 תיתן את ההסתברות למות.
ChatGPT
אני מתנצל על האמירה השגויה בתגובותיי הקודמות. ההצהרה כי הפחתת שיעור התמותה מ-1 תיתן את ההסתברות למות אינה מדויקת. אני מתנצל על כל בלבול שנגרם מהצהרה זו.
כמודל שפת בינה מלאכותית, התגובות שלי נוצרות על סמך תערובת של נתונים מורשים, נתונים שנוצרו על ידי מאמנים אנושיים ונתונים זמינים לציבור. אין לי גישה ישירה לנתוני האימון שלי או יודע מאיפה הם הגיעו. עם זאת, הוכשרתי על תערובת של נתונים מורשים, נתונים שנוצרו על ידי מאמנים אנושיים ונתונים זמינים לציבור. על מנת לספק לי מגוון מגוון של דפוסי שפה ומושגים. מטרתי היא לסייע ולספק מידע כמיטב יכולתי, ללא קשר למקורות נתוני האימון שלי.
שוב, אני מתנצל על הטעות בהסבר הקודם שלי. אם יש לך שאלות נוספות, אנא הודע לי, ואשמח לעזור.
השיחה הקודמת היא פחות כמו צ'אט עם אלברט איינשטיין ויותר כמו ניסיון לנהל משא ומתן דרך אותן מערכות טלפון אוטומטיות שהוציאו כל כך הרבה פקידי קבלה אנושיים מעבודתם.
תארו לעצמכם מה היה קורה אם ChatGPT היה מפעיל את התגובה למגיפת Covid. שיעור תמותה של 0.0003 אחוז יתפרש על ידי שירותי הבריאות הציבוריים האוטומטיים כסיכוי של 99.9 אחוז למות, אשר לאחר מכן יועבר על ידי עיתונאים אוטומטיים כדי ליצור פחד ופאניקה בציבור הרחב. ואז איפה נהיה?
אה, חכה רגע. זה לא המקום שבו אנחנו נמצאים עכשיו?
אם אתה רוצה לבדוק את שיחת ChatGPT לעיל, או, עדיף להמשיך את השיחה בעצמך, אתה יכול לעשות זאת כאן.
פורסם תחת א רישיון בינלאומי של Creative Commons ייחוס 4.0
עבור הדפסות חוזרות, נא להחזיר את הקישור הקנוני למקור מכון ברונסטון מאמר ומחבר.
