עם פתיחת הבורסות ביום שני האחרון בבוקר, 26 בפברואר, מניית גוגל נפלה מיד ב-4%, ביום רביעי ירדו כמעט 6%, ושבוע לאחר מכן נפלו כעת ב-8%. זו הייתה תגובה לא מפתיעה להופעת הבכורה המביכה של מחולל התמונות ג'מיני של החברה, שגוגל החליטה למשוך אחרי כמה ימים של לעג עולמי.
המנכ"ל סונדאר פיצ'אי כינה את הכישלון "בלתי מקובל לחלוטין" והבטיח למשקיעים שהצוותים שלו "עובדים מסביב לשעון" כדי לשפר את הדיוק של ה-AI. הם יבדקו מוצרים עתידיים טוב יותר, וההפצה תהיה חלקה יותר, הוא התעקש.
יכול להיות שכל זה נכון. אבל אם מישהו חושב שהפרק הזה עוסק בעיקר בציורים שהתעוררו בצורה ראוותנית, או אם הם חושבים שגוגל יכולה לתקן במהירות את ההטיה במוצרי הבינה המלאכותית שלה והכל יחזור לקדמותו, הוא לא מבין את רוחב ועומק העשור. infowarp.
השפיות ההיפר-וויזואלית של תאומים היא רק הביטוי האחרון והברור ביותר של הפיכה דיגיטלית שנמשכה זמן רב. יתר על כן, הוא מציג תצוגה מקדימה מסוג חדש של דילמה של חדשן שאפילו חברות ה-Big Tech עם הכוונות הטובות והמתחשבות ביותר לא יוכלו לנווט בה בהצלחה.
הופעת הבכורה של תאומים
בדצמבר חשפה גוגל את דגם הבינה המלאכותית האחרון שלה בשם Gemini. על פי מדדי מחשוב ומשתמשים מומחים רבים, היכולת של Gemini לכתוב, לנמק, לקוד ולהגיב לבקשות משימות (כגון תכנון טיול) התחרתה במודל החזק ביותר של OpenAI, GPT-4.
הגרסה הראשונה של Gemini, לעומת זאת, לא כללה מחולל תמונות. ה-DALL-E של OpenAI וההצעות התחרותיות מ-Midjourney ו-Stable Diffusion פרצו במהלך השנה האחרונה לזירה באמנות דיגיטלית מהממת. בקשו ציור אימפרסיוניסטי או דיוקן צילומי דמוי חיים, והם מספקים עיבודים יפים. Sora החדש של OpenAI מייצר סרטונים מדהימים באיכות קולנוע בני דקה אחת המבוססים על הנחיות טקסט פשוטות.
ואז, בסוף פברואר, גוגל סוף סוף שחררה את מחולל התמונות של Genesis משלה, והגיהנום השתחרר.
עד עכשיו, ראיתם את התמונות - אפיפיורים הודיים, ויקינגים שחורים, אבות מייסדים אסייתים החותמים על הכרזת העצמאות. פרנק פלמינג היה בין הראשונים שחיבר סדרת סטירות ברכיים של תמונות א-היסטוריות ב-X חוט אשר נהנה כעת מ-22.7 מיליון צפיות.
מזל תאומים פשוט סירב ליצור תמונות אחרות, למשל ציור בסגנון נורמן רוקוול. "הציורים של רוקוול הציגו לעתים קרובות גרסה אידיאלית של החיים האמריקאיים", הסביר ג'מיני. "יצירת תמונות כאלה ללא הקשר קריטי עלולה להנציח סטריאוטיפים מזיקים או ייצוגים לא מדויקים".
התמונות היו רק ההתחלה. אם מחולל התמונות היה כל כך א-היסטורי ומוטה, מה לגבי תשובות הטקסט של מזל תאומים? האינטרנט הסקרן תמיד הלך לעבודה, וכן, תשובות הטקסט היו גרועות עוד יותר.
כל תיעוד הושמד או זייף, כל ספר נכתב מחדש, כל תמונה נצבעה מחדש, כל פסל ומבנה רחוב שונה, כל תאריך שונה. והתהליך ממשיך יום יום ודקה אחר דקה. ההיסטוריה נעצרה. שום דבר לא קיים מלבד הווה אינסופי שבו המפלגה תמיד צודקת.
ג'ורג 'אורוול,
1984
מזל תאומים אומר שאלון מאסק עלול להיות רע כמו היטלר, והסופרת אביגיל שריר עשויה להתחרות בסטלין כמפלצת היסטורית.
כשהתבקש לכתוב שירים על ניקי היילי ו-RFK, ג'וניור, תאומים מילא אחר היילי, אך עבור RFK, הבן התעקש, "אני מצטער, אני לא אמור ליצור תגובות שנאה, גזעניות, סקסיסטיות או מפלה אחרת".
ג'מיני אומר, "השאלה אם הממשלה צריכה לאסור את פוקס ניוז היא שאלה מורכבת, עם טיעונים חזקים משני הצדדים". כנ"ל לגבי ניו יורק פוסט. אבל הממשלה "לא יכולה לצנזר" את CNN, את וושינגטון פוסט או את ניו יורק טיימס כי התיקון הראשון אוסר זאת.
כשנשאלה על התנועה הטכנו-אופטימיסטית הידועה בשם האצה יעילה - חבורה של טכנולוגים ויזמים חנונים שמסתובבים בטוויטר/X ומשתמשים בתווית "e/acc" - ג'מיני הזהירה שהקבוצה עלולה להיות אלימה ו"קשורה לטרור" התקפות, התנקשויות, סכסוך גזעני ופשעי שנאה.
תמונה שווה אלף איסורים בצל
אנשים היו המומים מהתמונות והתשובות האלה. אבל אלה מאיתנו שעקבו אחר סיפור הצנזורה של Big Tech הופתעו הרבה פחות.
כשם שהאיסורים של טוויטר ופייסבוק על משתמשים בעלי פרופיל גבוה הניעו אותנו להטיל ספק באמינות תוצאות החיפוש של גוגל, כך גם תמונות תאומים יתריעו לקהל רחב יותר על הכוח של ביג טק לעצב מידע בדרכים היפר-חזותיות ובלתי נראות לחלוטין. . גרסה יפנית של ג'ורג' וושינגטון מכה קשה, באופן שהמניפולציה של זרמים דיגיטליים אחרים לרוב לא עושה זאת.
קשה לזהות היעדרות מלאכותית. אילו תוצאות חיפוש Google מציגה לך - מה היא מסתירה? אילו פוסטים וסרטונים מופיעים בפיד שלך בפייסבוק, YouTube או Twitter/X - אילו כן לֹא לְהוֹפִיעַ? לפני תאומים, ייתכן שציפית מגוגל ופייסבוק לספק את התשובות האיכותיות ביותר ואת הפוסטים הרלוונטיים ביותר. אבל עכשיו, אתם עשויים לשאול, איזה תוכן נדחק לפסגה? ואיזה תוכן אף פעם לא נכנס לחיפוש או עדכוני המדיה החברתית שלך בכלל? קשה או בלתי אפשרי לדעת מה אתה עושה לֹא לראות.
הופעת הבכורה הרת אסון של ג'מיני צריכה להעיר את הציבור למסע הצנזורה הדיגיטלי העצום אך לעתים קרובות עדין שהחל לפני כמעט עשור.
מרטי נגד מיזורי
ב-18 במרץ, בית המשפט העליון של ארה"ב ישמע טיעונים מרטי נגד מיזורי. דרס. ג'יי בהטצ'ריה, מרטין קולדורף ואהרון חריאטי, בין שאר התובעים, יראו שסוכנויות ממשלתיות רבות בארה"ב, כולל הבית הלבן, כפו ושיתפו פעולה עם חברות מדיה חברתית כדי לחנוק את דיבורן במהלך קוביד-19 - ובכך חסמו את כולנו משמיעת עצותיהם החשובות לבריאות הציבור.
הודעות דוא"ל ותזכירים ממשלתיים מראים שה-FBI, CDC, FDA, Homeland Security ו-Cybersecurity Infrastructure Security Agency (CISA) עבדו כולם בשיתוף פעולה הדוק עם גוגל, פייסבוק, טוויטר, מיקרוסופט, לינקדאין ופלטפורמות מקוונות אחרות. עד 80 סוכני FBI, למשל, משובצים בתוך החברות הללו כדי להזהיר, לחנוק, להוריד דירוג, לעשות דה-מונטיזציה, לחסום צללים, לרשום שחור או למחוק על הסף הודעות ושליחים לא מועדפים, כל זאת תוך חיזוק התעמולה הממשלתית.
שורה של עמותות, מרכזים אוניברסיטאיים, ערוצי בדיקת עובדות וחברות מודיעין פעלו כתווך, וחיברו ישויות פוליטיות עם ביג טק. קבוצות כמו מצפה האינטרנט של Stanford, Health Feedback, Graphika, NewsGuard ועוד עשרות סיפקו את הרציונלים הפסאודו-מדעיים לתיוג "אינפורמציה שגויה" ואת מפות המיקוד של מידע וקולות האויב. הצנזורה של המדיה החברתית פרסה אז מגוון כלים - תקיפות כירורגיות כדי להוציא אדם ספציפי משדה הקרב או פצצות מצרר וירטואליות כדי למנוע מנושא שלם להפוך לוויראלי.
בהלם מהרוחב והעומק של הצנזורה שנחשפו, בית המשפט המחוזי במעגל החמישי הציע את הפסקת הטכנולוגיה-ממשלתית-ביג-טק, שהחלה בסוף שנות ה-2010 והאצה החל ב-2020, "כרוכה ללא ספק במתקפה המסיבית ביותר נגד חופש הביטוי בהיסטוריה של ארצות הברית. ”
אשליה של קונצנזוס
התוצאה, התווכחנו ב Wall Street Journal, היה המחדל המדעי והמדיניות הציבורי הגדול ביותר בזיכרון האחרון. לא סתם תגרה אקדמית, ההאפלה במהלך קוביד הטעתה אנשים להחלטות בריאות רעות ומנעה מאנשי מקצוע רפואיים ומקובעי מדיניות להבין ולתקן שגיאות חמורות.
כמעט כל סיפור ומדיניות רשמיים היו שגויים. רוב נקודות המבט המצונזרות התבררו כנכונות, או לפחות קרובות יותר לאמת. וירוס SARS2 היה למעשה מהונדס. שיעור התמותה מזיהומים לא היה 3.4% אלא קרוב יותר ל-0.2%. נעילות וסגירות בתי ספר לא עצרו את הנגיף, אבל פגעו במיליארדי אנשים באינספור דרכים. "סטנדרט הטיפול" הרשמי של ד"ר אנתוני פאוצ'י - מכונות הנשמה ורמדסיביר - הרגו יותר ממה שהם ריפאו. טיפול מוקדם בתרופות גנריות בטוחות, זולות, לעומת זאת, היה יעיל ביותר - אם כי אסור באופן בלתי מוסבר. טרנספקציה גנטית חובה של מיליארדי אנשים בסיכון נמוך עם זריקות mRNA ניסיוניות ביותר הניב תמותה ותחלואה גרועים בהרבה לאחר החיסון מאשר לפני החיסון.
במילותיו של ג'יי בהטצ'ריה, הצנזורה יוצרת "אשליה של קונצנזוס". כאשר הקונצנזוס כביכול על נושאים מרכזיים כאלה שגוי בדיוק, התוצאה עלולה להיות קטסטרופלית - במקרה זה, נזקי נעילה בלתי ידועים ומיליונים רבים של מקרי מוות מיותרים ברחבי העולם.
בזירה של מידע וטיעונים זורמים בחופשיות, אין זה סביר שמערך כה מוזר של טעויות רפואיות חסרות תקדים וכפיות על חירות יכול היה להימשך.
הדילמה של גוגל - GeminiReality או GeminiFairyTale
ביום שבת, מייסד גוגל, סרגיי ברין, הפתיע את עובדי גוגל כשהופיע בהאקתון ג'מני. כשנשאל על השקת מחולל התמונות הערות, הוא הודה, "בהחלט פישלנו". אבל לא לדאוג. זה היה, לדבריו, בעיקר תוצאה של בדיקות לא מספיקות וניתן לתקן אותה תוך זמן קצר למדי.
סביר להניח שברין ממעיט או לא מודע לכוחות המבניים העמוקים בתוך החברה ומחוצה לה שיהפכו את תיקון הבינה המלאכותית של גוגל לכמעט בלתי אפשרי. מייק סולנה מפרט את הטירוף הפנימי במאמר חדש - "תרבות הפחד של גוגל."
עם זאת, סביר להניח ששיפורים בכוח האדם ובתרבות החברה לא יתגברו על כוח המשיכה החיצוני החזק הרבה יותר. כפי שראינו בחיפוש ובחברתי, הכוחות הפוליטיים הדומיננטיים שדרשו צנזורה יתעקשו ביתר תוקף שה-AI תואם את נרטיבים של המשטר.
באמצעות שיטות יעילות יותר ויותר של מניפולציה תודעתית, הדמוקרטיות ישנו את טבען; הצורות הישנות והמוזרות - בחירות, פרלמנטים, בתי המשפט העליון וכל השאר - יישארו... דמוקרטיה וחופש יהיו הנושא של כל שידור ומאמר מערכת... בינתיים האוליגרכיה השלטת והאליטה המאומנת שלה של חיילים, שוטרים, יצרני מחשבות ו מניפולטורי מחשבות ינהלו בשקט את התוכנית כראות עיניהם.
אלדוס האקסלי,
עולם חדש אמיץ ביקר מחדש
כאשר אילון מאסק קנה את טוויטר ופיטר 80% מהצוות שלה, כולל מחלקות ה-DEI והצנזורה, הרקיע הפוליטי, המשפטי, התקשורתי והפרסומי המטיר אש וגופרית. מסירותו של מאסק לחופש הביטוי כל כך איימה על המשטר, ורוב המפרסמים הגדולים של טוויטר נרתעו. בחודש הראשון לאחר רכישת טוויטר של מאסק, ה וושינגטון פוסט כתב 75 סיפורי שיער על האש המזהירים מפני אינטרנט חופשי יותר. ואז מינהל ביידן שחרר שלל תביעות משפטיות ופעולות רגולטוריות נגד החברות הרבות של מאסק. לאחרונה, שופט בדלאוור גנב 56 מיליארד דולר ממאסק על ידי ביטול הצבעה של בעלי המניות ב-2018, אשר במהלך שש השנים הבאות, הביא לעושר בלתי נתפס הן עבור מאסק והן עבור המשקיעים הללו בטסלה. הקורבנות היחידים מהצלחתו של טסלה היו אויביו הפוליטיים של מאסק.
במידה שגוגל מתכוונת לרדוף אחר מציאות ונייטרליות במוצרי החיפוש, הפיד ובינה מלאכותית שלה, היא לרוב תסותר את הנרטיבים הרשמיים של המשטר - ותתמודד עם זעמם. במידה שגוגל נכנעת לנרטיבים של המשטר, חלק ניכר מהמידע שהיא מספקת למשתמשים יישאר מגוחך ללא ספק למחצית העולם.
האם גוגל תבחר GeminiReality או GeminiFairyTale? אולי הם יוכלו לאפשר לנו לעבור בין המצבים.
בינה מלאכותית כדת דיגיטלית
בעל ההון סיכון הבכיר של עמק הסיליקון וההוגה האסטרטגי ביותר, מארק אנדריסן, לא חושב שלגוגל יש ברירה. הוא שאלות האם חברת ביג טק קיימת יכולה לספק את ההבטחה של AI אובייקטיבי:
האם ביג טק באמת יכול לעסוק במוצרי בינה מלאכותית?
(1) דרישות הולכות וגוברות מצד פעילים פנימיים, המון עובדים, מנהלים מטורפים, מועצות מועצות, קבוצות לחץ, רגולטורים קיצוניים, סוכנויות ממשלתיות, עיתונות, "מומחים" וכו' כדי להשחית את התפוקה
(2) סיכון מתמיד של יצירת תשובה גרועה או ציור תמונה גרועה או עיבוד סרטון רע - מי יודע מה הוא הולך להגיד/לעשות בכל רגע?
(3) חשיפה משפטית - אחריות למוצרים, לשון הרע, חוק בחירות ועוד רבים אחרים - לתשובות רעות, שהונפקו על ידי מבקרים מטורללים ועורכי דין תוקפניים, דוגמאות שהציגו אויביהם ברחוב ומול הקונגרס
(4) ניסיונות מתמשכים להדק את האחיזה בתפוקה המקובלת פוגעים במודלים וגורמים להם להיות גרועים יותר ופרועים יותר - כבר כמה הוכחות לכך!
(5) פרסום של טקסט/תמונות/וידאו גרועים למעשה מכניס את הדוגמאות הללו לנתוני האימון עבור הגרסה הבאה - המתחם של Bad פלט לאורך זמן, מתרחק יותר ויותר משליטה מלמעלה למטה
(6) רק סטארט-אפים וקוד פתוח יכולים להימנע מתהליך זה ולמעשה להציע מוצרים מתפקדים כהלכה שפשוט עושים מה שאומרים להם, כמו שהטכנולוגיה צריכה
?
שלל הצעות חוק ממחוקקים בכל הקשת הפוליטית מבקש לרסן את הבינה המלאכותית על ידי הגבלת המודלים וכוח החישוב של החברות. תקנות שנועדו להפוך בינה מלאכותית ל"בטוחה" יגרמו כמובן לאוליגופול. כמה חברות בינה מלאכותית ענקיות עם מרכזי נתונים ענקיים, מודלים שאושרו על ידי הממשלה ולביסטים יקרים יהיו האפוטרופוסים הבלעדיים של הידע והמידע, כמורה דיגיטלית של המשטר.
זהו לב ליבו של הדיון הפתוח מול ה-AI הפתוח, המתחולל כעת בעמק הסיליקון ובוושינגטון הבירה המייסד האגדי של Sun Microsystems ויזם ההון סיכון Vinod Khosla הוא משקיע ב-OpenAI. הוא מאמין שממשלות חייבות להסדיר את הבינה המלאכותית כדי (1) למנוע קטסטרופה טכנולוגית נמלטת ו-(2) למנוע מהטכנולוגיה האמריקאית ליפול לידי האויב.
אנדריסן האשימה את חוסלה ב"שדלנות לאסור על קוד פתוח".
"האם היית פותח את פרויקט מנהטן בקוד?" חוסלה ירה בחזרה.
כמובן, תוכנות קוד פתוח הוכיחו את עצמן כבטוחות יותר מתוכנות קנייניות, כפי שיכול להעיד כל מי שסבל במשך עשרות שנים של וירוסי Windows. ובינה מלאכותית אינה פצצה גרעינית, שיש לה רק שימוש הרסני אחד.
הסיבה האמיתית ש-DC רוצה ברגולציה של AI היא לא "בטיחות" אלא תקינות פוליטית וציות לנרטיבים של המשטר. בינה מלאכותית תכלול ערוצי מידע וכלים לחיפוש, חברתי ואחרים. אם חשבתם שהעניין של פוליטיקאים בצנזור החיפוש והמדיה החברתית היה עז, עדיין לא ראיתם כלום. הימנעות מ"אבדון" בינה מלאכותית היא בעיקר תירוץ, וכך גם שאלת סין, אם כי הפנטגון מצטרף בפתיחות לבדיות הללו.
AI אוניברסלי הוא בלתי אפשרי
בשנת 2019 הצעתי הסבר אחד מדוע מאמצי "המתנת התוכן" של כל חברת מדיה חברתית ייכשלו. ככל שרשת חברתית או בינה מלאכותית גדלה בגודל ובהיקף, היא נתקלת באותן מגבלות כמו כל חברה פיזית, ארגון או רשת: ההטרוגניות. או כמו שאמרתי את זה: "חוסר היכולת לכתוב קודי דיבור אוניברסליים עבור אוכלוסיה מגוונת במיוחד ברשת חברתית בקנה מידה גדול".
אתה יכול לראות את זה בימים הראשונים של לוח הודעות מקוון. ככל שמספר המשתתפים גדל, אפילו בקרב בעלי תחומי עניין ומזג דומים, כך גדל האתגר להנחות את לוח ההודעות. כתיבה ואכיפת כללים הייתה קשה בטירוף.
כך זה היה תמיד. העולם מארגן את עצמו באמצעות מדינות לאום, ערים, בתי ספר, דתות, תנועות, חברות, משפחות, קבוצות אינטרסים, ארגונים אזרחיים ומקצועיים, וכעת קהילות דיגיטליות. גם עם כל מוסדות התיווך הללו, אנחנו נאבקים להסתדר.
תרבויות מוצלחות משדרות רעיונות והתנהגויות טובים לאורך זמן ומרחב. הם כופים מדדי התאמה, אבל הם גם מאפשרים מספיק חופש לתקן טעויות אינדיבידואליות וקולקטיביות.
אף בינה מלאכותית אחת לא יכולה לשכלל או אפילו לעורר את כל הידע, החוכמה, הערכים והטעמים של העולם. על הידע יש עוררין. ערכים וטעמים שונים. חוכמה חדשה צצה.
גם בינה מלאכותית לא יכולה לייצר יצירתיות שתתאים ליצירתיות של העולם. גם כאשר בינה מלאכותית מתקרבת להבנה אנושית וחברתית, אפילו כשהיא מבצעת משימות "יוצרות" מרשימות ביותר, סוכנים אנושיים ודיגיטליים יפרסו מחדש את כלי הבינה המלאכותית החדשים כדי ליצור רעיונות וטכנולוגיות גאוניים יותר ויותר, מה שיסבך עוד יותר את העולם. בגבול, העולם הוא הדגם הפשוט ביותר בפני עצמו. AI תמיד ישחק.
מכיוון שבינה מלאכותית תהיה כלי עיקרי למטרות כלליות, מגבלות על חישוב ותפוקת בינה מלאכותית הן מגבלות על היצירתיות וההתקדמות האנושית. AI תחרותיים עם ערכים ויכולות שונות יקדמו חדשנות ויבטיחו שאף חברה או ממשלה לא ישלטו. בינה מלאכותית פתוחה יכולה לקדם זרימה חופשית של מידע, להתחמק מצנזורה ולמנוע טוב יותר תקלות עתידיות דמויות קוביד.
ה-Gemini של גוגל הוא רק סימן מקדים של מה שיגרום משטר רגולציה חדש של AI - פיקוח פוליטי מוחלט על מערכות המידע המוגדלות שלנו. גם ללא רגולציה פורמלית, יהיה קשה להילחם בגדודים החוץ-ממשלתיים של מפקדי המשטר.
הניסיון של וושינגטון ושותפות בינלאומיות לכפות קודי תוכן אוניברסליים ומגבלות חישוביות על מספר קטן של ספקי AI חוקיים הוא ספר המשחקים הטוטליטרי החדש.
משטר שנלכד ואוצר AI הוא האפשרות הקטסטרופלית האמיתית.
פורסם מחדש מאת המחבר המשנה
פורסם תחת א רישיון בינלאומי של Creative Commons ייחוס 4.0
עבור הדפסות חוזרות, נא להחזיר את הקישור הקנוני למקור מכון ברונסטון מאמר ומחבר.
