עזרא קליין ראיין את טד צ'יאנג המבריק. אני שם פה את הנקודות העיקריות, ואת המחשבות שלי לגבי הראיון אולי אפרסם בנפרד, כרגע מביא את הדברים כפי שהם (לפי איך שהבנתי וכו')
1. (כתגובה לארתור סי. קלארק) קסם שונה מטכנולוגיה בזה שהוא תמיד אישי ושייך לקבוצה מצומצמת, ואילו טכנולוגיה תמיד מרחיבה את מעגליה והופכת המונית. בכך, קסם עונה על הצורך שלנו בתחושת ייחודיות.
2. לכן גיבורי על שייכים לקסם ולא לטכנולוגיה (החליפות של איירון מן הן לא לשימוש רחב היקף).
3. ההבדל בין פנטזיה למד"ב הוא שפנטזיה מתעניינת במטאפורה של הרכיב הבדיוני ומד"ב מתעניין ברכיב הבדיוני כשלעצמו.
4. ההתנגדות האמיתית איננה בין אנשים מאמינים למדענים - שניהם חוקרים את העולם ומחפשים את תחושת הפליאה. ההתנגשות האמיתית היא בין אנשים מאמינים למהנדסים שמחפשים את השורה התחתונה התועלתנית.
5. ברוב המקרים, גיבורי על עוסקים בשימור הסטטוס קוו ולא במהפכנות. הרע בו הם נלחמים הוא של נבלים ולא ברע של הממסד. הסיבה לכך היא שמהפכה חברתית אמיתית היא עניין של שינוי ערכי ובירוקרטי - לא משהו שאדם יחיד יכול לעשות, חזק ככל שיהיה. ואם הוא כן עושה זאת, זה בצורה מנהיגותית (לדוגמה לותר קינג), לא משהו שאנחנו יודעים איך להעביר בקומיקס.
6. בחירה חופשית היא מנעד, ולא שאלה של כן/לא. לחלק מהאנשים בחלק מהמקרים יש פחות בחירה חופשית מאחרים. גם אנשים כאלו, במבט רחב יותר, יכולים בפעולות ארוכות טווח לשנות את מצבם להיות חופשיים יותר.
7. האנושות יכולה להגיע לבינה מלאכותית אי שם בעתיד, אבל לא כדאי שתעשה זאת. יצור בעל בינה מלאכותית יהיה - עוד לפני הגעה להישג הזה - בעל יכולת לסבול, ובכך ניצור מיליוני יצורים שיסבלו. הסיכוי שהם יותר יהנו מאשר יסבלו איננו גדול, בהתחשב באיך שהאנושות מתנהגת כרגע לבעלי חיים.
8. הפחד הגדול מבינה מלאכותית (תסביך פרנקנשטיין) נובע ברובו לא מפחד מהטכנולוגיה אלא בפחד מהקפיטליזם, שסופר הכל בשורת רווח/הפסד, כולל בני אדם.
כעת, ניתוח
א. את הראיון פותח טד צ'יאנג באבחנה בין אלכימיה לכימיה. אנשים חושבים שאלכימאים רצו להפוך עופרת לזהב כדי להיות עשירים. זה נכון אבל מפספס נקודה חשובה: מבחינת האלכימאים עופרת היתה מתכת נחותה וזהב היא אצילית. להפוך עופרת לזהב זה להפוך את הנחות לאצילי. זו פעולה שמשליכה על האדם לא פחות משהיא משליכה על המתכת. אדם שפיצח את בעיית הפיכת העופרת לזהב, הצליח גם לטהר את עצמו.
במילים אחרות, האלכימאים לא הבדילו בין העשיה הטכנית לעולמות מוסריים/רוחניים. כלומר אולי הבדילו אבל לא בצורה מוחלטת. אין תהום בין השניים.
המעבר לכימיה הוא השלב בו הופרדו הדבקים. אולי אפשר להפוך עופרת לזהב ואולי לא, אבל הפעולה הזו איננה בעלת משמעויות נוספות. התגובות הכימיות לא תלויות בהישגים של העולם הפנימי. מדען איננו מוסרי יותר או פחות.
ב. בעיני, החלוקה בין כימיה לאלכימיה דומה לחלוקה אחרת שצ'יאנג מזכיר: בין מד"ב לפנטזיה. פנטזיה עסוקה במשמעויות המטאפוריות של הבדיון בעוד מד"ב עסוק רק במשמעויות הפרגמטיות. בדומה לכך, האלכימאי עסוק (גם) במשמעויות המטאפוריות של התהליך הכימי, הכימאי רק בפרגמטיות. לאלכימאי יש סאבטקסט ולכימאי אין.
ג. מה שמוביל אותנו לדיכוטומיה הבאה: צ'יאנג טוען שיש הרבה מהמשותף בין המדען למאמין. שניהם מחפשים משמעות עמוקה לעולם שממלאת את המגלה בהשתאות. היריב האמיתי של המאמין הוא המהנדס או הטכנאי, שמטרתו היא תמיד פרגמטית.
החלוקה הזו מתעלמת מכך שהמדען הוא זה שמצמיח את הטכנאי, ובשני רבדים:
ראשית, המדע מאפשר את הטכנאות. אם ריאקציות כימיות לא תלויות בעולם הפנימי הן ניתנות לאוטומציה ומיכון וממילא להפצה המונית. בדומה לחלוקה בין קסם למדע: הראשון ייחודי לקבוצה מצומצמת כי הוא תכונה או ידע פנימיים. האחרון מופץ לכולם כי אין קשר אינהרנטי בינו לבין מי שמשתמש בו.
וכמו שהקסם הוא ביטוי לרצון בייחודיות, המדע הוא הפך הייחודיות וממילא הפך הערך של האנושי. אם לריאקציות כימיות יש רק טקסט ולא סאבטקסט, למה שלאדם יהיה? זה רובד נוסף בו המדען מוביל אל הטכנאי: יש תחושת פליאה, אבל היא מהטקסט ולא מהסאבטקסט.
ד. בהמשך טוען צ'יאנג שהפחד מבינה מלאכותית הוא פחד מקפיטליזם. צ'יאנג מודה שהקפיטליזם מעורב במדע עד שקשה לנו להבדיל ביניהם. מה שהוא פספס, בעיני, הוא שיש סיבה טובה לערבוב הזה: אם אין סאבטקסט לריאקציות כימיות ואם אנחנו - כטענתו - מכונות ביולוגיות, קפיטליזם שתופס אותנו כעוד מוצר וכעוד פרמטר במיקסום הרווחים, הוא מסקנה מתבקשת.
לכן פלסטרים כמו "להיות כמו הסקנדינביות" (למה כולם החליטו שהסקנדינביות הן דגם?) לא יפתרו את הבעיה העיקרית: מות הסאבטקסט שהוא מות העומק של האדם.
ה. בנוגע לבינה מלאכותית, טד צ'יאנג מחלק את השאלה לשלוש: האם אפשר ליצור כזו (כן, לא בהכרח בקרוב). האם ניצור כזו? (כנראה כן, האנושות סקרנית מספיק). ג. האם כדאי ליצור כזו?
וכאן הדיון מתחיל להיות מעניין. צ'יאנג טוען שלא כדאי, כי תוכנה בעלת בינה מלאכותית תהיה ככל הנראה מסוגלת לסבול. ואם היא תהיה מסוגלת לסבול, היא תסבול. יצירת בינה מלאכותית תגרום למיליוני יצורים סובלים.
ו. ברשותכם נדלג על כמה חוליות חלשות בשרשרת הלוגית היישר אל המסקנה של צ'יאנג. בדרך כלל מתנגדי בינה מלאכותית מונעים מתסביך פרנקנשטיין: הם חוששים שבינה מלאכותית תשמיד את האנושות, תילחם בה, סקיינט וכדומה. הטיעון של צ'יאנג בנושא מבטא לא רק מקוריות אלא גם יכולת לאמפתיה עמוקה. הוא מביט בנושא בו כולם רואים פחד וסכנה - ובמקום לחשוש על עצמו או על האנושות, הוא מצליח להבחין שאולי מי שצריך לפחד הוא מישהו אחר. בקיצור, הוא מצליח לצאת מעצמו.
ז. יש סיפור קצר של צ'יאנג שמנסה להסביר את ההבדל בין סימפתיה לאמפתיה האחת מרחיקה בקטע מתנשא והשניה היא להכנס לנעליו של השני. אני עד היום לא זוכר מהי מה, אבל כאן צ'יאנג הצליח להכנס לנעליה של תודעה תיאורטית, וזה מרשים קודם כל מוסרית.
(ח. בשולי הדברים אעיר שהתשובה שלו לשאלה הראשונה (האם נצליח ליצור בינה מלאכותית) מדלגת על כל המורכבות של השאלה "האם נייצר בינה מלאכותית": זו שאלה שמחביאה מאחוריה את השאלה "מהי הבנה/תודעה/יישות" וצ'יאנג פותר אותה פשוט באמירה שאנחנו מכונה ביולוגית ואנחנו חושבים אז אפשר ליצור תוכנה חושבת. הפשטנות הזו שברה אותי, והיא לא היתה היחידה. גם ביחס לקפיטליזם הוא התבטא בצורה שטחית, וגם בנושאים נוספים. העירוב הזה, בין שטחיות בכמה נושאים לבין מקוריות חריפה בנושאים אחרים - תמיד משאיר אותי מבולבל)
