רציתי שהפוסט הבא שלי יהיה על תהליך העבודה האוטומטי של הבלוג, אבל בזכות The Amazing Digital Circus, סדרה מאוד פופולרית עם כמעט 100 מיליון צופים ברחבי העולם, הייתי צריך לשנות כיוון.
בהפרק החדש ביותר (פרק 7: פרק החוף), המנחה המצויר, קיין, מזכיר במפורש את ניסוי המחשבה. כאשר שואלים אותו שאלה, הוא עונה בצורה דרמטית: “שאלה מצוינת, גנגל. כדי לענות עליה, אני צריך להתייעץ עם ‘חדר הסיני’.” הבדיחה ממשיכה כאשר דמות אחרת שואלת מהו בכלל “חדר הסיני”, וקיין טוען: “אני מאמין שזה דובר סינית שיוכל לייעץ לי”.
ההתייחסות הקצרה הזו, ונקודת העלילה מאוחר יותר שבה הדמויות מנסות לפרוץ לחדר כדי למצוא דרך לצאת מהסימולציה, מציגות בצורה מושלמת את הוויכוח: האם קיין הוא באמת אינטליגנטי, או שהוא פשוט מבצע סדרה של הוראות?
זהו ניסוי מחשבה שעליו חשבתי רבות ואני מאוד מתחבר אליו, ולכן רציתי לדבר עליו היום, מכיוון שהרעיון המעמיק הזה עכשיו זמין לצפייה של עשרות מיליונים.
ניסוי המחשבה
אדם שאינו דובר סינית נכלא בחדר עם ערימת ספרים המכילים תשובות סיניות לשאלות סיניות (בדומה לספר מילים לקלט-פלט). האדם בחדר מקבל דפי נייר שעליהם כתובות שאלות בסינית. האדם משיב לשאלות אלו תוך שימוש בספרים המצויים בחדר.
לדוגמה, ניתן לשאול את האדם הכלוא: “מה הצבע של החולצה שלך?” והוא ישתמש בספרי המילים ויגיב, על גבי דף נייר אחר: “כחול”
מכיוון שכל התשובות והשאלות כתובות בסינית, כל מה שהאדם עשה הוא העתיק במדויק את הסמלים מהספרים המלאים בסמלים וכתב אותם על דפי הנייר, מבלי להבין דבר מהמשמעות של כל אלה. למעשה, הוא לובש חולצה אדומה.
הקשר לבינה מלאכותית
ניסוי המחשבה הזה הוצג במקור כדי לאתגר את העמדה הפילוסופית של בינה מלאכותית חזקה. הרעיון שניתן לראות במחשב המתוכנת לחקות את המוח האנושי כבעל מוח ו"חושב" באופן דומה לאופן שבו בן אדם חושב.
כלומר, על פי ניסוי המחשבה הזה, בסופו של דבר, בינה מלאכותית אינה יכולה לחקות את המוח האנושי. היא פשוט מקבלת קלטים ומייצרת פלטים.
ניסוי המחשבה הזה מתייחס לגישה פרואקטיבית כמו “ספר התשובות הסיניות לשאלות סיניות”, או, על פי המגמות העדכניות, במקום ספר תרגום לסינית, יש תרשים המאפשר לחזות את המילה הבאה בהתבסס על הסתברות.
במילים אחרות, למוח האנושי יש סמנטיקה (משמעות והבנה) למילים, המאפשרת לנו להבין באמת את המשמעות של כל מילה.
תכנות הוא לחלוטין סינטקטי, הוא מטפל רק במילים בהתבסס על הכללים המוגדרים מראש שהוא פועל על פיהם - לא משנה כמה נתונים הוא מחזיק, הוא עובד על זיהוי דפוסים סטטיסטיים ותחזיות. זרימת העבודה הזו אינה מספיקה כדי להוות הבנה אמיתית או מוח.
התגובה של המערכת
ההתנגדות העיקרית ל"חדר הסיני" היא ה**“תגובת המערכת”**. טיעון נגד זה טוען שה"חדר הסיני" מתמקד באופן שגוי רק בחלק המבצע את החישוב, ולא בישות שבאמת מחזיקה באינטליגנציה.
ניתן להבין זאת באמצעות אנלוגיה לארכיטקטורת מחשבים: האדם הכלוא = מעבד (CPU)/תת-מעבד גרפי (GPU) ספר המילים = התוכנה
בזמן שהאדם (המעבד) אינו מבין סינית, כל המערכת, המאמץ המשולב של האדם המבצע את התוכנה הכתובה בספרים: עיבוד הקלטים ויצירת הפלטים, כן מבינה סינית. התודעה, או ה"מוח", נמצאת בפעולה של המערכת כולה, ולא רק ברכיב שמבצע את המשימה המכנית.
חשוב לזכור שניסוי זה עדיין לא נפתר, “חדר הסיני” נותר ניסוי מחשבה מפורסם שאין לו תשובה חד משמעית ומקובלת באופן אוניברסלי.
הבדלים מבני אדם
חלקכם עשוי להסתכל על ניסוי המחשבה ולחשוב: “בסופו של דבר, המוח שלנו פשוט עובד כמו מכונה. אנחנו גם עובדים בדפוס קלט-פלט, אבל פשוט לא הצלחנו להנדס הפוך את המוח שלנו”.
זהו נושא רחב שאולי אדבר עליו בפוסט/ים נפרדים, אבל מכיוון שאני לא אוהב סוף פתאומי, בואו נדון בכמה נקודות:
למכונות אין חוויות סובייקטיביות (Qualia). חוויות סובייקטיביות מוגדרות כמרכיב הפנימי והסובייקטיבי של תחושות הנובעות מגירויים של החושים.
לבינה מלאכותית יש כוונות נגזרות. למילים שלהם יש משמעות רק בגלל האינטליגנציה האנושית שיצרה את נתוני האימון והקצתה משמעות לסמלים.
לדוגמה, אם אני מבקש מבינה מלאכותית לתאר הר, היא לא מתעניינת או מתכוונת שהמילים שלה יתייחסו לדבר האמיתי, היא פשוט עוקבת אחר מסלול הסתברותי כדי ליצור טקסט המתייחס להר.
אני מקווה שבינתיים, הפוסט הבא יהיה על תהליך העבודה של הבלוג 🙏