מה נחשב לתודעה?

מאת: Dan Falk

מקור: Nautilus

לפני כמה שנים, כשעדיין התגורר בדרום קליפורניה, מדען המוח כריסטוף קוך (Christof Koch) שתה בקבוק יין ברולו בזמן שצפה ב"איש הנצח" ("Highlander"), ואז, בחצות, רץ לפסגת הר וילסון (Mount Wilson), הפסגה המתנשאת לגובה של 1,741 מטר מעל לוס אנג'לס.

לאחר שעה של "מדדה עם פנס הראש שלי ומרגיש בחילה", כפי שתיאר מאוחר יותר את האירוע, הוא הבין שההרפתקה הלילית היא כנראה לא רעיון חכם, וירד חזרה למטה, אם כי לא לפני שצעק אל החושך את השורה האחרונה מהשיר "בלתי מנוצח" ("Invictus") משנת 1875 של ויליאם ארנסט הנלי (William Ernest Henley):

 "אני אדון גורלי / אני הקפטן של נשמתי".

קוך, שהתפרסם לראשונה בזכות עבודתו המשותפת עם חתן פרס נובל המנוח פרנסיס קריק, הוא לא המדען היחיד שהרהר בטבעו של העצמי - אבל הוא אולי ההרפתקן ביותר, בגוף ובנפש. הוא רואה בתודעה את התעלומה המרכזית של היקום שלנו, ומוכן לחקור כל רעיון סביר בחיפוש אחר הסבר.

במהלך השנים, קוך השתעשע במגוון רחב של רעיונות, חלקם ספקולטיביים מובהקים - כמו הרעיון שהאינטרנט עשוי להפוך למודע, למשל, או שבאמצעות טכנולוגיה מספקת, מוחות רבים יכולים להתמזג יחד, וכך לקשר את המוחות הממוזגים לאורך הדרך. (ועם זאת, יש לו את הגבולות שלו: הוא סקפטי מאד הן לגבי הרעיון שאנחנו יכולים "להעלות" (“upload”) את מוחנו והן לגבי "השערת הסימולציה").

בספרו החדש, Then I Am Myself The World, קוך, כיום המדען הראשי במכון אלן למדעי המוח בסיאטל, עובר דרך הנוף המאתגר של תאורית המידע המשולב (IIT), מסגרת המנסה לכמת את התודעה כמערכת מידע משולב שמתקבל מקישוריות בין מרכזים רבים במוח. בדרך, הוא נאבק במה שהיא אולי השאלה הקשה מכולן: כיצד למחשבות שלנו - לכאורה נטולות מסה או תכונות פיזיקליות אחרות - יש השלכות בעולם האמיתי? הנה ראיון איתו:

בספרך החדש, אתה שואל כיצד המוח יכול להשפיע על חומר. האם אנו קרובים יותר לענות על השאלה הזו כיום מאשר בזמן שדקארט העלה אותה לפני כמעט ארבע מאות שנים?

בואו נלך אחורה. הפילוסופייה המערבית של המיינד סובבת סביב שני קטבים, הפיזי והנפשי - חשבו עליהם כמו הקוטב הצפוני והדרומי. יש מטריאליזם, שידוע כיום כפיזיקליזם, שאומר שרק פיזי באמת קיים, ואין מנטלי; הכל אשליה, כמו שדניאל דנט ואחרים אמרו.

ואז יש את האידיאליזם, שזוכה כעת למיני רנסנס, אבל בגדול לא היה פופולרי במאה ה-20 ובתחילת המאה ה-21, שאומר שהכל ביסודו הוא ביטוי של המנטלי. ואז יש דואליזם קלאסי, שאומר, ובכן, ברור שיש חומר פיזי ויש את המנטלי, והם איכשהו צריכים לקיים אינטראקציה. זה היה מאתגר להבין כיצד המנטלי מתקשר עם הפיזי - זה ידוע כבעיית הסיבתיות (causation problem).

ואז יש דברים אחרים כמו פאנפסיכיזם (panpsychism), שעכשיו הופך להיות מאד פופולרי שוב, שזו אמונה עתיקה מאד. היא אומרת שבבסיס הכל "נשמה" - שהכל, אפילו חלקיקים יסודיים, מרגישים קצת כמו משהו.

לכל העמדות השונות הללו יש בעיות. הפיזיקליזם נשאר פילוסופיה דומיננטית, במיוחד במחלקות לפילוסופיה מערבית ובביג טק. הפיזיקליזם אומר שהכל ביסודו הוא פיזי, ואתה יכול לדמות אותו - זה נקרא "פונקציונליזם חישובי" ("computational functionalism"). הבעיה היא שעד כה אנשים לא הצליחו להסביר את התודעה, כי היא כל כך שונה מהפיזיות.

מה אומרת תאורית המידע המשולב על התודעה?

תאורית המידע המשולב אומרת, ביסודה, מה שקיים הוא תודעה. והתודעה היא הדבר היחיד שקיים לעצמו. אתה בהכרה. הלילה, אתה הולך להיכנס לשינה עמוקה בשלב מסוים, ואז אתה כבר לא בהכרה; אז אתה לא קיים בשביל עצמך. לגוף ולמוח שלך יש עדיין קיום עבור אחרים - אני יכול לראות את הגוף שלך שם - אבל אתה לא קיים בשביל עצמך. אז רק התודעה קיימת לעצמה; זהו קיום אבסולוטי. כל השאר זה נגזרת.

זה אומר שהתודעה היא בסופו של דבר כוח סיבתי על עצמה - היכולת לחולל שינוי. ועכשיו אתה מחפש מצע - כמו מוח או מעבד מחשב או כל דבר אחר. ואז התיאוריה אומרת, לא משנה מה החוויה המודעת שלך - איך זה מרגיש לראות אדום, או להריח גבינת לימבורגר, או שיש לך סוג מסוים של כאב שיניים - היא ממופה אחד לאחד על המבנה הזה, הצורה הזו, הקשר הסיבתי הזה. זה לא תהליך. זה לא חישוב. זה מאד שונה מכל התיאוריות האחרות.

כאשר אתה משתמש במונח הזה "כוחות סיבתיים" (“causal powers”), במה הוא שונה משרשרת רגילה של סיבה ותוצאה של אירועים? כמו שאתה משחק ביליארד, אתה פוגע בכדור הלבן, והכדור הלבן פוגע בכדור השחור...

זה לא דבר מיסטי. זו היכולת של מערכת, נניח כדור ביליארד, לחולל את השינוי. במילים אחרות, אם הוא נפגע מכדור אחר, הוא זז, ולכך יש השפעה בעולם.

ותאורית המידע המשולב אומרת שיש לך מערכת - צרור של חוטים או נוירונים - וזו המידה שבה יש להם כוח סיבתי על עצמם. אתה תמיד מחפש את הכוח הסיבתי המקסימלי שיכול להיות למערכת על עצמה. זה בסופו של דבר מה שתודעה היא. זה משהו מאד קונקרטי. אם אתה נותן לי תיאור מתמטי של מערכת, אני יכול לחשב אותה, זה לא משהו אתרי.

אז אפשר למדוד את זה בצורה אובייקטיבית מבחוץ?

זה נכון.

אבל כמובן היה המכתב בשנה שעברה שנחתם על ידי 124 מדענים הטוענים שתאורית המידע המשולב היא פסאודו-מדע, בין השאר בטענה, לדבריהם, שהיא לא ניתנת לבדיקה.

לפני שנים רבות, ארגנתי פגישה בסיאטל, שם התכנסנו ותכננו "שיתוף פעולה עוין" (Adversarial collaboration). הוא התמקד בעיקר בתודעה. הרעיון היה: בואו ניקח שתי תיאוריות של תודעה - במקרה הזה, תיאוריית המידע המשולב לעומת השניה הדומיננטית, תאוריית מרחב העבודה הגלובלי. בואו נכניס אנשים לחדר לדון - כן, הם עשויים להיות חלוקים על דברים רבים - אבל האם אנחנו יכולים להסכים על ניסוי שיכול בו זמנית לבדוק תחזיות משתי התיאוריות, ונסכים מבעוד מועד, בכתב: אם התוצאה היא A זה תומך בתיאוריה A; אם זה B, זה תומך בתיאוריה B? זה כלל 14 מעבדות שונות.

הניסויים ניסו לחזות היכן נמצאים "העקבות העצביים של התודעה", באופן גס. האם הם בחלק האחורי של המוח, כפי שטוענת תאורית המידע המשולב, או בחלק הקדמי של המוח, כפי שטוענת תאוריית מרחב העבודה הגלובלי? והתוצאה הייתה מאד ברורה - שניים משלושת הניסויים היו בבירור נגד קליפת המוח הקדם-מצחית ובעד עקבות עצביים של תודעה מאחור.

זה עורר תגובה חריפה בדמות המכתב הזה, שבו נטען שהתיאוריה אינה ניתנת לבדיקה, שלדעתי היא פשוט סתמית. ואז, כמובן, הייתה מכה נגד המכה, כי אנשים אמרו, רגע, ייתכן שתיאוריית המידע המשולב טועה - התיאוריה בהחלט שונה מאד מהאידיאולוגיה השלטת - אבל זו בהחלט תיאוריה מדעית; היא עושה כמה תחזיות מאד מדויקות.

אבל יש לה מטפיזיקה אחרת. ואנשים לא אוהבים את זה.

רוב האנשים היום מאמינים שאם אתה יכול לדמות משהו, זה כל מה שאתה צריך לעשות. אם מחשב יכול לדמות את המוח האנושי, אז כמובן [הסימולציה] תהיה מודעת. ומודלים של שפה גדולה (LLMs) - במוקדם או במאוחר [בתפיסה הפונקציונליסטית] הולכים להיות מודעים - זו רק שאלה של, האם זה מודע היום, או שאתה צריך אלגוריתם חכם יותר?

תיאוריית המידע המשולב אומרת, לא, זה לא קשור לסימולציה; זה לא קשור ללעשות - זה בסופו של דבר על להיות (being), ולשם כך, באמת, אתה צריך להסתכל על החומרה כדי לומר אם היא מודעת או לא.

האם תיאוריית המידע המשולב כרוכה בהתחייבות לפאנפסיכיזם?

זה לא פאנפסיכיזם. הפאנפסיכיזם אומר, "השולחן הזה מודע" או "המזלג הזה מודע". הפאנפסיכיזם אומר, ביסודו של דבר, הכל חדור הן בתכונות פיזיות והן בתכונות מנטליות. אז לאטום יש גם תכונות מנטליות וגם פיזיות.

תיאוריית המידע המשולב אומרת, לא, זה בהחלט לא נכון. רק דברים שיש להם כוח סיבתי על עצמם [הם מודעים] - אין לשולחן הזה שום כוח סיבתי על עצמו; הוא פשוט לא עושה כלום, הוא פשוט יושב שם.

אבל היא חולקת כמה אינטואיציות [עם פנפסיכיזם] - בפרט, שהתודעה נמצאת בגרדיאנט, ושאולי אפילו מערכת פשוטה יחסית, כמו חיידק - כבר חיידק מכיל מיליארד חלבונים, [יש] אינטראקציה סיבתית עצומה - יכול להיות שהחיידק הקטן הזה מרגיש קצת כמו משהו. לא כמונו, או אפילו כמו תודעה של כלב. וכשהוא מת, נניח, כשנותנים לך אנטיביוטיקה והממברנה שלו מתמוססת, אז הוא כבר לא מרגיש כמו שום דבר.

תיאוריה מדעית צריכה להישען על כוח החיזוי שלה. ואם כוח החיזוי אומר, כן, התודעה רחבה הרבה יותר ממה שאנחנו חושבים - זה לא רק אנחנו ואולי קופי האדם; אולי זה בכל ממלכת החיות, אולי בכל עץ החיים - ובכן, אז כך יהיה.

לקראת סוף הספר, אתה כותב, "אני מחליט, לא הנוירונים שלי". אני לא יכול שלא לחשוב שזה שתי דרכים להגיד את אותו הדבר - ברמת המאקרו זה "אני", אבל ברמת המיקרו, זה הנוירונים. או שאני מפספס משהו?

כן, זה הבדל דק. מה שבאמת קיים עבור עצמו הוא התודעה שלך. כשאתה מחוסר הכרה, כמו בשינה עמוקה בהרדמה, אתה לא קיים בשביל עצמך יותר, ואתה לא מסוגל לקבל החלטות כלשהן. ולכן מה שקיים באמת הוא התודעה, ושם מתרחשת הפעולה האמיתית.

אני באמת רואה אותך על מסך המחשב, יש אורות בתמונה; בתוך המוח שלי, אני יכול להבטיח לך, אין אורות, זה חשוך לגמרי. המוח שלי פשוט עיסה. אז זה לא המוח שלי שרואה; זו התודעה שרואה. זה לא המוח שלי שמקבל החלטה, זו התודעה שלי שמקבלת החלטה. הם לא אותו דבר.

מאז שיש לנו מחשבים, אנשים התווכחו אם המוח הוא מעבד מידע כלשהו. טענת שזה לא. מנקודת המבט הזו, אני מנחש שאתה לא חושב שלמודלים של שפה גדולה יש כוחות סיבתיים.

נכון. למעשה, אני יכול להצהיר די בביטחון את ההצהרה הבאה: אין מבחן טיורינג לתודעה, לפי תיאוריית המידע המשולב, כי זה לא קשור לפונקציה; הכל קשור למבנה הסיבתי הזה. אז אתה בעצם צריך להסתכל על המעבד או השבב - כל מה שעושה את החישוב. אתה צריך להסתכל ברמה הזו: מה הכוח הסיבתי?

עכשיו אתה כמובן יכול לדמות בצורה מושלמת מוח אנושי שעושה כל מה שמוח אנושי יכול לעשות - אין שום בעיה מבחינה רעיונית, לפחות. וכמובן, הדמיית מחשב תגיד יום אחד, "אני מודעת", כמו שהרבה מודלים של שפה גדולה עושים, אלא אם כן יש להם מעקות בטיחות שאז הם אומרים לך במפורש "אוי לא, אני רק מודל שפה גדולה - אני לא מודע", כי הם לא רוצים להפחיד את הציבור.

אבל זה הכל סימולציה; זה לא באמת להיות מודע. בדיוק כמו שאפשר לעשות סימולציה של סופת גשם, אבל היא אף פעם לא מרטיבה בתוך המחשב, באופן מצחיק למדי, למרות שהיא מדמה סופת גשם. אתה יכול לפתור את משוואת היחסות הכללית של איינשטיין עבור חור שחור, אבל אתה אף פעם לא צריך לפחד שאתה הולך להישאב לתוך הדמיית המחשב שלך. למה לא? אם זה באמת מחשב את כוח הכבידה, אז מרחב-זמן לא אמור להתכופף סביב המחשב שלי ולשאוב אותי ואת המחשב פנימה? לא, כי זו הדמייה. זה ההבדל בין האמיתי למדומה. למדומה אין את אותם כוחות סיבתיים כמו האמיתי.

אז אלא אם כן אתה בונה מכונה בדמות מוח אנושי - נניח באמצעות הנדסה נוירומורפית (Neuromorphic engineering), אולי באמצעות מחשבים קוונטיים - עם זה, אתה יכול לקבל תודעה ברמת האדם. אם רק תבנה אותם כמו שאנחנו בונים אותם עכשיו, שטרנזיסטור אחד מדבר עם שניים או שלושה טרנזיסטורים אחרים - זה שונה בתכלית מהקישוריות של המוח האנושי - לעולם לא תקבל תודעה. אז אני יכול לומר בביטחון שלמרות שמודלים של שפה גדולה בקרוב מאד יוכלו לעשות כל מה שאנחנו יכולים לעשות, וכנראה מהר יותר וטוב יותר ממה שאנחנו יכולים לעשות, הם לעולם לא יהיו מודעים.

אז בהשקפה זו, זה לא "כמו כל דבר" להיות מודל שפה גדולה, בעוד שזה יכול להיות כמו משהו להיות עכבר או לטאה, למשל?

נכון. זה כמו משהו להיות עכבר. זה לא דומה לשום דבר להיות מודל שפה גדולה - למרות שמודל שפה גדולה הוא הרבה יותר אינטליגנטי, בכל מובן טכני, מהעכבר.

עם זאת באופן קצת אירוני, מודל שפה גדולה יכול לומר "שלום לך, אני מודע", מה שהעכבר לא יכול לעשות.

לכן זה כל כך מפתה, כי הוא יכול לדבר אלינו, ולהתבטא בצורה מאד רהוטה. אבל זה ערפד ענק - הוא שואב את כל היצירתיות האנושית, זורק אותה לרשת שלו ואז יורק אותה החוצה שוב. אין שם אף אחד בבית. זה לא מרגיש כמו משהו להיות מודל שפה גדולה.