שעשועים של מודעות

פתח דבר - המבחן של טיורינג

מאת: ד. ניצן

זהו פרק מתוך הספר "שעשועים של מודעות".
© 2012 כל הזכויות שמורות למחבר, ד. ניצן
מותר להעתיק ולהפיץ את הספר הזה בגירסתו העברית בלבד, בכל אמצעי, בתנאי שלא ייעשה בתוכנו שינוי כלשהו.

'מסע הקסם המסתורי מחכה לקחת אותך.'
-- 'מסע הקסם המסתורי', החיפושיות, פול מקקרטני וג'ון לנון, 1967

בשנת 1952 נראו שחמטאי העיר מנצ'סטר שבאנגליה מודאגים מעט. [1] האם ינוצח לראשונה בן אדם על ידי מכונה, במשחק שנחשב כמייצג את יכולת החשיבה האנושית?

למען הדיוק ההיסטורי נציין שלא היתה זאת בדיוק 'מכונה כהילכתה', ששיחקה את המשחק האמור. אלן טיורינג, מתמטיקאי אנגלי מוכשר ורב פעלים, כתב את תכנית המחשב הרצינית הראשונה שידעה לשחק שחמט. הפרט השולי, שבאותם ימים טרם נמצא מחשב אמתי וחזק עד כדי יכולת לבצע אותה תכנית, לא עמד בדרכו של טיורינג להגשמת המשימה. הוא חיקה במדויק את פעולותיו של המחשב הבלתי-קיים, והריץ את תכניתו שלו עצמו, במשחק אל מול עמיתו - בחור בשם אליק גלני - משחק בו ניצח לבסוף האדם את המכונה הדמיונית. [2]

עיסוקו של טיורינג במכונות ובתחום המחקר שזכה לכינוי 'אינטליגנציה מלאכותית' [3] (תחום אשר משחקי מחשב 'חושבים' מהווים חלק ממנו) לא היה דבר חדש. עוד קודם לכן בזמן מלחמת העולם השנייה הוא עבד בשירות הבריטים וסייע בפיצוח מכונות הצופן הנאציות. בהמשך, ב-1950, בעודו עובד על פיתוח אותה תכנית שחמט, התייחס לנושא הקשר בין מחשב ואינטליגנציה אנושית במאמר שפרסם תחת השם 'מכונות חישוב ואינטליגנציה'. במאמר זה הציג לראשונה את הרעיון שנודע לימים בכינוי 'המבחן של טיורינג'.

מוחו האנליטי של טיורינג חש צורך בלתי נלאה, כך נראה, להציג דברים באופן מדויק, רשמי ומוגדר היטב, כמיטב המסורת המתמטית. אם ניתן להגדיר באופן מדויק מהו 'מחשב' ומהי 'תכנית מחשב' (כפי שכבר עשה יותר מעשור שנים קודם לכן), [4] מדוע שלא יהיה ניתן לנסות ולהגדיר במדויק גם מהי 'אינטליגנציה'? את זה בדיוק ניסה לעשות באותו מאמר מופלא, בו הציג את רעיון המבחן.

כדי לנסות ולהפנים מהו אותו הרעיון שזכה לכינוי 'המבחן של טיורינג', נסו לדמיין כיצד הייתם אתם בוחנים האם מחשב מסוים, או תכנית מחשב מסוימת, הם 'אינטליגנטיים' לטעמכם. אחת האפשרויות שמן הסתם עלתה במוחכם היא לנסות ולהשוות אותו מחשב או אותה תכנית אל מול אינטליגנציה אנושית מוכרת. עם זאת, כיצד מנטרלים את השפעתם של ההבדלים החיצוניים אשר בין מחשב כלשהו, עכשווי או עתידי, לבין בן אנוש בשר ודם - הבדלים אשר אינם קשורים בהכרח באינטליגנציה? על שיטת השוואה שתבטל הבדלים חיצוניים אלה, נסב מאמרו של טיורינג.

הפתרון של טיורינג עשה שימוש בשיטת תקשורת פשוטה ואחידה, אליה יגבילו עצמם גם האדם וגם המחשב (קרי, המכונה), שביניהם מנסה המבחן להשוות: תקשורת טקסטואלית בלבד. שופט אנושי יתקשר באמצעות טקסטים כתובים בלבד - טקסטים של 'שפה טבעית' - הן עם האדם והן עם המחשב, תוך שימוש באותם אמצעים טכניים (מקלדת ומסך לדוגמה), באופן ששניהם נסתרים מפניו ואין הוא יודע מראש מי הוא מי (או מה). המחשב, באמצעות התוכנה המותקנת בו, ינסה להיראות 'אנושי' בשיחה זאת. אם לאחר פרק זמן מסוים של שיחה, השופט האנושי עדיין אינו יכול לפסוק מי מהשניים הוא 'אדם' ומי 'מכונה', נכריז שהמחשב 'עבר את המבחן', וכי הוא 'אינטליגנטי'.

מבחנו של טיורינג עבר סוג של 'טבילת אש' מספר שנים לאחר שהומצא. ג'וזף ווייזנבאום, פרופסור למדעי המחשב במכון הטכנולוגי של מסצ'וסטס (MIT), כתב בשנת 1966 את תכנית המחשב 'אליזה' [5] אשר ידעה לנהל דו-שיח עם מפעיל אנושי, תוך חיקוי דרכי השיחה של פסיכולוגים (שכוללים במקרים רבים חזרה על דבריו של המטופל בניסוח מעט שונה). תכנית זו הצליחה לשטות בלא-מעט ממשתמשיה ולשכנעם, לפחות לתקופת מה, כי מולם נחבא אדם אמתי אשר מנהל עמם שיחה.

האם מחשב, או תכנית מחשב, שעברו בהצלחה את המבחן של טיורינג הם באמת 'אינטליגנטיים'? עד כמה הייתם מפקירים בידיהם החלטות הרות גורל באשר לעתידכם, למשל? יתרה מזאת, האם מחשב שעבר בהצלחה את המבחן של טיורינג, והוכרז כאינטליגנטי, יכול להחליף את השופט האנושי במבחן של טיורינג? האם במבחן שכזה לא יוכל להיווצר לכאורה מצב בו האדם מנסה להיראות 'ממוכן'?

כל אלה הן שאלות מרתקות וכבדות משקל, אך יש להודות שהן אינן השאלות המעניינות באמת.

-- * -- * --

בחלק גדול מהמאמרים המתארים את המבחן של טיורינג תמצאו את הביטוי 'מכונות חושבות'. [6] אינטליגנציה, בעיני רוחנו לפחות, היא תוצר של תהליך אחר - תהליך בו הישות האינטליגנטית חושבת באופן עצמאי, וזאת כחלק מתכונה מיסתורית אפילו יותר - מוּדָעוּת.

מודעות (המכונה לעתים גם 'מודעות עצמית' [7]) היא אותה תחושה של 'קיום' שגורמת לנו להרגיש כי אנו נמצאים כאן ועכשיו, וכי אנו ישות עצמאית ונפרדת משאר העולם שסביבנו. היכולות שלנו לחשוב, להיות בעלי רגשות ולחוש בדברים שונים נחשבות לחלק מאותה מודעות.

לכאורה אנו לוקחים את המודעות שלנו כדבר מובן מאליו. מאז שאנו זוכרים את עצמנו, בהיותנו ילדים קטנים מן הסתם, תמיד היינו כאן. תמיד היווינו אותה ישות ברורה ונפרדת, אותה אנו נוהגים לכנות 'אני', תמיד חשבנו ותמיד הרגשנו: עצב ושמחה, כאב והנאה, שנאה ואהבה, ובהתאם לחושינו הפעילים - גם ראייה, שמיעה וכל השאר. למיטב הבנתנו ותפיסתנו, ניחנו במודעות דומה גם כל חברינו, ואפילו חיות המחמד שלנו. מאידך, למיטב הבנתנו ותפיסתנו, לא ניחן בתכונה מרתקת זאת הטוב והיקר שבמחשבי תבל, ומבחינה זו אין כל הבדל בינו לבין אבן מקרית הזרוקה בשדה או הדף הנמצא כרגע אל מול עיניכם.

עם זאת, חוסר יכולתנו להתמודד באופן ברור ומדויק עם אבחנה זו שיצרנו בתפיסתנו, בינינו לבין האבן, יצר בתרבויותינו מושגים עמוקים ומורכבים, כגון 'נפש' או 'נשמה', שכן אחרת מהו ההבדל בין אדם חי לבין גופת אדם מת? או, על פי החידה הידועה: כיצד אתה משיג מודעות מתוך בשר? [8] עוד נחזור לנקודות אלו בהמשך.

מנקודת מבט מדעית, בהנחה שמילאנו את חובותינו בלמידה ובקריאה, הבנו גם כי קיים קשר לא ברור בין אותה מודעות, או 'נפש', לבין האיבר בגופנו אשר מכונה 'מוח'. בוודאי שמענו - ואולי אף יצא לנו לחוות בעצמנו - שגורמים שונים המשפיעים על אותו איבר מורכב שלנו, משפיעים עקב כך גם על תחושותינו וחשיבתנו, ואולי אף על הכרתנו - עוד תכונה היוצרת חלק מסל החלקים שמרכיבים אותה 'מודעות'.

ובכל זאת, בהיבט המדעי, חקר המודעות נושא עמו תכונה ייחודית ומביכה שמתוארת בספרים ובמאמרים רבים: מוחנו מורכב מאותם חומרים בדיוק שניתן למצוא בלא-מעט חפצים דוממים, כמו גם ברכיבים חסרי-מודעות של בעלי חיים. אנו יכולים אולי לבדוק לעומק את אופן פעולתו של המוח, הרכבו, יחסי הגומלין בין רכיביו, התהליכים הפיזיים והכימיים המתבצעים בו. כל אלה הם מידע גלוי, שהוא ותוצאות בדיקתו זמינים במידה שווה לכל אדם. אך המודעות עצמה - ההרגשה הברורה של 'אני כרגע רעב', התחושה המוכרת של 'זה צבע אדום' - נראה כי אלה אינן ניתנות לבחינה על ידי מישהו חיצוני, וקיימות אצלכם בלבד, כי לא ניתן 'לחדור' לחוויה האישית המסוימת של מישהו אחר. רק הוא יודע מהי ומה הוא חש. כל הנסיונות המדעיים שבעולם יכולים אולי לרמוז מהי, אבל לא לדעת במדויק... כך לפחות נראה.

-- * -- * --

האם באמת לאבן אין 'מודעות'? ומה עם הנרקיס? מחשב העתיד? חיידקי שחפת? ומה בדבר אדם שנמצא בתרדמת?

מבחנו של טיורינג אינו מתיימר כלל לעסוק בנקודה זו. אין הוא בודק האם למחשב (או לכל נבדק אחר) יש או אין מודעות, אלא אך ורק בודק האם הוא 'אינטליגנטי' בעינינו. למעשה, כך אומר מבחן טיורינג, אין קשר הדוק בין אינטליגנציה לבין מודעות: מושא המבחן יכול להתגלות כאינטליגנטי או כחסר אינטליגנציה, גם כאשר הוא 'מכונה' בלבד, אשר - נכון לנקודת זמן זאת ועל פי מיטב הבנתנו - היא חסרת מודעות. [9]

גם הצירוף ההפוך אינו נדיר למדי: ישות בעלת מודעות, אך חסרת אינטליגנציה מספקת. מלבד הצורך הטבעי להצמיד צירוף תכונות זה לתיאורם של כמה משונאינו, הרי שניתן להמר די בביטחה כי תינוק בן יומו או דג זהב מהאקווריום הביתי [10] לא היו 'עוברים' את מבחן טיורינג, למרות שעל פי מיטב הבנתנו ניחנו שניהם במתת המודעות.

מתבקש, אם כן, לעצב מבחן מסוג אחר - כזה שינסה לבחון האם הישות שמולנו היא בעלת מודעות, תחושה של 'קיום', חשיבה ורגשות משלה, או שמא מבחינה זו היא קרה ודוממת - אינטליגנטית ככל שתהיה.

האם ניתן כלל לבנות מבחן שכזה? ואם כן, כיצד הוא ייראה?

בשנת 1970 ניסה ד"ר גורדון גאלופ [11] לבנות מבחן לבדיקת 'מודעות', אשר עוצב עבור סוגים מסוימים של בעלי חיים. המבחן שזכה לכינוי 'מבחן המראה' כלל יצירת כתם קטן על שטחו החיצוני של בעל החיים, באופן שהכתם יהיה גלוי לעיניו בהסתכלו במראה בלבד. בעל חיים אשר השכיל להתנהג כאילו הבין שהכתם נמצא עליו עצמו (ולא רק על דמותו שבמראה), נחשב על פי המבחן כבעל מודעות. [12]

אפשר להתווכח כי גם מבחנו של גאלופ אינו המבחן המיוחל אותו אנו מחפשים. הוא בודק אכן סוג של 'מודעות לעצמי', אבל לא בהכרח זהה לזו שהגדרנו. סביר שהן התינוק והן דג הזהב שלנו לא היו 'עוברים' גם מבחן זה, ומאידך, ייתכן שרובוט בעל תוכנה אינטליגנטית במיוחד היה דווקא עובר אותו. [13]

בחלק מהנושאים הנוגעים ל'מודעות' יעסוק ספרנו זה. בין היתר ננסה לבחון יותר לעומק מהי בדיוק אותה מודעות, היכן בגופנו - אם בכלל - היא מסתתרת, ולאן היא נעלמת בבוא יומנו. הבה נצא ביחד למסע מרתק זה בנבכי הדבר המיסתורי ביותר שקיים בעולם: אנחנו עצמנו.

לפרק הבא

[1] משפט פתיחה זה מעתיק בכוונה תחילה את סגנון משפט הפתיחה של הספר המפורסם 'כאוס' מאת ג'יימס גליק (תרגום עברי בהוצאת ספרית מעריב, 1991).

[2] יצוין שמאז אותו משחק שחמט מפורסם כבר גברו תכניות מחשב משחקות שחמט על בני אדם מספר רב של פעמים. ב-1996 גברה לראשונה תכנית המחשב 'כחול עמוק' על אלוף העולם בשחמט גארי קספרוב.

[3] נהוג לתרגם את המונח הלועזי 'אינטליגנציה' למונח העברי 'תבונה' או 'בינה', ולתרגם בהתאם 'אינטליגנציה מלאכותית' ל'בינה מלאכותית'. כדי להיצמד למונחים המקובלים יותר ולמנוע בלבול אפשרי, נשתמש כאן במונח הלועזי 'אינטליגנציה' על נגזרותיו השונות.

[4] עוד בשנות ה-30 של המאה העשרים, בהיותו סטודנט, המציא טיורינג דרך לייצג מחשב ותכנית מחשב ('אלגוריתם') באופן מתמטי, במודל שזכה לכינוי 'מכונת טיורינג' והפך לאבן יסוד בלימודי מדעי המחשב מאוחר יותר.

[5] התכנית 'אליזה' זכתה לשם זה בעקבות הדמות של אליזה דוליטל מתוך 'פיגמליון' של ג'ורג' ברנרד שואו: אישה אנגליה בת המעמד הנמוך, אשר למדה לשטות בסובבים איתה להאמין כי היא בת המעמד הגבוה, באמצעות שינוי המבטא בדיבורה.

[6] יש הטוענים שעצם השימוש במושג האנושי 'חושב' בהקשר של מכונה (או מחשב) הוא לכשעצמו פסול ומטעה מלכתחילה.

[7] באנגלית: 'Awareness' ו'Self-awareness'. נהוג גם להשתמש בצירוף 'מודעות עצמית' לתיאור מצב אחר, בו אדם 'מכיר את עצמו' היטב (מהבחינה הרוחנית), ועקב כך מפיק מעצמו יכולות גדולות יותר. למען הפשטות נשתמש בטקסט במושג 'מודעות'. המושג המקורב 'הכרה' ('Consciousness') יידון אף הוא בהמשך.

[8] אימרה זו מיוחסת לפילוסופית האמריקאית פטרישה צ'רצ'לנד (Patricia Smith Churchland) בספרה 'המוח החישובי' (The Computational Brain) משנת 1992.

[9] למרות זאת, יש הטוענים שתנאי הכרחי כדי לעבור את מבחן טיורינג 'כהלכתו' הוא קיומה של מודעות. לעומתם, הציע הפילוסוף ג'ון סרל (John Searle) בשנת 1980 את מבחן 'החדר הסיני', שהוא סוג של 'מבחן טיורינג' בו היושב בחדר מצטייר כלפי חוץ כדובר סינית, למרות שפעולותיו אינן מתבססות למעשה על ידע בסינית, אלא על אלגוריתמים מתוכנתים מראש כיצד לענות.

[10] רמה מסוימת של אינטליגנציה ניתן להוכיח אצל תינוקות בני יומם, כמו גם אצל דגים, באמצעות ניסויים מתאימים המצביעים על יכולות יצירת הקשרים ולמידה.

[11] ד"ר גורדון גאלופ (Gordon Gallup) עוסק בביו-פסיכולוגיה ועובד - נכון לזמן כתיבת שורות אלה - באוניברסיטת אלבני שבמדינת בניו יורק.

[12] בניסויים עם מראה שנעשו עם דולפינים באקווריום הגדול שבבולטימור, על ידי פרופ' דיאנה ריס (Diana Reiss), התנהגו הדולפינים לא רק כאילו הם מבינים שבעל החיים במראה הוא השתקפות של עצמם, אלא לאחר זמן מה אף הפגינו התנהגות של טיפוח עצמי המדגימה כי איכפת להם כיצד הם נראים.

[13] קיימים גם נסיונות 'לבחון' קיומה של 'הכרה' ביצורים בעלי מוח, באמצעות בדיקות מאוד מסוימות של הפעילות החשמלית במוח המשוייכת בצורה זו או אחרת למצב הכרתי.