עברית

אנגלית

דף הבית

האם אינטליגנציית סיליקון ניצבת בפתח?

מאת רפי מור

2005 

ההתפתחות המואצת של טכנולוגיית המחשבים בעשורים האחרונים לא הביאה לפריצת דרך בפיתוחה של אינטליגנציה מלאכותית. האם תהיה זו המאה העשרים ואחת שבה נראה לראשונה אינטליגנציית סיליקון? האם נצליח סוף סוף ליצור מחשבים בעלי תבונה? הייתכן שאינטליגנציה תתפתח באופן ספונטאני במחשבים מורכבים או ברשת האינטרנט? מאמר זה דן בשאלות האלה. 

משחק המלכים

המאמצים לחקות את האינטליגנציה האנושית מתקיימים מאז שקיימת טכנולוגיית המחשבים ואולי היו קיימים אף לפני כן. אחד הצעדים הראשונים בכוון זה היה הניסיון ללמד את המחשבים לשחק משחקים. משחק השחמט נראה כזירת אימונים טובה: מצד אחד, אנשים שמסוגלים לשחק שחמט טוב נחשבים כבעלי אינטליגנציה גבוהה, ומצד שני יש למשחק כללים ואמות מידה מוגדרים היטב. ב-1957 חזה הרברט סיימון, אחד מן החלוצים בשטח האינטליגנציה המלאכותית, שתוך 10 שנים מחשב דיגיטלי יהיה אלוף העולם בשחמט. הנבואה הזאת התבררה כהרבה יותר מדי אופטימית. שלושה עשורים מאוחר יותר, ב-1988, תוכנת המחשב "מחשבה עמוקה" שרצה על אחד מן המחשבים החזקים ביותר שהיו ל-IBM באותו זמן, הפסידה בתחרות נגד אלוף העולם גארי קספרוב. קספרוב אמר לאחר התחרות:

"אינטואיציה ורעיונות מעמיקים הם שמנצחים במשחק שחמט ברמות הגבוהות ביותר, לא חישובים" 

הוא גם הוסיף:

"אין שום סיכוי שרב-אומן ינוצח על-ידי מחשב בתחרות לפני שנת 2000."

בשנת 1996 קספרוב הפסיד במשחק אחד אבל ניצח בשלושה בטורניר שערך נגד גרסה חדשה של התוכנה ששמה הוסב ל"כחול עמוק". ב-1997, ארבעים שנה אחרי נבואתו של סיימון ושלוש שנים לפני סוף המאה, הובס קספרוב על ידי גרסה משוכללת יותר של התוכנה שנקראה "כחול עמוק יותר". הוא אמר אחרי התבוסה:

"מיליארדים על מיליארדים של חישובים כאלה יכולים בנקודה מסוימת להשתוות לאינטואיציה שלי..."

"אני מביט על המצב על הלוח ומקבל החלטות בהסתמך על יצירתיות, אינטואיציה, פנטזיה וקצת חישובים; המחשב מסתכל על המצב ומקבל החלטות שהן דומות, אך מבוססות אך ורק על חישובים. כאשר חוזרים על כך שוב ושוב ושוב, אנחנו מקבלים תוצאה זהה. זוהי מעין אינטליגנציה משום שהתוצאות הן זהות."

אבל האם זהו באמת סוג של אינטליגנציה, או שאולי משחק השחמט הוא פשוט מדי מכדי להוות מדד לאינטליגנציה? אלן טיורינג, מתמטיקאי ופילוסוף שנחשב למייסד של מדעי המחשב, הציע מדד מורכב יותר. מה שידוע היום כ"מבחן טיורינג" מבוסס על מה שטיורינג כינה במאמר שפורסם בשנת 1950 "משחק החיקוי": מתחקר משוחח עם בן-אדם שנמצא בחדר אחד ומחשב שנמצא בחדר אחר. בעזרת שאלות שהוא שואל אותם הוא צריך לגלות איזה מהם הוא האדם ואיזה המחשב. טיורינג חזה שבתום המאה מחשבים יוכלו לחקות שיחה אנושית כל-כך טוב שלמתחקר ממוצע לא יהיה סיכוי גדול מ-70 אחוזים להגיע לזיהוי נכון אחרי 5 דקות. זאת הייתה עוד תחזית אופטימית. עד היום שום תוכנת מחשב לא הייתה אפילו קרובה לעבור את מבחן טיורינג. נראה ששיחת חולין היא משימה הרבה יותר קשה למחשב מאשר משחק שחמט. יתכן שאנחנו לא מעריכים כראוי את מורכבות הבעיה ואת הטכנולוגיה הדרושה לחיקוי האינטליגנציה האנושית.

לחקות את הדבר האמיתי

לפני שנמשיך ישנה עוד שאלה אחת שצריכה להישאל: נניח שנצליח ליצור תוכנות מחשב טובות כל-כך שלמתחקר יהיה רק סיכוי של 50 אחוז לעשות את האבחנה הנכונה (בדיוק כמו ניחוש אקראי); לא רק אחרי 5 דקות אלא אחרי כמה זמן שירצה. אם מחשב יהיה מסוגל להגיב בדיוק כמו בן אדם חי, האם תהיה זו אינטליגנציה אמיתית או שעדיין יהיה זה רק חיקוי של אינטליגנציה?

בדיחה ידועה מספרת על אדם שמבקש עבודה ממנהל קרקס. "מה אתה יודע לעשות?" שואל המנהל. "אני מחקה ציפורים." משיב האיש. כשמנהל הקרקס פוטר אותו בבוז, הוא פורש את ידיו ועף דרך החלון החוצה.

אם אישה יכולה לשיר בדיוק כמו מריה קאלאס, האם היא זמרת גדולה או סתם חקיינית מעולה? אם אדם מצייר ציור שטובי המומחים לא יכולים לקבוע שזהו איננו ציור של ואן-גוך, האם זוהי יצירת אומנות אמיתית או סתם חיקוי פשוט? אפשר לטעון שהציור נעשה מתוך כוונה לחקות את ואן-גוך ולא מתוך השראה מקורית ולכן, למרות שהתוצאה זהה, זו איננה יצירת אומנות אמיתית בשל הדרך שבה היא נוצרה. אך מה אם המידע הזה אבד לנצח וכולם חושבים שזוהי אכן יצירה של ואן-גוך? האם עדיין אין זו יצירת אמנות אמיתית? השאלה היא: אם אין שום דרך להבדיל בין המקור לחיקוי, האם החיקוי הופך להיות הדבר האמיתי?

זוהי שאלה פילוסופית שאין לה תשובה אחת שהנה נכונה באופן אובייקטיבי. אבל דבר אחד בכל זאת ברור: מכל בחינה מעשית, אין הבדל בין השניים. לפיכך, חיקוי מושלם של אינטליגנציה אנושית יהיה אינטליגנציה אמיתית לכל מטרה מעשית. אם זה הולך כמו אינטליגנציה ומקרקר כמו אינטליגנציה, הרי שזה (מבחינה מעשית) אינטליגנציה.

לוקאס וגודל

השאלה אם ניתן בכלל לחקות אינטליגנציה אנושית באמצעות מכונה עומדת בלבו של הויכוח בין תומכי ושוללי האינטליגנציה המלאכותית. הפילוסוף הבריטי ג'והן לוקאס טוען שזה בלתי אפשרי. במאמרו "מוחות, מכונות וגודל (Gödel) הוא טוען שלמרות שמכונה עשויה לחקות כל חלק מהתנהגות דמוית-מוח שנרצה, היא לעולם לא תוכל לחקות אותה במלואה. לוקאס בונה הוכחה לוגית יפה לטענתו זו בהתבסס על משפט גודל. נקודת התורפה של ההוכחה הזאת היא שהיא נסמכת על הנחת היסוד שיש הבדל מהותי בין מוח של יצור חי לבין מכונה. לוקאס גורס שבעוד שמספר סוגי הפעולות שמכונה יכולה לבצע הינו תמיד סופי, המוח יכול תמיד לבצע לפחות סוג אחד נוסף של פעולות ולכן מספר סוגי הפעולות שלו אינו מוגבל. לוקאס מניח שמכונה יכולה לקבוע שדבר כלשהו הוא נכון רק על-ידי הוכחת הדבר על בסיס סדרה של כללים מוגדרים. המוח האנושי לעומת זאת, יכול "לראות" שמשהו הוא נכון גם אם זה אינו ניתן להוכחה, כפי ש"כל אדם הגיוני יכול להבין את המשפט של גודל" (שאינו ניתן להוכחה).

הנחת היסוד שאומרת שלמוח חי ישנן יכולות שלא יכולות להתקיים במכונות, מתבססות בהכרח על אמונה ברעיון הפילוסופי של הדואליזם – האמונה שהנפש והחומר שונים במהותם. מנגד לתפיסה זו ניצב רעיון המטריאליזם שגורס שכל מה שקיים הוא חומרי או פיזי. על פי המטריאליזם כל מה שאנחנו נוהגים לקרוא לו נפש אינו אלא תהליכים כימיים ופיזיקאליים במוח. הרוחני והגשמי הנם דבר אחד.

אמונה הינה סובייקטיבית לחלוטין ואין כל דרך אובייקטיבית לקבוע כמה נכונה או אמיתית היא אמונה כלשהי. כל האמונות הנן נכונות באותה המידה (וגם שגוייות באותה המידה).

כמטריאליסט אני מאמין שהמוח הנו מכונה ביולוגית. מכונה מורכבת ומשוכללת הרבה יותר מכל מחשב שקיים היום, אבל עדיין לא יותר ממכונה. מתוך אמונה זו אינני יכול לקבל את טיעוניו של לוקאס. אם גם המוח הוא מכונה, לא יכול להיות הבדל מהותי בינו ובין מכונה מסוג אחר. אם מספר סוגי הפעולות שמכונה יכולה לבצע הוא סופי הרי שכמוהו גם מספר הפעולות שהמוח יכול לבצע. אם המוח יכול לקבוע שמשהו נכון מבלי להוכיח את הדבר, גם מכונה יכולה לעשות זאת.

מסה קריטית

ייתכן שהמחשבים הקיימים פשוט אינם מספיק משוכללים וחזקים בשביל דבר מרכב כל-כך כמו אינטליגנציה. ישנה טענה מעניינת שאומרת שיש סף של מורכבות וכוח חישוב שצריך לעברו כדי שאינטליגנציה והכרה יהיו אפשריים. יש גם תיאוריה שאומרת שברגע שסף זה ייחצה, אינטליגנציה והכרה ייווצרו באופן ספונטני במכונות כאלה. הדבר אמור להיות דומה למסה קריטית ותגובת שרשרת: ברגע שיוצרים מסה קריטית של אוראניום מועשר, פיצוץ אטומי מתרחש באופן ספונטני ללא כל צורך בפעולה נוספת.

ייתכן שמחשב בודד רחוק עדיין מרחק רב מאותו סף, אבל אולי רשת האינטרנט שכוללת מיליוני מחשבים ואפילו מזכירה במקצת את רשת הנוירונים במוח, אולי בה תתפתח אינטליגנציה והיא תהפוך למעין מוח גלובאלי.

גם את התיאוריה הזו אינני מקבל, וזאת מהסיבה הבאה: אנו רואים בטבע רמות שונות ורבות של אינטליגנציה. ישנן רמות שונות של אינטליגנציה בבני אדם. קופים הם אינטליגנטיים, כלבים הם אינטליגנטיים, אפילו לעכברים יש אינטליגנציה מסוימת. למעשה אנחנו רואים רצף ברמות האינטליגנציה שמתחיל בחוסר אינטליגנציה מוחלט ועולה עד לאינטליגנציה האנושית הגבוהה ביותר. לו תיאורית הסף הייתה נכונה, היינו רואים את האינטליגנציה מתחילה ברמה מסוימת ולא היינו רואים כל רמת אינטליגנציה נמוכה מרמה זו. מכיוון שלא זאת התמונה בטבע, הסבירות לכך שתיאורית הסף היא נכונה נמוכה ביותר.

מוח מול מחשב

למרות שמוח ומחשב שניהם מכונות (על פי אמונתו של מטריאליסט), הם פועלים באופן שונה מאוד. המוח הוא בהחלט איננו מעבד דיגיטלי. בעוד שמחשב יכול לעבד את האינפורמציה שלו אך ורק באופן לוגי, למוח יש גם דרכים אחרות לעשות זאת. החשובה מהן היא יכולת ההכללה והמיון. לפעמים איננו ערים לעוצמה של יכולות אלה של המוח ונוטים להחשיב יותר את היכולות הלוגיות שלו. אבל המוח אינו יכול להתחרות במחשבים, אפילו הפרימיטיביים שבהם, בביצוע פעולות לוגיות. מחשב מסוגל לחשב, להשוות, למיין ולעשות מיני פעולות לוגיות אחרות במהירות עצומה ובדיוק יוצא מן הכלל. החוזק האמיתי של המוח האנושי הוא דווקא ביכולתו לא לדייק. המוח יכול לאפיין אינפורמציה על פי קריטריונים לא מדויקים ולמיין אותה בהתאם למאפיינים אלה. למשל, אדם יכול הסתכל על טקסט כתוב בכתב-יד ולהבין את משמעותו תוך שבריר שנייה. למרות שאנשים שונים כותבים את אותה האות בצורה שונה מאד, המוח יכול למצוא מייד את המאפיינים הכלליים ביותר של כל אחת מהאותיות ולזהות אותן. ביצוע זיהוי כזה בעזרת פעולות לוגיות בלבד דורש אלפי הגדרות ופעולות חישוב. זו היא הסיבה שמחשבים נתקלים בקשיים מרובים כשהם מנסים לקרוא כתב יד.

היכולות האלה של הכללה ומיון לא התפתחו במוח סתם כך. הן חשובות מאוד ליכולתנו לשרוד. הן הכלי שבעזרתו אנו לומדים את העולם שמסביבנו ואת כלליו.

אדם יוצא אל היער בחיפוש אחר מזון. הוא רואה חיה גדולה ויפה וחושב לעצמו: "מממ המון אוכל, אנסה לתפוס אותו." החיה רואה את האיש וחושבת אותו הדבר. האיש נמלט בעור שיניו. הוא מחליט לקרוא לחיה "דוב". למחרת יוצא האיש שוב אל היער ופוגש חיה אחרת. היא קצת יותר קטנה, היא שחורה ולא חומה והיא נראית מעט אחרת. אם אותו אדם יחשוב לעצמו: "אולי החיה הזאת יכולה להיות אוכל" יהיו לו סיכויים קלושים להגיע לשיבה טובה, אבל הוא מסוגל לעשות הכללה ומיון ובמקום זאת הוא חושב: "דוב! לברוח מהר." אסור גם שהכללה תהיה רחבה מדי. אם האיש יפגוש צבי ויחשוב: "דוב! לברוח מהר", לא רק שהוא יבזבז אנרגיה יקרה על בריחה ללא צורך, הוא גם יפסיד ארוחה דשנה.

מהי משמעות הדבר

טיעון נוסף של שוללי האינטליגנציה המלאכותית הוא שמחשבים יכולים לעבד את האינפורמציה שבידם, אבל אינם מסוגלים להבין את משמעותה. טיעון ידוע ושנוי במחלוקת הוא התרגיל המחשבתי "החדר הסיני" שהוצג על-ידי ג'והן סירל במאמר "נפש, מוח ותוכנה" (1980). סירל משווה מחשב שמדבר סינית ואפילו יכול לעבור את מבחן טיורינג בסינית, לאדם שיושב בחדר סגור. לאדם הזה יש הוראות כתובות באנגלית שקושרות כל סדרה אפשרית של אותיות סיניות שנמסרת לו לסדרה אחרת של אותיות סיניות שאותה הוא מחזיר. על פי ההוראות האלה הוא יכול לתת תשובה הגיונית בסינית לכל שאלה בסינית שנמסרת לו, ולשכנע כל אחד שנמצא מחוץ לחדר שהוא מבין סינית.

מחשב, אומר סירל, עובד באופן דומה: הוא מריץ תוכנה שמשייכת כל סדרה של תווים שמייצגת שאלה לסדרת תווים אחרת שמייצגת תשובה. אבל בדיוק כפי שהאיש בחדר הסיני אינו מבין את המשמעות של השאלות והתשובות, גם המחשב אינו מסוגל להבין את משמעותן.

כיצד אנחנו מבינים את משמעותם של דברים? כדי להבין זאת עלינו להבין תחילה את המשמעות של משמעות. (כאן אנחנו נכנסים לרקורסיה אינסופית משום שכדי להבין את משמעות המשמעות עלינו להבין תחילה את משמעות המשמעות...) הרבה נכתב על משמעות המשמעות. בספר ידוע שהתפרסם ב-1923 תחת הכותרת הזאת, מונים המחברים – אוגדן וריצ'ארדס, לא פחות מ-16 הגדרות שונות למונח "משמעות". כמעט כל ההגדרות השונות שהובאו למושג המשמעות במשך השנים, נופלות תחת ההגדרה הכללית ביותר שאומרת שמשמעות הינה המיקום של דבר בתוך מערכת. מכיוון שדבר יכול להשתייך ליותר ממערכת אחת, יכולות להיות לו מספר משמעויות ברמות שונות.

ברור שדרושה הכרה טובה של המערכת כדי שנוכל למצוא את מיקומו של משהו בתוכה. אבל זה עדיין לא מספיק. לרוב, מערכות כאלה יכולות להכיל מספר אינסופי של פרטים, או לפחות פרטים רבים מכדי שנוכל להכיר כל אחד מהם. איך נוכל אם כן למצוא את מיקומו של משהו במערכת כזאת ולהבין את משמעותו?

במאמר בשם "לקראת מוח גלובלי" מאת צבי ינאי, מדגים המחבר את חוסר יכולתם של מחשבים להבין את האינפורמציה שהם מעבדים בעזרת שני המשפטים הבאים:

"האיש בחלון השליך עציץ."

"האיש בקיר השליך עציץ."

הבה נבדוק את המשמעות של שני המשפטים האלה בשתי רמות:

ראשית ישנה המשמעות הלשונית – מיקומו של המשפט במערכת של השפה. המשמעות של משפט ברמה הזאת היא התמונה אותה הוא מתאר. לכאורה מציאת המשמעות של משפט ברמה הזאת אמורה להיות פשוטה. לכל מילה במשפט יש משמעות שהנה אובייקט, פעולה, או יחס בין אובייקטים ופעולות. כל מה שעלינו לעשות הוא לשייך כל מילה לדבר שאותו היא מסמלת ולקבל את התמונה. אבל המילים "איש", "חלון" ו"עציץ" אינן מסמלות אובייקטים מסוימים. הן מסמלות סוג או קבוצה של אובייקטים. עלינו להבין את משמעות המשפט מבלי להתייחס לאובייקטים מסוימים. בנוסף לכך, לכל מי שקורא את המשפט יש מושג סובייקטיבי על כל אחד מסוגי האובייקטים, מושג שתלוי בהתנסות האישית שלו, בתרבות שלו ובעוד השפעות סביבתיות. הסצנה שכל קורא של המשפט יתאר לעצמו תהיה שונה במקצת מזו של אחרים. מכאן אפשר לראות שהמשמעות של משפט איננה דבר מדויק. המשמעות של משפט היא משהו כללי שכולל בתוכו את כל המשמעויות האישיות השונות האפשריות.

לכל אחד משני המשפטים שלמעלה יש משמעות לשונית ברורה.

רמה אחרת של משמעות המשפטים היא מיקומם במערכת המציאות. כל אחד יכול לראות שהתמונה שמתאר המשפט הראשון יכולה להתרחש במציאות, אך זו של המשפט השני איננה אפשרית. איך אנו יודעים זאת? יש לנו ידע רב על המציאות, ידע שמתבסס על ניסיוננו האישי ועל דברים שלמדנו מפי אחרים. אבל ידע זה אינו מספיק. העובדה שמעולם לא ראינו איש משליך עציץ בתוך קיר לא יכולה להביא אותנו למסקנה שדבר כזה איננו אפשרי במציאות. רובנו הגדול, יש להניח, לא ראה גם עכבר אוכל בתוך עוגת גבינה, אבל איננו חושבים שזה לא יכול לקרות במציאות. כמו כן אפשר להניח שלאף אחד מאיתנו לא נאמר אי פעם: "שמע נא, אני רוצה לספר לך משהו על עובדות החיים – איש בתוך קיר שמשליך עציץ הוא דבר שבהחלט אינו אפשרי במציאות." איך בכל זאת אנחנו יכולים להחליט שכך הדבר? התשובה לכך היא הכללה ומיון. מתוך כל הדברים שכן התנסינו בהם והדברים שכן נאמרו לנו על המציאות, אנחנו יכולים לעשות הכללה ולשייך את הסיטואציה הזו לקבוצת הדברים שאינם אפשריים במציאות.

כלומר, הכללה ומיון הנם חיוניים להבנת המשמעות של דברים. אנחנו יודעים שמחשבים מתקשים בעשיית הכללות ומיונים כאלה. ייתכן שהמחשבים הקיימים כיום, שמתקשים אפילו בקריאת כתב יד, אינם חזקים מספיק כדי לעשות את החישובים הלוגיים הדרושים כדי להגיע למסקנה כזאת בזמן סביר, אבל בשום אופן אין פירוש הדבר שמכונות לא יוכלו לעשות זאת לעולם.

אם כן, מדוע הדברים לא זזים?

אם אינטליגנציה מלאכותית היא אפשרית ואין איזה רף טכנולוגי שצריך לעבור כדי ליצור אותה, למה ההתקדמות באינטליגנציה המלאכותית רחוקה כל כך מלהיות תואמת להתפתחות טכנולוגית המחשבים במחצית המאה האחרונה?

התשובה לכך היא שאנחנו פשוט לא הולכים בכיוון הנכון.

כל המחשבים והתוכנות שנוצרו עד היום תוכננו לבצע במדויק את מה שאנחנו מבקשים מהם לעשות. כל תגובה אפשרית של המחשב נקבעת מראש על ידי התוכנה. המחשבים בסך הכל מבצעים את ההוראות של המתכנתים שלהם. אין כל צורך באינטליגנציה כדי למלא הוראות. כל מה שצריך המחשב הוא לדעת לשייך תגובה לסדרה של נתונים שמוזנים אליו ולפעול בהתאם.

גם בניסיונותינו ליצור אינטליגנציה מלאכותית אנחנו נוקטים בגישה דומה: אנחנו מנסים להגדיר למחשב כיצד בדיוק נוהג ייצור אינטליגנטי ואומרים לו לנהוג על פי הכללים האלה. ישנה בעיה אחת קשה בגישה הזאת: אנחנו לא באמת יודעים מהי בדיוק אינטליגנציה, ובודאי לא יודעים מספיק כדי לפרק אותה לסדרה של כללים לוגיים מפורטים. אני בספק אם אי פעם נוכל לעשות זאת ללא סיוע של מחשבים אינטליגנטיים. אנחנו נמצאים כאן במלכוד ואין כל סיכוי שנוכל להגיע לפיתוח של מחשבים בעלי אינטליגנציה אם נמשיך בדרך הזאת, לפחות לא בעתיד הנראה לעיין.

אך האם ישנה דרך אחרת? אני סבור שכן.

תינוק לא נולד אינטליגנט. תינוק שנולד לא יעבור את מבחן טיורינג או כל מבחן IQ ידוע. אבל תינוק כן נולד עם כלים שמאפשרים לו לפתח אינטליגנציה.  הוא נולד עם זיכרון, הוא נולד עם היכולת ללמוד שפה, הוא נולד עם כמה יכולות לוגיות בסיסיות וגם עם היכולת לעשות הכללות ומיון. בתחילה יש לו מספר מוגבל מאד של כללים ותגובות: אם זה גורם לי להרגיש רע אני בוכה; אם זה גורם לי להרגיש טוב אני נרדם. במשך הזמן התינוק צובר זיכרונות ומתחיל למיין אותם. התנסויות חדשות ממוינות תוך שימוש בהכללות. הוא מעדן את מערכת התגובות שלו. הוא לומד על המציאות על-ידי התנסות. הוא לומד לדבר ולהבין את מה שאומרים לו. הוא מפתח אינטליגנציה.

אם אנו רוצים לפתח אינטליגנציה מלאכותית עלינו לנקוט בגישה דומה. עלינו ליצור מחשבים עם תוכנית ראשונית שכוללת מספר מצומצם של כללים ויכולות שיאפשרו להם ללמוד, להרחיב את מספר הכללים ולפתח אינטליגנציה בעצמם. דבר כזה יכול להיות מאד מפחיד. עלינו לוותר על השליטה באינטליגנציה שמתפתחת ולא נוכל לדעת מראש מה תהיה התוצאה. מה יהיה אם המחשבים יעשו חכמים מאיתנו ולא יחבבו את בני האדם? אם נחליט ללכת בכיוון הזה נהיה חייבים לשים מגבלות ברורות על מה שהמחשבים יוכלו לעשות.

הדברים נעשים חמורים עוד יותר אם חושבים על כך שהרבה מהידע שלנו על המציאות נובע מההתנסות הפיזית שלנו. המוח, בנוסף להיותו יחידת עיבוד המידע שלנו, הוא גם יחידת הבקרה של הגוף שלנו. ילד לומד את הכללים היסודיים של הפיזיקה על ידי משחק בצעצועים, הזזת חפצים והשלכתם. מתן שליטה על התקנים מכאניים בידי מחשבים שנמצאים בתהליך של פיתוח אינטליגנציה לא מוכרת, יהיה סיוט אמיתי לכל מי שראה אי פעם את אחד מאותם סרטי מדע בדיוני. עלינו לחפש דרכים חלופיות שיאפשרו למחשבים ללמוד את המציאות.

מסקנות:

ראינו אם כן (לפחות אלה מאיתנו שמאמינים במטריאליזם) שאין שום מניעה עקרונית לקיומה של אינטליגנציה מלאכותית. אין גם סף טכנולוגי מינימאלי הדרוש לקיומה; רמת האינטליגנציה המלאכותית יכולה להיות מותאמת ליכולות הטכנולוגיות הקיימות. יש עדיין מחסום פסיכולוגי: הפחד מפני אינטליגנציה בלתי ידועה שאיננה בשליטה מלאה שלנו. האנושות עשויה לפרוץ יום אחד את המחסום הפסיכולוגי הזה, אך אם לא תעשה זאת יהיה עלינו לוותר על חלום האינטליגנציה המלאכותית לזמן רב מאד.