עדיין בדיון

[שייח ספיר]

הארגומנט של פנרוז

מהי התודעה האנושית? אילו פעולות היא מסוגלת להפיק? הגישה המקובלת כיום בקרב מרבית החוקרים היא שהמוח הוא סוג של מכונת חישוב ביולוגית, והתודעה ניתנת לאיפיון מלא באמצעות המצבים שהמוח מצוי בהם בשלבי החישוב. הפיסיקאי רוג'ר פנרוז מערער על קונבנציה זו. לטענתו, השפעת התודעה באה לידי ביטוי בפעילות, אשר היא בעקרון בלתי חישובית. אם טענה זו נכונה, המוח איננו רק מחשב, ואי אפשר לאפיין את הפעילות המוחית כאלגוריתם. על כן גם לא יתכן מימוש אקווילנטי לתודעה אנושית באמצעות מחשב, או כל מנגנון חישובי קלאסי אחר. המשך המאמר בקובץ המצורף. הערה: למרות שאין צורך בידע מתמטי מתקדם כדי להבין את המאמר, הוא בכל זאת דורש ריכוז ויכולת לעכל שיקולים לוגיים מעט מורכבים. אני מתנצל מראש בפני המתקשים. אשמח לשמוע תגובות והערות. אבקש לא להעתיק את המאמר, כולו או מקצתו, אל מחוץ לגבולות הפורום ללא רשות מפורשת ממני.

 

[2_be]

ההודעה של mandark

תודה

ואם כבר פנרוז. מה אתה אומר על The Emperor's New Mind שווה לקרוא? איל

 

[שייח ספיר]

האמת היא

שלא קראתי את The Emperor's New Mind, אלא את הספר המאוחר יותר, Shadows of the Mind, והוא בהחלט מומלץ. אתה יכול לראות המלצות נוספות בתגובה שלי ל2_be.

 

[2_be]

2 דברים

דבר ראשון

ענק ותודה רבה, זה מעניין. דבר שני, אם לטענתו פעילות התודעה היא בלתי חישובית ולא מתבססת על אלגוריתם מה האלטרנטיבה שלו? זה היה הוא שקשר את התודעה למצבים קוונטים (עליהם נדמה לי דיברת בעבר ואין לי סבלנות לחפש עכשיו) או שאני מערבבת?

 

[שייח ספיר]

אכן פנרוז היה זה שהעלה את האפשרות

שתודעה קשורה למצבים קוונטיים במוח. פנרוז והאמראוף העלו את התיאוריה שפעולות תודעתיות נובעות מקריסה של פונקצית גל קולקטיבית במוח, הקשורה למצבים קוונטיים של איברונים תוך תאיים הנקראים מיקרוטיובלס. פנרוז גם מציע פיסיקה חדשה כדי להסביר כיצד נכנסת האי-חישוביות לעניין, שעיקרה התיאוריה (הספקולטיבית למדי, יש להודות) שגרוויטציה היא זו הגורמת לקריסה של פונקציות גל במערכות מאקרוסקופיות, ושתהליך זה איננו חישובי. מי שרוצה להתעמק בעניין מומלץ לקרוא את "Shadows of the Mind" של פנרוז. ראיתי גם ביקורת טובות על "The Large, the Small and the Human Mind" אשר מכיל מאמרים של פנרוז, הוקינג ואחרים המתווכחים על התיאוריות הנ"ל. מצאתי גם קורס אינטרנט: "Consciousness at the Millennium: Quantum Approaches to Understanding the Mind", של האמראוף ואחרים, בו נידונות התיאוריות בהרחבה.

 

[2_be]

../images/Emo51.gif

 

[שייח ספיר]

../images/Emo32.gif ועוד משהו

באוגוסט אמור לצאת ספר עב כרס של פנרוז בשם "The Road to Reality : A Complete Guide to the Physical Universe", האמור להוות סקירה מקיפה של כל יסודות הפיסיקה הידועים כיום. הביקורת באמזון טוענת שזה "arguably the most important work of science, aimed at the general reader, to be published in living memory". גם אם זו הפרזה, מסקרן יהיה לראות כיצד פנרוז מתמודד עם האתגר של העברת הפיסיקה המודרנית להמונים, ובאילו פרובוקציות הוא יתבל את העניין.

 

[2_be]

ההודעה של vizini

טיעון יפה, אבל שגוי נשים לב לכך שהאלגוריתם A מקבל כקלט מספר. לכן כל הקטע של "נסתכל באלגוריתם ואם מופיעה שם לולאת while 1 ..." הוא פשוט לא נכון. האלגוריתם A לא רואה את האלגוריתמים האחרים. לכן כדי לקיים את התנאי האלגוריתם A חייב להיות אלגוריתם טריוויאלי (לדוגמאת זה שלא עוצר על אף קלט) ולהשוות אלגוריתם כזה לתודעה זה פשוט לא נכון (אם להשתמש במילים עדינות).

 

[שייח ספיר]

אם יש שגיאה בטיעון, זו לא זאת.

יש מיפוי מוגדר מראש בין כל אלגוריתם ובין מספרו הסידורי ברשימת האלגוריתמים. כלומר, בהנתן האינדקס, אפשר לחשב ממנו מה האלגוריתם (או הפונקציה ב-C) אליה הוא קשור, ולבדוק אותה. אין פה שום בעייה. מיפוי אפשרי לדוגמה - קל לעשות רשימה סדורה של כל הטקסטים האפשריים באותיות ASCII (שבע או שמונה ביט לסימן), כאשר המספר המתאר טקסט ספציפי הוא פשוט רצף הביטים (בבסיס בינרי) שיוצר הטקסט. כעת, כדי לבנות את רשימת פונקציות ה-C, יש לנסות לבצע קומפילציה על כל אחד מהטקסטים לפי סדרם המספרי, ולשמור ברשימה רק את אלו שעבורם הקומפילציה הצליחה. כלומר, אם קיבלנו את המספר 5 כקלט, נחפש את הטקסט החמישי שעבר קומפילציה. בקיצור, יש למעשה אינסוף אלגוריתמים A מהסוג שתיארתי, ולא רק האלגוריתם הטריוויאלי.

 

[vizini]

זה לא עובד.

יש עוד שגיאות בטיעון, אבל קודם נגמור עם זו: אתה בעצם מציע מיפוי ספציפי של האלגוריתמים. כעת, כדי שהאלגוריתם A יקיים את התנאי (שאינו עוצר על עצמו) הוא צריך לזהות את עצמו לפי מיפוי זה. איך בדיוק הוא יעשה זאת?

 

[שייח ספיר]

מדוע הוא צריך לזהות את עצמו?

העובדה שA איננו עוצר על עצמו איננו תנאי. זו תוצאה אותה הוכחנו. כל מה שA צריך לעשות זה לעצור או שלא לעצור בהתאם לקלט המתקבל. כדי לדעת מתי לעצור הוא יכול להשתמש במיפוי (הנתון מראש), לבנות מתוך מתוך הקלט את הטקסט המתאר את האלגוריתם, ואז לבדוק האם הטקסט הזה מתאר פונקציה שאינה עוצרת. הוא לא צריך "לזהות" את הפונקציה הזו, רק לנתח את התנהגותה.

 

[vizini]

אנסח את הטיעון מחדש:

אני טוען כי הטיעון במאמר שגוי משלשה טעמים: 1. האלגוריתמים A הם אלגוריתמים טריויאלים במובן שתכף אסביר, ולכן לא ניתן להשוותם לתודעה. 2. האלגוריתמים A אומרים משהו על כל אלגוריתם ספציפי, בעוד שאנחנו הוכחנו משהו לגבי אלגוריתם לא ספציפי. 3. האלגוריתמים A אינם יכולים להכריע לגבי עצמם, בעוד שאנחנו הוכחנו משהו על אלגוריתם שאיננו עצמינו. לסיכום - כל מה שהטיעון מוכיח הוא שהתודעה איננה אלגוריתם האומר האם אלגוריתם אחר ספציפי טריוויאלי כלשהו איננו עוצר. הטיעון איננו מוכיח כי התודעה איננה אלגוריתם. באיזה מובן האלגוריתם A הוא טריוויאלי? ובכן, התנאי שהוא צריך לקיים הוא שאם הוא אומר על אלגוריתם ספציפי C שהוא אינו עוצר על קלט N, אז C אכן אינו עוצר על הקלט N. כלומר, לאלגוריתם A אסור לטעות. איך אפשר לקיים תנאי זה? ובכן, הדרך הטריוויאלית היא לא לומר דבר על אף אלגוריתם. שייח ספיר הציע דרך אחרת, והיא לבדוק האם יש משפט while 1 באלגוריתם C. אבל זה לא עובד. מספיק שבתוך לולאת ה while תהיה פקודת break, או פקודת exit, או פקודת goto, או קריאה לפונקציה שהיא, בתורה גורמת לאחת התוצאות הללו, כדי שהאלגוריתם C בכל זאת יסתיים. לכן האלגוריתם A צריך לבדוק שכל הדברים האלה לא מתקיימים. כלומר, או שהאלגוריתם A טריוויאלי, או שהוא אומר משהו רק על אלגוריתמים טריוויאלים. התודעה פשוט לא מקיימת את תנאי המשפט. לדוגמא, אני יכול לומר על אלגוריתם שקיים בו התנאי "אם השערת גולדבך נכונה - עצור" בתוך לולאת while 1 שהוא איננו עוצר בוודאות. האם אני מקיים את תנאי המשפט?

 

[קפטן ברני]

2 הערות

1. טיעון (3) שלך נכון - כל אלגוריתם חיצוני היה יכול להוכיח ש-A לא עוצר על עצמו, כפי שכתבתי בענף מתחתנו. טעית בפרט טכני לא חשוב. לולאת ה:

while 1;​

שמופיעה במאמר לא מכילה פקודות, מאחר והיא נחתמת ב-";". לרוב לא נתקלים בתכנות בלולאות ללא תוכן - כי אין שום סיבה שהמחשב יחכה שיתקיים תנאי, אם דבר לא משתנה. לעומת זאת, מי שהתנסה בתכנות בסביבת REALT TIME, כמו רובוטים, עשוי להשתמש בלולאה כזו בהמתנה לקלט מסוים מ"העולם שבחוץ". תנסה להפעיל את הקוד while 1; בכל קומפיילר ל-C - ותראה שהוא תוקע את המחשב. מ.ש.ל.

 

[vizini]

תגובה לתגובה

1. האלגוריתמים אכן טריוויאלים. while 1; הוא בדיוק אלגוריתם טריוויאלי. איזה בדיקות יותר מתוחכמות? פרט למה שציינתי, אינך יכול לכתוב "בדיקה מתוחכמת" שצודקת תמיד. לכן האלגוריתמים A שמקיימים את התנאי הם אלגוריתמים טריוויאלים או שהם יכולים להכריע רק לגבי אלגוריתמים טריויאלים. אין פה קל וחומר כי גם בני אדם אינם יכולים לזהות אי עצירה לגבי אלגוריתם ספציפי פרט לאותם מקרים טריוויאלים. 2.לא. איך אתה מזהה שאלגוריתם כלשהו הוא מטיפוס A? כל מה שהוכחת הוא שאם אלגוריתם הוא מטיפוס A, אז הוא איננו עוצר על קלט מסויים. איך אתה מזהה אם אלגוריתם הוא מסוג A? אם היה לך אלגוריתם לזיהוי, הרי אלגוריתם זה היה יכול להכריע לגבי אלגוריתמי A, אבל זו סתירה... 3. לא, ופה הטעות שלך. התודעה לא מסוגלת לזהות את האלגוריתם. טעות בטיעון שלך היא שהוראות של אלגוריתם אינם זמינות לו, אלא אם כן הם חלק מטקסט האלגוריתם. אבל זה כמובן לא אפשרי... וגם לנו, כתודעה, אין את היכולת להסתכל פנימה ולראות את ה"קוד של עצמינו"...

 

[vizini]

זו תגובה להודעה הזו, שמשום מה נמחקה

1. האלגוריתמים אינם טריוויאליים. קפטן ברני כבר הסביר לך את השגיאה שלך לגבי ";while 1" (שים לב לנקודה פסיק!) ולא אחזור על כך. כמו כן, די פשוט לכתוב אלגוריתמים שמבצעים בדיקות יותר מתוחכמות. האם ברצינות אתה טוען שיש רק אלגוריתמים טריוויאליים לבדיקת שגיאות תכנות בסיסיות (כמו לולאות אינסופיות פשוטות)? ובכל מקרה, זו לא יכולה להוות טענה כנגד ההוכחה של פנרוז, משום שיש פה קל וחומר. אם לא קיימים אלא אלגוריתמים טריוויאליים לזיהוי אי עצירה, ובני אדם מסוגלים לזהות אי עצירה, על אחת כמה וכמה שהתודעה איננה אלגוריתם. 2. "אנחנו הוכחנו משהו לגבי אלגוריתם לא ספציפי" - אבל, אם התודעה האנושית היא אלגוריתם, הרי אפשר עקרונית לכתוב אלגוריתם זה, ולהשתמש בהוכחה לגביו. ברגע שהוכחת טענה כללית, היא נכונה לכל מקרה פרטי. 3. "האלגוריתמים A אינם יכולים להכריע לגבי עצמם, בעוד שאנחנו הוכחנו משהו על אלגוריתם שאיננו עצמינו" - כניראה החמצת פה משהו. הראינו שאפשר לבנות מכל אלגוריתם A כאמור, אלגוריתם אחר אשר A איננו יכול לזהות שהוא עוצר. בפרט, אם A הוא האלגוריתם של התודעה המתבקשת להכריע בעניין עצירת אלגוריתמים, אפשר לבנות ממנו את אותו אלגוריתם אשר אין היא יכולה להסיק לגביו אי עצירה, אבל, בה בעת, כיוון שהתודעה מסוגלת להבין את המשפט, היא אמורה לזהות את האלגוריתם הנ"ל כזה שלא עוצר - וזו סתירה. אפשר להסתכל על העניין מזווית אחרת, ואני חושב שזה יענה גם על שאלתו של קפטן ברני. אם תודעה עשויה להיות אלגוריתם, אז גם לאלגוריתם עשויה להיות תודעה. נניח ש-A הוא אלגוריתם של מחשב "תודעתי" שכזה. הוא יכול לפעול באופן הבא: הוא קורא את תאי הזכרון בהם מאוכסנים הוראות התכנית שלו עצמו, מעתיק אותם, מחשב מהם את k, ומשווה אותו לשני מספרי הקלט, ואם זה אכן אותו מספר הוא עוצר. אבל פה יש וודאי טעות. הרי משמעות העצירה היא ש (C_k(k איננו עוצר, אבל הוא בדיוק פעולת (A(k,k, שעכשיו כתבנו שעצר. אז איפה הטעות? כדי להבין היכן טעה A, אני אשתמש במושג "נאמנות" לציין את התכונה שדרשנו שA תקיים - שלא תעצור אם לא מובטח בוודאות שאלגוריתם הקלט איננו עוצר. העובדה ש (C_k(k איננו עוצר תלויה בנאמנות של A. אם זו איננה מובטחת אי אפשר להסיק ש C הנ"ל לא תעצור. אבל A איננה נאמנה. הרי היא עצרה בטעות, כפי שהוכחנו. מכאן ברור גם מדוע אלגוריתם "חכם" איננו יכול לעקוב אחר הלוגיקה של ההוכחה, כאשר היא מופנית כלפיו עצמו. הוא לא ידע מאין להסיק את הנאמנות של עצמו, ולכן לא יוכל להסיק דבר לגבי (C_k(k הנגזר ממנו. וכאן מותר התודעה מן האלגוריתם. התודעה יודעת את הנאמנות שלה עצמה. לתודעה יש יכולת לרטרוספקט פנימי אשר שום אלגוריתם פורמלי לא יכול לחקות. זה גרעין האי חישוביות, שאולי קצת נסתר מן העין בהוכחה הפורמלית של פנרוז. אתה יכול לבחון את עצמך. אתה יכול להשתכנע שהשיקולים הלוגיים שלך הם נכונים. אתה אינך מחשב. לך יש מודעות. - - - - - - - - - - - - - - - אלו העקרונות שלי! ואם הם לא נראים לך, אז יש לי אחרים.

 

[שייח ספיר]

תגובה לתגובה לתגובה

1. הדוגמה הכי טריוויאלית היא אלגוריתם שאינו עוצר אף פעם. דוגמה קצת פחות טריוויאלית היא אלגוריתם שעוצר כשהו מגלה שורה: ;while 1. אבל אפשר, די בקלות לתת דוגמאות יותר מתוחכמות, למשל, אלגוריחם שמחפש לולאות מהסוג:

i=m; while i!=n { ... i++ }​

כאשר m ו-n הם מספרים כך ש m>n, ובתוך הלולאה אין פקודות break אין השמה לi פרט לפקודה i++, ואין הפניות לפונקציה. אלגוריתם מתוחכם יותר עשוי לבדוק רקורסיבית הפניות לפונקציות בתוך הלולאה. ואני בטוח שאפשר לחשוב על אלגוריתמים מתוחכמים בהרבה. שים לב שגם אדם מסוגל לחפש ולאתר בקוד שגיאות תוכנה, כגון לולאות אינסופיות. בקיצור, הטענה כאילו "גם בני אדם אינם יכולים לזהות אי עצירה לגבי אלגוריתם ספציפי" היא חסרת שחר. 2. "איך אתה מזהה שאלגוריתם כלשהו הוא מטיפוס A?" - זאת בדיוק הנקודה. אלגוריתם איננו יכול לזהות את האמינות של עצמו, ולכן איננו יכול להעזר בהוכחת האי עצירה כדי לקבוע אי עצירה לאלגוריתם האלכסון. אבל תודעה יכולה גם יכולה לזהות את אמינותה שלה עצמה. כל מה שהיא צריכה זה להיות משוכנעת בתקפות ההסקים הלוגיים שלה, וזה אפשרי אם הסקים אלו מוצגים באופן מפורט דיו, והתודעה היא של אדם בעל כישורים אנליטיים טובים (למשל, פיסקאי או מתמטיקאי מקצועי). יכולת הרטרוספקט הפנימי זה בדיוק מה שמבדיל תודעה מאלגוריתם. 3. "טעות בטיעון שלך היא שהוראות של אלגוריתם אינם זמינות לו, אלא אם כן הם חלק מטקסט האלגוריתם. אבל זה כמובן לא אפשרי... " - ??? אם האלגוריתם הוא תכנית בזכרון המחשב, אז יש לאלגוריתם אפשרות לקרוא את הזכרון ולזהות את כל הפקודות של עצמו. כאשר מדברים על מוח אנושי, יש צורך להשתמש בציוד מחקרי מתאים על מנת לזהות את האלגוריתם המוחי, אבל הרי טענת חסידי האינטילגנציה המלאכותית החזקה היא בדיוק שדבר כזה, לפחות בעיקרון, אפשרי. בכל מקרה, לאלגוריתם ממוחשב שאמור להיות בעל תודעה, יש בוודאי גישה לכל תא זכרון ולפיכך, יכולת לזהות את הקוד של עצמו. ודבר אחרון. אם זה לא היה ברור מספיק - מדובר בטיעון של פנרוז, לא שלי. לא הייתי רוצה לקחת זכויות יוצרים על מה שלא אני יצרתי. אם לומר את האמת, בתחילה סברתי גם אני שהטיעון שגוי. זה נראה לי אבסורד שאפשר להסיק דברים על התודעה מתוך הוכחה לוגית-פורמלית. באופן טבעי ציפיתי לראיות אמפיריות, לא מתמטיות-פילוסופיות. אבל ככל שבחנתי את ההוכחה השתכנעתי יותר ויותר שהיא תקפה, למרות שהיא נראית מן הוקוס-פוקוס שכזה. פשוט, צריך להשתחרר קצת מההתניות של הדוגמה המדעית הקונבנציונלית, כדי לעכל את מה שמסתתר מאחוריה.

 

[vizini]

תגובה לתגובה לתגובה

1. כל הדוגמאות שציינת עדיין טריוויאליות, ואותן ציינתי גם אני. "אלגוריתם מתוחכם יותר עשוי לבדוק רקורסיבית הפניות לפונקציות בתוך הלולאה" - ואיך בדיוק תוכיח את נכונות האלגוריתם הזה? 2. לא שאלתי על אלגוריתם. שאלתי עליך. אתה רוצה לטעון שאלגוריתם לא יכול לזהות עצירה, אבל אתה יכול. אז אני שוב שואל - איך אתה מזהה אלגוריתם כללי מטיפוס A? 3. לא. תחשוב על מכונת טיורינג. קוד המכונה הוא אוסף המצבים שלה, שאיננו חלק מהקלט של המכונה ואינו נגיש לה. יכולות המחשב אינם נגישים לו עצמו. אם לדוגמא הקוד שלך מכיל חלוקה באפס, יש מחשבים שהיו עוצרים על פקודה כזו. אבל הקוד שלך לא יכול לדעת זאת. אגב, אם היה לי אלגוריתם שיש לו נגישות ל"קוד" של עצמו, הייתי יכול להפריך את הטיעון שלך מהויכוח הקודם שלנו, על קיומה של קופסה שחורה לא אלגוריתמית...

 

[שייח ספיר]

ובאינדוקציה...

1. אני מניח שכל דוגמה שאתן אתה תכריז שהיא טריוויאלית. מה לא טריוויאלי לדעתך? ולמה זה משנה בכלל? כפי שכבר אמרתי, אם יש רק אלגוריתמים טריוויאליים המזהים אי עצירה, אז קל וחומר שהתודעה איננה אלגוריתם, שהרי ההוכחה של פנרוז מדגימה הסקה תודעתית לא טרוויאלית של אי עצירה. "ואיך בדיוק תוכיח את נכונות האלגוריתם הזה?" - יש כיום שיטות להוכחה מתמטית של נכונות אלגוריתם או קוד. אבל, כאמור, כל הדיון הזה מיותר. 2. "איך אתה מזהה אלגוריתם כללי מטיפוס A?" - אני לא צריך לזהות אלגוריתם כללי. אני צריך לזהות אלגוריתם ספציפי, שהוא (כביכול) האלגוריתם המייצג את יכולת ההבנה המתמטית-לוגית של התודעה שלי. ואני יכול לערוב לאמינות (soundness) של ההסקה הלוגית שלי משום שיש לי יכולת להסתכלות פנימית. 3. "תחשוב על מכונת טיורינג. קוד המכונה הוא אוסף המצבים שלה, שאיננו חלק מהקלט של המכונה ואינו נגיש לה" - מכונת טיורינג אוניברסלית מכילה את טבלת הבקרה שלה מקודדת בסרט, ולכן נגישה לה לחלוטין. כנ"ל, כל קוד מחשב נגיש לעצמו, משום שהקוד מאוכסן בזכרון. "אם לדוגמא הקוד שלך מכיל חלוקה באפס, יש מחשבים שהיו עוצרים על פקודה כזו. אבל הקוד שלך לא יכול לדעת זאת." - מה זאת אומרת? אם חלוקה באפס מוגדרת (אפריורי) כעצירה אז הקוד יכול לעבור על עצמו ולחפש מקרים ברורים של חלוקה באפס. ולא צריך לבלבל עם הגדרות חומרה. ההנחה היא שהמימוש מוגדר לחלוטין מראש, כולל כל מגבלות המחשב, ומהווה חלק מהאופן שבו האלגוריתם מיושם בפועל. "אם היה לי אלגוריתם שיש לו נגישות ל"קוד" של עצמו, הייתי יכול להפריך את הטיעון שלך מהויכוח הקודם שלנו, על קיומה של קופסה שחורה לא אלגוריתמית... " - חבל על הזמן. לאלגוריתם יש נגישות לקוד של עצמו. אין כמעט אפליקציות שעושות ביכולת הזו שימוש, אבל היא בהחלט קיימת. אם אתה חושב שזה עוזר לך להפריך איזה טיעון מויכוח אחר אתה מוזמן לנסות.

 

[שייח ספיר]

תגובה

1. האלגוריתמים אינם טריוויאליים. קפטן ברני כבר הסביר לך את השגיאה שלך לגבי ";while 1" (שים לב לנקודה פסיק!) ולא אחזור על כך. כמו כן, די פשוט לכתוב אלגוריתמים שמבצעים בדיקות יותר מתוחכמות. האם ברצינות אתה טוען שיש רק אלגוריתמים טריוויאליים לבדיקת שגיאות תכנות בסיסיות (כמו לולאות אינסופיות פשוטות)? ובכל מקרה, זו לא יכולה להוות טענה כנגד ההוכחה של פנרוז, משום שיש פה קל וחומר. אם לא קיימים אלא אלגוריתמים טריוויאליים לזיהוי אי עצירה, ובני אדם מסוגלים לזהות אי עצירה, על אחת כמה וכמה שהתודעה איננה אלגוריתם. 2. "אנחנו הוכחנו משהו לגבי אלגוריתם לא ספציפי" - אבל, אם התודעה האנושית היא אלגוריתם, הרי אפשר עקרונית לכתוב אלגוריתם זה, ולהשתמש בהוכחה לגביו. ברגע שהוכחת טענה כללית, היא נכונה לכל מקרה פרטי. 3. "האלגוריתמים A אינם יכולים להכריע לגבי עצמם, בעוד שאנחנו הוכחנו משהו על אלגוריתם שאיננו עצמינו" - כניראה החמצת פה משהו. הראינו שאפשר לבנות מכל אלגוריתם A כאמור, אלגוריתם אחר אשר A איננו יכול לזהות שהוא עוצר. בפרט, אם A הוא האלגוריתם של התודעה המתבקשת להכריע בעניין עצירת אלגוריתמים, אפשר לבנות ממנו את אותו אלגוריתם אשר אין היא יכולה להסיק לגביו אי עצירה, אבל, בה בעת, כיוון שהתודעה מסוגלת להבין את המשפט, היא אמורה לזהות את האלגוריתם הנ"ל כזה שלא עוצר - וזו סתירה. אפשר להסתכל על העניין מזווית אחרת, ואני חושב שזה יענה גם על שאלתו של קפטן ברני. אם תודעה עשויה להיות אלגוריתם, אז גם לאלגוריתם עשויה להיות תודעה. נניח ש-A הוא אלגוריתם של מחשב "תודעתי" שכזה. הוא יכול לפעול באופן הבא: הוא קורא את תאי הזכרון בהם מאוכסנים הוראות התכנית שלו עצמו, מעתיק אותם, מחשב מהם את k, ומשווה אותו לשני מספרי הקלט, ואם זה אכן אותו מספר הוא עוצר. אבל פה יש וודאי טעות. הרי משמעות העצירה היא ש (C_k(k איננו עוצר, אבל הוא בדיוק פעולת (A(k,k, שעכשיו כתבנו שעצר. אז איפה הטעות? כדי להבין היכן טעה A, אני אשתמש במושג "נאמנות" לציין את התכונה שדרשנו שA תקיים - שלא תעצור אם לא מובטח בוודאות שאלגוריתם הקלט איננו עוצר. העובדה ש (C_k(k איננו עוצר תלויה בנאמנות של A. אם זו איננה מובטחת אי אפשר להסיק ש C הנ"ל לא תעצור. אבל A איננה נאמנה. הרי היא עצרה בטעות, כפי שהוכחנו. מכאן ברור גם מדוע אלגוריתם "חכם" איננו יכול לעקוב אחר הלוגיקה של ההוכחה, כאשר היא מופנית כלפיו עצמו. הוא לא ידע מאין להסיק את הנאמנות של עצמו, ולכן לא יוכל להסיק דבר לגבי (C_k(k הנגזר ממנו. וכאן מותר התודעה מן האלגוריתם. התודעה יודעת את הנאמנות שלה עצמה. לתודעה יש יכולת לרטרוספקט פנימי אשר שום אלגוריתם פורמלי לא יכול לחקות. זה גרעין האי חישוביות, שאולי קצת נסתר מן העין בהוכחה הפורמלית של פנרוז. אתה יכול לבחון את עצמך. אתה יכול להשתכנע שהשיקולים הלוגיים שלך הם נכונים. אתה אינך מחשב. לך יש מודעות.

 

[vizini]

תגובה לתגובה

כאן