עדיין בדיון

שאלה טיפשית...

מספר הטקסטים שניתן לכתוב באמצעות תווים במחשב הוא א_0, נכון? (כמו מס' האלגוריתמים שניתן לכתוב) - כלומר, מחשב יכול פשוט לעבור על כל הטקסטים האפשריים לפי סדר. נניח שבדרך הוא עובר על הניסוח הפורמלי של ההוכחה שראינו זה עתה. הרי הוא יוכל לבדוק את הלוגיקה שלה! ומכאן, שהוא יוכל להסיק ש-C_k(k) לא עוצר. מכאן שהבעיה הזו ניתנת לחישוב. (או שמא מחשב לעולם לא יוכל להבין את ההוכחה הזו? אם כן, למה?)
 
דעתי על המאמר

(לא בדיוק) בניגוד להוכחה המקורית של טיורינג, שמבוססת על הנחה בשלילה שקיים אלגוריתם שתמיד נותן תשובה לשאלת העצירה, כותב המאמר מתבסס (בהתחלה!) על הנחה ברורה: קיים אלגוריתם כזה שמוצא תשובה לשאלת העצירה או מגיע למצב אי-הכרעה. אח"כ. הוא מניח (בשלילה!) שהאלגוריתם ינסה להבין את ההוכחה הנ"ל. כאן הוא מגיע לסתירה. כלומר, האלגוריתם חייב להגיע למצב של אי-הכרעה. זו בדיוק ההוכחה של טיורינג. מה שכותב המאמר עושה, הוא שהוא כותב את הנחת השלילה באמצע הטיעון במקום בתחילתו, מנוסחת כהנחת יסוד. חשוב להבין: לא רק התודעה יכולה להבין את ההוכחה שכתובה למעלה, אלא כל אלגוריתם "חיצוני" - כלומר אלגוריתם, שאם הוא היה מבין את ההוכחה, הוא לא היה מפר בה הנחה. אלגוריתם שאינו "חיצוני" יגיע בהכרח למצב של אי-הכרעה - וזה כבר הוכח ע"י טיורינג.
 
קודם כל,

לגבי השאלה ה"טפשית", כבר עניתי על כך לויזיני. גם אלגוריתם המסוגל לעבור על הלוגיקה של ההוכחה לא יוכל ליישם אותה לגבי עצמו משום שאין לו דרך לוודע את האמינות (כלומר, את העובדה שהוא אינו עוצר אף פעם על קלט של אלגוריתם עוצר) של עצמו. הגרעין של אי החישוביות של התודעה הוא בעובדה שהיא יכולה לבטוח באמינות ההסקה שלה עצמה. לגבי שאר הדברים שכתבת, לא הבנתי מה התכוונת לומר. הטיעון של פנרוז הוא אמנם ואריאציה על משפט העצירה של טיורינג, אבל הוא כללי יותר, מבחינה זו שהוא מנסח בדיוק את המגבלה הספציפית של אלגוריתם אמין (sound) כללי. בעצם הטיעון של פנרוז מתחלק לשני חלקים. בראשון הוא מוכיח משפט מתמטי כללי לגבי המגבלה של אלגוריתם אמין A כלשהו. בחלק השני הוא מניח בשלילה שתודעה היא אלגוריתם אמין, ומקבל סתירה משום שהתודעה מגיעה באמצעות המשפט המתואר בחלק הראשון למסקנה שאותו משפט עצמו מבטיח ששום אלגוריתם אמין איננו יכול להגיע. הביקורת המשמעותית היחידה שיכולה להיות לדעתי לגבי הטיעון הנ"ל היא שהוא מפריך את האמינות של התודעה ולא את האלגוריתמיות שלה. לדעתי גם זו ביקורת שגויה. אני אכתוב תגובה יותר מפורטת לכך בהמשך.
 

vizini

New member
ביקורת על הארגומנט של פנרוז

הביקורת היא ביקורת כללית על ספרו של פנרוז, ולא רק על הארגומנט שהוצג ע"י שייח ספיר.
 
ביקורת על הביקורת

זו איננה ביקורת על כל המאמר הארוך של דרו מקדרמוט (טרם קראתי את כולו), אלא רק על החלק העוסק בטיעון שהצגתי. המחבר מסכים שהטיעון של פנרוז מוכיח כי מתמטיקאי איננו משתמש באלגוריתם אמין (sound) כדי לוודא אמיתות מתמטיות, אולם רואה בזאת הפרכת האמינות של חשיבה מתמטית ולא הפרכת האלגוריתמיות שלה. לטענתו של מקדרמוט:
"no one in his right mind would suppose that that human mathematicians "use" (or embody) a sound algorithm, let alone a "knowably" sound one. To verify this point, you need merely to find a case where a mathematician made a mistake"​
מקדרמוט טועה. חשיבה מתמטית היא, בעיקרון, אמינה. פגמים באמינות הזו נובעים ממקורות נפשיים ופסיכולוגיים שאינם קשורים אליה ואינם מחוייבי המציאות. בעצם, מקדרמוט דומה למי שטוען כי "לכל כלל יש יוצא מן הכלל", ובכך מנסה בלי משים לקבוע כלל עבורו אין לדעתו יוצא מן הכלל. אם אין שום אפשרות לסמוך על האמינות של ההסקה הלוגית, כיצד אפשר לסמוך על האמינות של ההסקות הלוגיות בהן משתמש מקדרמוט עצמו להוכיח את דבריו? מדוע שוגים לעיתים מתמטיקאים? משום שאצה להם הדרך והם משתמשים ב"קיצורים" מחשבתיים שעלולים להיות מוטעים. אבל בסיס לכל הלוגיקה היא ההכרה שניתן לפרק טיעון מורכב למעברים לוגיים אלמנטריים הנכונים בוודאות. בפועל, מתמטיקאי מקצועי לא יעשה רדוקציה שכזו, משום שהוא מיומן מספיק לזהות את התקפות הלוגית של מעבר מורכב, אבל זה פירוק שאפשרי בעיקרון. די בסבלנות לשם כך. ובהנתן הוכחה המפורקת לצעדים הלוגיים האלמנטריים, הרי זו מלאכה ממושכת לבדוק אותם, אבל היא ניתנת לביצוע ללא שגיאה. אלמלא היינו בטוחים בתקפות השיקולים הלוגיים שלנו ברמתם האלמנטרית, לא ניתן היה להגיע לאף מסקנה בשום נושא. מתמטיקה לא היתה אפשרית. חשיבה בבלל לא היתה אפשרית. ובעצם, והרי זה לב העניין, תודעה היתה בלתי אפשרית. אם סוקרטס הוא יווני, ויוונים הם בני-אדם, אזי סוקרטס הוא בן-אדם. זו הסקה לוגית שלא ניתן לערער על אמינותה. אבל היכולת שלנו לדעת שהסק זה הוא אמין היא יכולת בלתי חישובית. אלגוריתם יכול לעשות שיקולים לוגיים, אבל אין לו שום דרך להבין את ההכרח שבאמיתותם.
 

vizini

New member
נראה לי שלא הבנת את הטיעון.

אני לא חושב שמדובר בטיעון על טבע האדם. מדובר על טיעון לוגי. איך מתמטיקאי יודע כי טיעונו נכון? אם יש הוכחה פורמלית, המבוססת על אקסיומות וטענות הנגזרות מהם לוגית, הרי שאפשר לכתוב אלגוריתם המוצא אותה. ואם אין כזאת, איך אפשר להיות בטוח בנכונות הטיעון? יש פורמליזציה טובה יותר של הטיעון כאן.
 
לא. דווקא הבנתי יפה את הטיעון.

נראה לי שאתה לא הבנת. ברור לכולם כי מדברים על טיעונים אשר יש להם הוכחה פורמלית אשר ניתן לעקוב אחר הלוגיקה שלה. אבל הביקורת של מקדרמוט על פנרוז טוענת שאין למתמטיקאי דרך לוודא שאכן הוא עקב אחר הלוגיקה באופן נכון. התשובה לכך היא שיש לתודעה דרך (בלתי חישובית בעיקרון) לערוב לאמינות תהליכי ההסקה של עצמה, בתנאי שאלו תהליכים מפורטים ואלמנטריים דיים. בעצם, היכולת לחשיבה לוגית מודעת לאמיתות של עצמה היא אחת מהתכונות המהותית המגדירות תודעה מהי. הטיעון כנגד פנרוז במאמר שצרפת כאן איננו אותו טיעון כמו במאמר הקודם. אם במאמר הקודם הטענה הייתה שמתמטיקאי לא יכול לסמוך על האמינות של ההסקה המתמטית של עצמו (אבל, כאמור, אם זה היה נכון לא ניתן היה ליצור מתמטיקה בכלל). במאמר הנוכחי (של פיליפ דורל) המחבר איננו תוקף נקודה זו:
"I am willing to concede that assumption 3 is correct, for the sake of argument..."​
כאשר הנחה 3 היא בדיוק זו העוסקת ביכולת לסמוך על מהימנות ההסקה המתמטית. הביקורת שלו היא על היכולת של המתמטיקאי לזהות אלגוריתם מסויים כמייצג את יכולת ההסקה המתמטית של עצמו. לא על תוקף ההסקה הוא מערער אלא על אפשרות זיהויה. אבל גם הטיעון של דורל, למרות שהוא חזק יותר מהביקורת על האמינות המתמטית, הוא שגוי. אמנם למתמטיקאי עשויה להיות בעיה מעשית לזהות את האלגוריתם המאפיין את החשיבה שלו, אבל אנחנו יכולים לצייד אותו במכשירים המאפשרים (תיאורטית לפחות) לבצע אנליזה של פעולת המוח ולהסיק ממנה את האלגוריתם (בעצם, כל התיאוריה של AI חזק היא שיש לתודעה אלגוריתם הניתן עקרונית לפיענוח ולזיהוי עם האדם לו היא שייכת). במקרה זה, הישות עליה אנו מסתכלים איננה רק המתמטיקאי, אלא המתמטיקאי פלוס המערכת הדרושה להסקת האלגוריתם המוחי. אם התודעה אלגוריתמית, אז גם המערכת המורכבת הזו נשארת אלגוריתמית, משום שלא הוספנו לה שום דבר שפעולתו איננה ניתנת לתיאור במונחים חישוביים. כמו כן, כבר הצעתי דרך אחר לראות את זה - להסתכל על קוד מחשב אשר אמור להיות בעל תודעה. לקוד כזה יש גישה פשוטה לקוד של עצמו, ולכן במקרה זה וודאי הטיעון של דורל איננו תקף.
 

vizini

New member
בוא ונשנה מעט את האלגוריתם A.

בהנתן אלגוריתם A, נבנה ממנו אלגוריתם B כך שB עוצר אם הוא יודע שC עוצר או לא, ומכריז עך כך. אם הוא לא יודע דבר על C, הוא שותק (לא עוצר). מה יש לפנרוז (לך) לומר על אלגוריתם B? האם הוא יכול להיות תודעתי?
 
מה הבעיה?

אלגוריתם B, אשר עוצר אם הקלט שלו עוצר, תמיד ניתן לבנות. כל מה שB צריך לעשות זה לסמלץ את C. אבל לא הבנתי מה פירוש "בהנתן אלגוריתם A, נבנה ממנו אלגוריתם B". מהו A, וכיצד אתה אמור לבנות ממנו את B? ומה הקשר לדיון?
 

vizini

New member
אין בעיה?

B הוא בדיוק A שאותו הגדרת קודם (אלגוריתם שעוצר רק אם הקלט שלו לא עוצר). אבל B שונה מA בפרט קטן: הוא עוצר גם אם C עוצר וגם אם C לא עוצר. כלומר, B עוצר אם הוא יודע בוודאות כי C עוצר ומכריז על כך, או אם הואיודע בוודאות כי C לא עוצר, ומכריז גם על כך. אם הוא איננו יודע מה עושה C על הקלט, B לא עוצר.
 
נו, אז מה?

ה-A שהגדרתי הוא מקרה פרטי של דרישה זו וכך גם האלגוריתם שהגדרתי בהודעה הקודמת. יתכנו גם מקרים נוספים: האלגוריתם מחפש פקודת ";while 1" כדי להודיע על אי עצירה, פקודת "break" כדי להודיע על עצירה, ובשאר המקרים הוא איננו עוצר. מה עכשיו?
 

vizini

New member
אז מה? אז עכשיו אין לך הוכחה!

ה-B שהגדרתי יכול להיות תודעה אנושית. שום דבר לא מונע ממנו ליישם את המשפט שהוכחת ולעצור על עצמו...
 
מה? מי? איך? למה?

מי אמר שה-B שהגדרת הוא תודעה אנושית? מה זה קשור בכלל למשפט של פנרוז? האם מישהו טען בכלל שאי אפשר לייצר אלגוריתם שיעצור על עצמו כקלט? הצגתי הוכחה מסויימת. הדרך להפריך אותה היא להציג בה כשל כלשהו, לא לבנות משהו אחר ולטעון עליו כהנה וכהנה. אף אחד לא טוען שאין אף פונקציה של התודעה האנושית שניתנת לחיקוי על ידי אלגוריתם. הטיעון של פנרוז מראה דבר אחד: שקיימת פעולה מסויימת - הבנת ההוכחה לגירסת פנרוז על משפט העצירה - שאיננה אפשרית לאלגוריתם. גם אם תבנה מליון אלגוריתמים שעושים פעולות שונות ומשונות, לא ענית במאום לטענה זו.
 

vizini

New member
לא נכון. הארגומנט של פנרוז

הוא אחיזת עיניים: הוא מכריח את האלגוריתם A לעצור אם C איננו עוצר, ולא לעשות כלום בכל מקרה אחר. כעת, אומר פנרוז, האלגוריתם A איננו יכול להכריע אם הוא עוצר. ביג דיל. אז מה? זה לא קשור לתודעה. אבל פנרוז בכל זאת רוצה לקשור זאת לתודעה, וכאן הוא מאחז עיניים - התודעה לא מוגבלת לעצירה רק אם היא מזהה שאלגוריתם C עוצר. אז נבנה אלגוריתם אחר - אלגוריתם B. כעת פנרוז לא יכול לומר כלום על אלגוריתם B. בפרט, הוא לא יכול לומר שאלגוריתם B איננו אלגוריתם תודעתי. סוף הסיפור.
 
שום אחיזת עיניים.

אם זה מבלבל אותך, עזוב את התודעה של המוח האנושי. טענת הAI החזק היא שאפשר לבנות תודעה ממוחשבת. קח את אלגוריתם התודעה הממוחשבת ובקש ממנו להכריע לגבי אי העצירה של עצמו על פי הכללים של פנרוז (לא שלך!). תקבל סתירה. זה הכל וזה באמת סוף הסיפור. העובדה שאתה יכול לבנות אלגוריתמים אחרים שאינם מובילים לסתירה איננה רלוונטית. אתה דומה לאדם שמוכיחים לו שסכום זויות המשולש הוא 180 מעלות, והוא אומר: "לא נכון! הנה ריבוע!".
 

vizini

New member
למה על פי הכללים של פנרוז?

הלא זו בדיוק אחיזת העיניים! זה כמו אדם שמראים לו ריבוע, והוא אומר "אבל במשולש יש 180 מעלות!". שיכריע לגבי אי העצירה של עצמו בכל דרך שימצא לנכון. אם הוא יודע שהוא עוצר, יכריז זאת. אם איננו יודע , לא יעצור. אם הוא יודע שאיננו עוצר, יכריז גם זאת. כמובן שהאפשרות שאחרונה לא אפשרית לגבי עצמו. נותרנו עם שתי האפשרויות - האלגוריתם AI יודע שהוא עוצר על עצמו, ומכריז זאת, או שאיננו יודע. וזה גם המצב במציאות עם התודעה שלנו...
 
קח את האלגוריתם B הממוחשב

שפועל על פי הכללים שלך, והפנה את הפלט שלו לפונקציה F הבודקת האם B קבע שאלגוריתם הקלט שלו עצר. אם כן, היא נכנסת ללולאה אינסופית; אם לא, היא עוצרת. כעת B+F הוא שוב אלגוריתם מסוג A וחזרנו לסתירה הנובעת מהטיעון של פנרוז.
 

vizini

New member
אבל מה איכפת לי מ-F?

זה כמו שתגיד: קח את ההוכחה של פנרוז, תן אותה ל-F ואם היא נכונה אז F תכנס ללולאה אינסופית. ועכשיו פנרוז ו-F הם אלגוריתם מסוג A...
 
אני לא מבין מה אתה רוצה.

אתה טענת שתודעה פועלת כאלגוריתם מסוג B ולא מסוג A. אז גם אם זה נכון, הרי B+F שקול לA, ולכן אפשר להפעיל את ההוכחה של פנרוז על B+F האמור להכריע לגבי אי העצירה של B+F, ואם מניחים שB מסוגלת (בתור תודעה) להבין את ההוכחה ממנה נובע שB+F לא עוצרת, מקבלים סתירה. זו הוכחה בשלילה. כיוון שקיבלנו סתירה, ההנחות מהן יצאנו הן שגויות, כלומר B איננה יכולה להיות אלגוריתם (F הוא אלגוריתם פשוט). הערה כללית: הטיעון של פנרוז עורר כצפוי עם פרסומו (לפני יותר מעשור) התנגדות גדולה, והיו נסיונות רבים להפריך אותו. למרות שהmain-stream המדעי לא השתכנע (גם לי לקח הרבה זמן), לא הוצג שום טיעון מוחץ הסותר את ההוכחה הזו, בטח לא הפרכות טריוויאליות מהסוג שאתה מנסה להעלות. כלומר, המצב כיום הוא של stalemate.
 
למעלה