משהו שעלה לי לראש...

[שייח ספיר]

אי הוודאות הקוונטית היא רק משל

למה שעשוי להשפיע על הטבע מבלי להיות חלק מדיד, בעקרון (לפחות על פי ההבנה המדעית העכשווית), מן הטבע. אם המדע יכול להסכין עם על-אמפיריות בתחום אחד הוא יכול להסכין איתה בתחום אחר, גם מבלי להכנע לשרלטנים ולמיסטיקנים.

 

[Charles Darwin]

השאלה היא האם הוא בלתי מדיד מטבעו

או שפשוט (עוד) לא מצאנו דרך למדוד אותו

 

[שייח ספיר]

על פי הידוע כיום

הוא "בלתי מדיד מטבעו". זה נובע מעקרונות היסוד של המכניקה הקוונטית, לא מבעיה טכנולוגית כלשהי. העניין דומה לחוסר היכולת העקרונית להעביר עצמים או אינפורמציה מעל למהירות האור: ניתן להוכיח זאת מתוך עקרון האקוויוולנטיות (על פיו מדידות פיסיקליות במערכות אינרציליות שונות יתנו תוצאות זהות לחלוטין) ועקרון הסיבתיות (שהסיבה קודמת לתוצאה). זה עניין עקרוני, לא רק מעשי.

 

[Charles Darwin]

אבל המודל הקוואנטי הוא עדיין מודל

הוא לא אמור לשקף את המציאות כפי שהיא, אלא לתאר התנהגות של גופים ברזולוציה מסוימת. אני אמנם לא אוהב את הטענה מבית מדרשו של תומאס קון לפיה מהפכות מדעיות מתרחשות בתדירות ובעוצמה יחסית קבועה, אני חושב שהמהפכות המדעיות הולכות וקטנות בעוצמתן, אבל עדיין יש מקום למודלים חדשים שיוכלו אולי לבטל את אי הודאות של הייזנברג. שוב, אני ממש לא מכיר את הנושא, ואני יודע שעדיף לא לסמוך על האינטואיציה במקרים כאלה, אבל זה איכשהו נשמע לי יומרני לטעון שאין שום אפשרות למדוד את מיקומו של אלקטרון מסכן.

 

[Wolverchenus]

נראה לי שיש כאן קצת היבריס...

ובכל מקרה, בתור אבולוציוניסט אתה בוודאי יכול לראות שבחלק מהטענות פה יש נימה כמעט בריאתנית... "לא נראה לי" "זה יומרני לטעון ש" "זה בכל זאת _רק_ מודל"

 

[Charles Darwin]

אין לי בעיה עם נימה בעלת דמיון שטחי לבריאתנות

"לא נראה לי" >>> מתי אמרתי את זה? יתרה מכך, מה לא בסדר באימרה הזו? "זה יומרני לטעון ש" >>> אמרתי "זה איכשהו נשמע לי יומרני לטעון ש", כי נראה שמראש פוסלים את האפשרות שיש אי שם מודל יותר מדויק שכן יוכל "להתגבר" על אי הוודאות (יתכן שזה רק נדמה לי כי איני מכיר את התאוריה לאשורה, אבל בשלב זה זה עדיין נראה לי בעייתי). "זה בכל זאת _רק_ מודל" >>> למרות סלידתי האמורה מגישת קון, אני לא משוכנע שאין מודל שיכול לעשות לפיזיקה של המאה ה-20 מה שהפיזיקה של המאה ה-20 עשתה לניוטון. לא שניוטון טעה, אבל המודלים המודרניים מאירים באור חדש על התופעות שהוא תיאר. אני לא חושב שימצא שתורת הקוואנטים שגויה, אבל יש עוד מקום לשיפור ברזולוציה. גם לתורת האבולוציה עוד צפוי מקצה שיפורים, זה עדיין לא אומר שהבריאתנים צודקים.

 

[Wolverchenus]

נכון

אבל מצד שני, לשלוף דעות משום מקום שלא מבוססות על כלום חוץ מ"נורא בא לי שיהיה אפשר למדוד אלקטרון בלי עיקרון אי הוודאות" בלי להתמודד אפילו עם רמת איסוף הידע על הבעיה זה כן "הוכחה בניפנוף ידיים" כמו שאומרים פה בפורום.

 

[Charles Darwin]

נכון (נגיד ../images/Emo3.gif)

אבל מצד שלישי ציינתי שזו דעה אינטואיטיבית, ואחרי הכל מדובר בדיון בפורום באינטרנט, לא בהרצאה בוועידה מדעית. יכולתי לא להגיד כלום, אבל זו דעתי ההדיוטית לעת עתה והחלטתי לשתף אותה בגלל שאדון ספיר העלה את העניין בפניה אלי (כלומר בתגובה לתגובה שלי). לא ידוע לי אם יש תמימות דעים בקרב פיזיקאים על מוחלטוּת עקרון אי הודאות כפי שביולוגים בקונצנזוס באשר לאבולוציה, ושוב, ציינתי שדעתי עשויה להיות תולדה של בורות.

 

[שייח ספיר]

יומרני או לא,

זה בדיוק מה שהפיסיקה כיום טוענת - שלא ניתן לדעת, בעיקרון, מהו מיקומו של אלקטרון. כמובן, לא ניתן לחזות מהפכות מדעיות (אלא אם מחוללים אותם) ולכן אף אחד לא ידע לומר לך מה יחשבו עוד מאה שנה, אבל לבנות על מהפכה מדעית זה כבר לסמוך על הנס, לא רק להאמין בו.

 

[Charles Darwin]

ויש על זה הסכמה בקרב הפיזיקאים?

 

[שייח ספיר]

כן.

 

[שייח ספיר]

צודק וטועה

אתה צודק משום שמיסטיקה היא קשקוש, והמיסטיקנים הם חרטטנים או נוכלים. אבל אתה גם טועה, משום שהנפש איננה מורכבת מרובוטים, אפילו לא על דרך משל. התודעה האנושית נמצאת, בעיקרון, מעבר ליכולת תיאור במונחים רדוקציוניסטים-מכניסטיים. בעיית הגוף והנפש היא בעייה אמיתית, כמה שלא מנסים המטריאליסטים לטאטא אותה מתחת לשטיח. אין שום דרך לבטא באופן מכני תחושות וחוויות נפשיות, ואלו לא ניתנים לתיאור כפעולות פורמליות של עיבוד אינפורמציה. כמובן, לא נובע מפה שצריך להמציא כל מני הבלים על נשמה תכלכלה העולה השמיימה אחרי מות הגוף תוך נגינה בכינור. התודעה עדיין כרוכה בפעילות מוחית. היא פשוט לא ניתנת לרדוקציה לפעילות מוחית, לפחות לא באופן הניתן לאיפיון חיצוני-אמפירי.

 

[SilentMike]

צודק ותוהה.

אני אכן צודק בקשר למיסטיקה, אבל זו לא חוכמה גדולה, ואני כמובן לא הראשון שעלה על זה. אני תוהה על סמך מה אתה קובע שהנפש/נשמה/תודעה אינה שם שאנחנו נותנים לרמת מורכבות מסוימת מסוג מסוים, ובפרט לפעילות המוח האנושי, ולא יותר. אני לא חושב שזו בעיה של מטריאליסטים. אני חושב שזו בעיה רק בשביל אלה שאינם מטריאליסטים, שרוצים או צריכים "עוד משהו". למטראיליסטים פשוט אין את הבעיה הזו. אנחנו רואים סלע, מרימים אותו, אין תחתיו נמלים. דואליסטים חשים שצריכות להיות גם נמלים, אז הם חושבים שהנמלים בפנים, אבל נמלים לא יכולות לשרוד בתוך סלע, אז הם מניחים שהן נמלים קסומות בלתי נראות, כי פשוט חייבות חייבות חייבות להיות שם נמלים, אחרת זה לא סלע. מטריאליסטים אומרים "זה סלע גם בלי נמלים". אני מפנה אותך לראיון מרתק זה שבו רוברט רייט מראיין את דניאל דנט. בחלק הדן בתודעה (החל מדקה 28 בערך), נראה שרייט מעלה כל מיני "בעיות" והצעות ודנט לא ממש מבין מה הוא רוצה מחייו. אז או שדנט (ואני, וכל יתר המטריאליסטים) מפספס משהו, או שרייט ויתר החושבים כמותו מחפשים אבקת קסם. אולי אני לא אנושי או חסר תודעה, אבל אני לא חושב שדנט מפספס משהו. אני חושב שהוא הגיוני ומדויק, ואני מרוצה מהתשובה שהפיסיקליזם נותן לי. אני לא בטוח למה הכוונה ב-"לא ניתנת לרדוקציה לפעילות מוחית באופן הניתן לאיפיון חיצוני-אמפירי". בד"כ כשאני רואה תיאור כל-כך ארוך אני שואל את עצמי מה הקאטץ'. בבירור איני יכול לפרוט לך לטקסט את דרך פעילות המוח ואיך היא מיצרת את הקרוי בפינו תודעה. אבל האם זה אומר שהתודעה מכילה בהכרח משהו "מעבר" לאטומים המתנהגים כמו אטומים? לא. הדיבור על מחשבות ותודעות הוא רמת הפשטה יותר גבוהה מעל הדיבור על הפעילות הברמות הנמוכות יותר של הגוף (איברים, תאים, המולקולות של החיים), אשר מהווה בעצמו רמת הפשטה גבוהה יותר מעל הדיבור על תגובות כימיות בין אטומים ומולקולות בסיסיות, וכך עד לחלקיקי היסוד. אז כן, זה רדוקציוניזם אם תרצה. ורדוקציה היא לא יותר מהסבר. לומר מראש שיש משהו ברמה הגבוהה, ב-"תודעה", אשר אינו נפרט מטה עד לאטומים, ובכן זו אבקת קסם. התודעה היא שם שאנחנו נותנים לרמת מורכבות מסוימת מסוג מסוים, ובפרט לפעילות המוח האנושי, ולא יותר.

 

[שייח ספיר]

אתה באמת מפספס משהו.

כמו גם דניאל דנט ושאר המטריאליסטים. אטומים באמת "מתנהגים כמו אטומים". זה משום שהמושג "אטום" (כמו המושגים הפיזיקליים האחרים) מייצג בדיוק את מה שניתן לאפיין אמפירית. אין דבר כזה "על-טבעי" פשוט משום שכל מה שקורה בטבע הוא, בהגדרה, טבעי. אלא שהתודעה איננה קורית בטבע. מה שאנחנו חווים וחשים הוא חלק מהעולם הפנימי שלנו, ולא חלק מהמציאות החומרית. וכן, ברור לי לחלוטין ש"יש שם נמלים", משום שאני זה הנמלים. אני עשוי לפקפק בנמלים שיש בתוך האבן שלך, אבל לנמלים בתוך האבן שלי אני מודע באופן בלתי אמצעי. אין שום דרך, אפילו לא ברמת העיקרון, לאפיין חוויות נפשיות באופן אינפורמטיבי. המחשבה כאילו ניתן "לדעת מה זה להיות עטלף" פשוט באמצעות תיאור מפורט דיו היא פשוט מגוחכת. האם ניתן להסביר לעיוור מהו צבע כך שהוא ידע כיצד אדום "מרגיש". האם ניתן לתרגם "כאב" לבינרית? מערכות ממוחשבות לא מסוגלות להבין משמעות. הן מסוגלות לעבד אינפורמציה ותו לא. ושום רמת מורכבות לא משנה את זה. ניפנוף הידיים של דנט על "תחרות בין אלמנטים במוח על השלטון" לא פותר שום בעייה. מחשב לא מבין מה משמעות החישוב שהוא מבצע. מבחינתו הוא מעביר אפסים ואחדים (בכלל, משמעות איננה ניתנת לייצוג פורמלי - זה לב העניין). מי שמסתכל על תוכנית מחשב ומחליט שיש שם "תחרות" זה המשתמש או המתכנת, אבל זו האנשה מצחיקה. מה שיש בתכנית זה פעולות חישוביות ולוגיות ריקות ממשמעות אינהרנטית. מי שמנסה ליצור תודעה מלאכותית באמצעות מחשב קלאסי מנסה פשוט לבנות פרפטום מובילה. זו אלכימיה, לא מדע. הפיסיקה לא נעצרת באטומים וגם לא במאה התשע-עשרה. כיום אנחנו יודעים שהטבע איננו מכונה דטרמיניסטית, ואין שום סיבה להניח שהתודעה היא כזו. יש כיום מספר גישות אלטרנטיבית להבנת התודעה שהן מדעיות ורציונליות למהדרין מחד, אך אינן נתקעות ברחוב ללא מוצא של הרדוקציוניזם הנאיבי מאידך. ואם גם הן איננן נותנות תשובות מספקות, אז אפשר פשוט להודות שלא מבינים. בוא לא נסגוד גם אנחנו ל"God of the gaps".

 

[Charles Darwin]

עזוב את ניפנוף הידיים של דנט

אולי הוא טועה, אבל שוב נראה לי מוקדם להספיד את אופציית ההסבר המטריאליסטי, פשוט כי אנחנו עוד לא יודעים מספיק על התודעה. ובעניין ה-AI, מורכבות היא אולי תנאי הכרחי לתודעה, אך היא בוודאי לא התנאי היחיד. אין שום סיבה שמחשב יהיה מודע רק בשל מורכבותו, אבל לא הייתי פוסל את האפשרות שמחשב יהיה מודע, למשל אם בעתיד נבין את התודעה ברמה שתאפשר לנו לייצר תודעה מלאכותית, AC, ע"י ארגון המורכבות בצורה מסוימת.

 

[שייח ספיר]

ולדעתי:

1) אין שום סיבה רציונלית להאמין בהצלחת ה-AI בעתיד, נוכח העובדה ששיעור ההתקדמות בכיוון הזה כיום הוא בדיוק אפס מאופס. 2) יש לא מעט סיבות רציונליות לשלול את עצם רעיון ה-AI, משיקולים לוגיים, לינגוויסטיים, פיזיקליים, פסיכולוגיים ופילוסופיים.

 

[Wolverchenus]

שטויות

יש לך מושג מה המגבלות בשביל ליצר תודעה? בוא נתחיל מזה שהמחשבים היום הם בכלל חד או דו ליבתיים והמוח האנושי הוא מה שאפשר להגיד טריליון-ליבתי שזה מלכתחילה משנה את כל דרך העשייה שלנו. גופים אנושיים הם בעלי יתרונות שהם כבר מוכלים בתוך גוף ומשתמשים במוח שהתעצב באבולוציה ולמעשה מכיל המון המון תיכנות מובנה. אתה לא מצפה שנכתוב קוד בכמות שהאבולוציה כתבה בדור אחד נכון? קרא את כיצד פועל המוח שתבין שהבעיה החישובית היא כל כך מסובכת שב30 שנות מהפכת המחשבים זה היה בגדר נס אם היו עושים התקדמות ניכרת. כיוון ההתקדמות הוא רחוק מאפס אבל הוא עדיין גם רחוק מלשחזר אותנו. זה לא אומר שאין איזשהי מגמה בכיוון חיובי. אין ולו סיבה רציונלית אחת לשלול את רעיון הAI. הדבר היחיד שאני יכול לחשוב עליו הוא "זה יקח יותר מדי זמן לעשות את זה". זה לא זהה ללהגיד שזה בלתי אפשרי. הכותב הוא מתכנת העוסק גם בבינה מלאכותית.

 

[שייח ספיר]

נפנופי ידיים נמרצים

עוד לא גרמו לאף אחד לעוף. הבעייה עם AI איננה כמותית אלא איכותית. אם יש לך פאזל של מליון חלקים, והצלחת לחבר עשרים מהם, אז אפשר אולי להאמין שניתן בעיקרון להרכיב את הכל לתמונה מלאה. אבל מכל חלקי הפאזל של התודעה המלאכותית עוד לא הורכב אף אחד. למעשה, אפילו לא הגענו לשלב בו ידוע מהם החלקים שצריך להרכיב. כל מה שיש זה ספקולציה של מדע בדיוני. יש סיבות רבות לשלול עקרונית את האפשרות לAI באמצעות חישוביות קלאסית: הטיעונים של פנרוז ושל סרל, לדוגמה. מאידך, הטיעונים בזכות ה-AI מזכירים טיעונים בזכות האפשרות לבנות טיל מהיר מן האור. כלומר, אף אחד לא יודע בכלל איך לגשת לבעיה, יש נימוקים כבדי משקל המראים שזה בלתי אפשרי, אבל מי יודע, אולי אם נייצר מנוע מאוד מאוד מאוד גדול ומורכב הטיל יעבור את מהירות האור בכל זאת?

 

[Wolverchenus]

זה טיעונים בריאתנים משהו

"אפילו לא הגענו לשלב בו ידוע מהם החלקים שצריך להרכיב. כל מה שיש זה ספקולציה של מדע בדיוני." זה כל כך שגוי שאני אפילו לא יודע מה להגיד לך. לך תקרא ספר או משהו. אני ממליץ על "כיצד פועל המוח" "אף אחד לא יודע בכלל איך לגשת לבעיה, יש נימוקים כבדי משקל המראים שזה בלתי אפשרי" שוב שטויות. לאדע מאיפה אתה מביא את זה. זה יפה שאתה משלב ידע בפיזיקה אבל זה לא תכונה טבעית של היקום שאי אפשר לייצר בינה מלאכותית כמו לדוגמה שמהירות האור היא קבועה ואתה גם לא שמעת אף מדען של מדעי המחשב שאומר את זה. אתה שולל את האפשרות הזו לבינה מלאכותית לא בגלל שיש לך ידע נרחב בפסיכולוגיה קוגניטיבית, בתורת החישוב או במדעי המחשב אלא כי זה לא מתאים לאידיאולוגיה שלך. במילים אחרות - כי בא לך. תודה רבה, שלום.

 

[שייח ספיר]

האם כל מה שיש לך לומר

זה "שטויות" ו"לך תקרא ספר"? בשביל מה טרחת לכתוב תגובה? אני יודע לא מעט על פעולת המוח. אפילו עשיתי פעם קורס ברשתות נוירוניים. ובניגוד לך אני מכיר גם את הביקורת על גישת ה-strong AI. אני חוזר על טענתי: שום מערכת חישובית לא הצליחה להגיע, לא לאחוז ולא למליונית הפרומיל של חשיבה מודעת. אתה מוזמן לנסות לסתור טענה זו, פה או בדיון חדש. הערה: המושג "בינה מלאכותית" הוא מטעה. ייתכן שניתן ליצור בינה מלאכותית. מה שבלתי אפשרי זה בינה חישובית.