שתי שאלות

[sabbine]

שתי שאלות

האם מכניקת הקוונטים, והניסויים ה"לא הגיוניים" שנצפו בתחום זה משמעה שהלוגיקה שלנו מוטעית? האם יש משהו עקרוני שמונע ממחשבים להגיע לאינטיליגנציה והבנה כמו של בני אדם?

 

[neko]

הלוגיקה שלנו מותאמת לעולם שלנו,

קרי, חיים על כוכב לכת במשיכה של G, בעל ירח יחיד, שסובב סביב שמש יחידה פעילה צהובה, ועליו חיים מבוססי פחמן... ואפשר להמשיך עוד ועוד. הלוגיקה שעובדת בתנאי מיקרו\מאקרו קיצוניים שונה לגמרי. מחשבים אינם עובדים כמו בני אדם, בעיקר מכיוון שאין את הטכנולוגיה להתקרב לכח החישובי של המוח. יתכן ובעוד כמה עשרות שנים יגיעו למצב שבו יהיה ניתן ליצור בינה מלאכותית "אמיתית". אבל כמו שמישהו אמר פעם (לא ציטוט מדוייק): "לעולם לא תהיה בינה מלאכותית, מכיוון שכל פעם שמדעני הבינה המלאכותית יוצרים דבר חדש בתחום, אותו דבר הופך להיות רגיל למחשב, ויוצא מתוך הגדרת הבינה המלאכותית". פעם החשיבו מכונה שיודעת לבצע חישובים כבינה מלאכותית, ואז המציאו את המחשב. אח"כ החשיבו מכונה שיודעת לזהות דיבור כבינה מלאכותית, ואז בנו אותה. היום מחשיבים מכונה מודעת לעצמה כבינה מלאכותית. יום אחד גם כזו תבנה, ואז ההגדרה תמשיך להשתנות בחמקמקות סביב ההצלחות...

 

[MelodicTruth]

לא

הלוגיקה היא תמיד אותה לוגיקה, אם תמצא מקום בו היא לא פועלת, היא תאבד את כל התוקף שלה, כמו אינדוקציה. הבעיה בניסויים הקוואנטים היא לא הלוגיקה, הבעיה בהבנה הלקויה שלנו שנובעת ממקרה "קיצוני" וחדש. ניתן ליישב את כל הפרדוקסים ע"י מציאת הטעויות שנובעות מהנחות היסוד השגויות שלנו. כבר ראיתי הסברים הגיוניים להרבה "מוזרויות" קוואנטיות. לינקים בקרוב...

בנוגע למחשבים, אם נבחן מקרוב את דרך הפעולה של התודעה האנושית ע"פ מכניקת הקוואנטים, נראה שכל צעד בכיוון AI הינו בגדר חיקוי זול. מדובר במורכבות פיזיקלית מדהימה, בעלת קיום בקנה מידה אוניברסלי ותלות באינספור גורמים שמרכיבים את התודעה הקולקטיבית, שהמח הינו רק חלק ממנה. אותה מורכבות לובשת צורה של רגשות ומחשבות אבסטרקטיות, או ההיפך, אותה תודעה עליונה לובשת צורה של תגובות כימיות מורכבות. בכל מקרה, אין בידינו את הכלים ליצירת אותו מרכיב מטפיזי לא ברור שמשמש כחלק הארי של התודעה האנושית. למרות שאם אתה לא מאמין בתודעה שאינה תלויה בתגובות כימיות למיניהן, הרי שתיאורטית יש אפשרות ליצירת AI.

 

[sabbine]

האם ההגיון הגיוני...

לגבי השאלה הראשונה, אני נוטה להסכים עם NEKO . לדעתי הלוגיקה שלנו מתאימה לתנאים שבהם אנו חיים, והיא רק חלק (כמו נגזרת) של הלוגיקה ה"אמיתית" שאותה איננו יכולים להבין. NEKO, האם לדעתך יש מעין לוגיקת על שמסבירה הכל, ונכונה בכל המימדים, או שהלוגיקות שלנו, ושל המיקרו/ מאקרו הן פשוט שונות זו מזו? לגבי השאלה השניה- אני עדיין מתלבטת. הפילוסוף סרל הגה ניסוי מחשבתי שנקרא "החדר הסיני". אנסה לתאר את הניסוי הזה- נדמיין שאנחנו בחדר ובו שני פתחים. יש לנו מילון צורות, המורה לנו איזו צורה להוציא במקום איזו צורה. אנו מקבלים צורות מצד אחד ומוציאים צורות מהצד השני לפי המילון. לאחר שנצא מהחדר, יתברר לנו שבעצם תרגמנו את התנ"ך לסינית. האם באמת תרגמנו? לדעתו "החדר" הזה הוא כמו מחשב- והבנתו תחבירית וצורנית, ולבני אדם יש גם הבנה סמנטית. השאלה, האם אותה הבנה סמנטית היא תוצאה של מורכבות בלבד, או שיש כאן משהו מהותי "נוסף".

 

[MelodicTruth]

אני חושב שאפשר להפוך את השאלה ליותר

פשוטה. אם תודעה=ראקציות כימיות, אין ספק שבעתיד תהיה לנו היכולת לחקות את אותן תגובות. אם תודעה=ראקציות כימיות+X ואנו מניחים כי X איננו גורם פיזי, אזי הטכנולוגיה, משוכללת ככל שתהיה לא תצליח לייצר AI. בקיצור, השאלה היא האם התודעה שלנו מורכבת אך ורק מכימיקלים, או שיש משהו מעבר לזה? לגבי השאלה הראשונה, ככל שערך מופשט כך הוא מתקרב לאבסולוטיות. כל היקום הינו יחידה אחת, ולפי נקודת המבט המדעית, ברגע הראשון, אותו זמן פלנק של תחילת המפץ הגדול החלו כל החוקים בכל פינה ביקום. למעשה, השינוי הקטן ביותר בחוקים האלה לא יאפשר את החיים שלנו כאן. למעשה, נגזר מזה שהגיון=קיום

 

[neko]

אני מאלו שדוגלים במורכבות בלבד.

אני מאמין שבהחלט יגיע היום (ולא בעוד הרבה זמן) שנוכל לבנות AI ברמה כזו שיוכל לריב איתנו ולטעון במשנה תוקף כי הוא מודע לעצמו ולעולם, וזכאי לX Y Z (כמובן רק אם "נתכנת" אותו מראש לרצות X Y וZ, או, לעומת זאת, ניתן לו את היכולת לפתח רצונות משל עצמו). אבל גם אז, יהיו כאלה שיגידו שהוא רק מכונה, ושכל ה"דרישות" וה"בקשות" שלו נובעות מהתכנות שלו, מהפיזי בלבד, ולכן אינו "מודע" כמונו. בקיצור, על השאלה הזאת לא ניתן לענות, לפחות לא באופק הנראה.

 

[neko]

נ.ב: דוגמא טובה לכך היא החרדים,

שטוענים שלגויים אין "נפש" (מילה אחרת למודעות), אלא רק יצרים. האם תוכל להוכיח להם שלגויים כן יש מודעות?

 

[MelodicTruth]

ההבדל

טמון בעובדה שמבחינה מדעית אין כל הבדל בין הגויים לחרדים, לכן טענה זו טיפשית כמו הטענה שהיהודים הם יצורים שטניים. אך אין ספק שיש מקום לויכוח על הרגשות שיש\אין לבע"ח, צמחים ומחשבים. כמובן שאם מחשב יטען שיש לו רגשות, הדרך היחידה להכחיש זאת תהיה ע"י חקר התודעה של המחשב בהשוואה לתודעה האנושית

 

[אמיר96]

איך תכחיש שלמחשב יש רגשות?

 

[MelodicTruth]

כבר אמרתי

שהדרך היחידה להכחיש דבר כזה היא ע"י מחקר מדעי של התודעה האנושית, והשוואתה לתודעה של המחשב. אני יכול לתכנת מחשב שיכתוב i love you, האם זה באמת אומר שהוא אוהב אותך? לך תכחיש את זה...

 

[אמיר96]

האם יש דרך להוכיח

שלבן אדם יש רגשות? איך אפשר לחקור את זה מדעית? אולי אפשר אבל זה משהו שהמדע של היום לא נותן אפילו רמז עליו.

 

[MelodicTruth]

שאלה טובה!

השאלה מתחלקת לשני חלקים 1. האם אני יכול להוכיח לעצמי שיש לי רגשות? התשובה היא כן, ללא ספק. אחרי הכל, זה אחד העקרונות היותר בסיסיים של הקיום, ע"ע דקארט. 2. האם אני יכול להוכיח שיש לאחר רגשות? מאחר ואנו לא חולקים את אותה פיסת תודעה, למרות שאני מאמין שיש קשר מסוים ביננו, הדרך היחידה להוכיח זאת היא ע"י מחקר מדעי. כן, ניתן לחקור תהליכים אלו באופן מדעי, זוהי בעצם מטרתה של הפסיכולוגיה הקוגניטיבית. עדיין אין לנו הבנה מלאה של התודעה האנושית, מדובר במחקר שנמצא בחיתוליו. לכן כל דיון פילוסופי מרחיק לכת פשוט לא שייך. אבל אין לי ספק שיבוא יום בו נבין את התהליכים שמאפשרים לנו לאהוב, לחשוב ולהחליט למי יש\אין רגשות.

 

[אמיר96]

נראה לי שהמחקר של התודעה

נמצא בשלב שבו הוא בודק מהן בכלל התופעות. זאת אומרת המחקרים של היום משולים לתצפיות של האסטרולוגים הקדומים בתנועת הכוכבים, בלי שמץ של מושג מה גורם לתנועות האלו.

 

[MelodicTruth]

מי אמר

שמחקר של מערכת כל כך מורכבת צריך להיות קל ומהיר? הייתי מעדיף להשוות את זה לחקר האסטרונומיה, לא לחקר האסטרולוגיה. בלי האסטרונומים הראשונים, שהסיקו את מסקנותיהם ע"י התבוננות ילדותית בטבע, אלה שדבקו בגישה הגאוצנטרית, לא היה מתאפשר לנו חקר היקום של היום. כל מחקר מטבעו אורך זמן רב בהתאם למורכבות של הנושא. אל תשכח שהבנה מלאה של התודעה האנושית לא תסביר רק תופעות כמו רגשות וחשיבה, אלא גם תופעות פרפסיכולוגיות ועוד תפקודים שלא ידענו עליהם.

 

[neko]

קפצת רחוק:

רגשות הם דבר פיזי לחלוטין, והדבר מוכר וידוע. מודעות, לעומת זאת, זה דבר אחר. לפי האינדיאנים, גם לאבנים למשל יש מודעות, גם אם אין להן עצבים שיתנו תחושות, מוח שיחשוב או שרירים שיזיזו אותן.

 

[MelodicTruth]

-

אין ספק שבעתיד נוכל לבנות מחשבים שינהלו איתנו דיון פילוסופי עמוק...אגב, הייתי ממליץ לקרוא את ה"שאלה האחרונה" של אסימוב. למרות זאת, קשה לי להאמין שבעתיד יהיו מחשבים שיאהבו אותנו. כמו שאמרתי קודם, לא נוכל לייצר AI שיהווה חקוי של התודעה האנושית, לפני שחקרנו את התודעה הזאת לעומק. ויש הרבה סיכויים שהמסקנות שיעלו מחקר התודעה לא יאפשרו לנו יצירת AI כך שניתן יהיה לקרוא למחשב "אינדבידואל" ויחולו עליו כל חוקי המוסר האנושיים. נכון לעכשיו אנו גולשים לספקולציות חסרות טעם, מאחר ועדיין לא הבנו את עצמנו.

 

[Grimsom]

האם אנדרואידים חולמים על כבשים חשמל

הפילוסוף דקארט (בפרק השני להגיונות) ישב בחדרו, הסתכל דרך החלון, ותהה האם האנשים שעוברים מתחת לחלונו הם לא בובות מכאניות לבושות מעילים וכובעים. הבלש דקארד (בספרו של פיליפ ק' דיק) ניסה (לא תמיד בהצלחה) לברר אלו מהאנשים איתם נפגש היו בני אדם, ואלו בובות מכאניות לבושות מעילים וכובעים (אנדרואידים) אותם יש להשמיד. מדוע הבאתי את הקטעים האלה? משום שהם מצביעים, לדעתי, בדוק על הבעיה שבדיון הזה: האם זה באמת משנה אם אנחנו מעבירים צורות מדלת לדלת? ואולי זה באמת מה שאנחנו עושים כשאנחנו חושבים שאנחנו מתרגמים את התנ"כ לסינית? האם לא הרבה יותר משמעותית התוצאה? אם זה מתנהג כמו בנאדם ונראה כמו בנאדם - זה לא בנאדם (אם נדקור אותו- הוא לא ידמם)? השאלה המשמעותית, לדעתי, היא הפונקציה הקהילתית שאותו דבר מקיים איתי. אני לא רואה מניעה עקרונית שיום אחד נצליח לחקות את התהליכים התודעתיים שלנו - ויהי אדם. אנחנו לא ניצור את התודעה שלו - אנחנו רק ניצור את דרכי התפישה, הלמידה והחישוב, שהם תהליכים אובייקטיביים. התודעה, שהיא הסובייקטיביות, תופיע כנראה כתופעת לוואי (אולי אפילו בלתי רצויה).

 

[neko]

לא התכוונתי ללוגיקה המתמטית,

התכוונתי ללוגיקה במובן היומיומי: לוגיקה כמו "אנשים לא עפים באויר" ו"כלבים אף פעם לא סגולים", וכמו כך גם "אבנים תמיד נופלות" למשל. זו הלוגיקה האנושית שמורכבת מנסיונינו ומותאמת לחיים כאן. חוקי הלוגיקה ה"קלאסיים" (יחסית

) של "אם X גורר Y וX נכון אז Y נכון" וכד' תמיד יהיו נכונים. בדיוק הזכרתי זאת יותר מוקדם במקום אחר...

 

[dawkins1]

מניין לך

מניין לך שהלוגיקה המתימטית תמיד נכונה ? למשל עקרון "השלישי הנמנע" (כל משפט הוא או אמת או שקר) לא בהכרח נכון. האינטואיציונסטים פיתחו לוגיקה ובה משפט יכול להיות לא אמת ולא שקר. כלומר - ייתכנו לוגיקות שונות מזו המוכרת לנו. כמו שהכבידה בארץ ובירח שונות - אולי ייתכן שהלוגיקה בכוכב תבוני אחר תהיה שונה.

 

[sabbine]

התכוונתי ללוגיקה מתמטית,

הילרי פטנם כתב מאמר ובו הראה שמכניקת הקוונטים סותרת את הלוגיקה המתמטית ולכן צריך לשנותה.