[2_be]

../images/Emo41.gifמודעות?!

כשמדברים על רובוטים עתידיים, על מכונות חושבות ועל בינה מלאכותית מדברים על מודעות. על איזה מודעות מדברים? איך מגדירים לדעתכם מודעות?

 

[hatulflezet]

אני חושב שזו שאלה פילוסופית.

לגבי ההגדרה של מודעות. איפה מתחיל ה"אני"? והיכן הוא ניגמר? אנחנו אומרים - הגוף שלי - מי זה אותו אני שלו שייך הגוף? יש מי שיגיד - שמודעות היא - סך הדברים שאדם יכול להתיחס אליהם בזמן נתון. זה אומר - שדברים אלו נימצאים במודעותו - ואחרים לו. אלו דברים להם הוא מודע. בלי קשר אם הם ראליים או דמיוניים, או בעזרת אילו חושים הוא הוא "מודע" אליהם. אני חושב - שאחד הדברים שמיחדים מודעות - ושבכך הם שונים מחשיבה של מכונה - היא שמודעות עושה כל הזמן שימוש ב"איחוד" ("כיפול" הרבה משמעויות יחד תחת משמעות אחת), בעוד שמכונה "חושבת" בפרטים - כל פרט הוא משמעות עצמאית.

 

[AlienSpirit]

הזומבי שבמוח

המודעות היא מושג קשה להגדרה כי זה בעצם מגדיר מה אנחנו. בחקר המוח ידוע מצב הנקרא ראייה עיוורת (Blindsight) שלוקים חולים אשר נפגעו בחלק מקליפת המוח הקשור לראייה או במסלול הראייה (סיבים החוצים את המוח מהעניים עד לחלק האחורי של המוח). ראייה עיוורת מתאפיינת במצב שהאדם הסובל ממנה יכול לראות חפצים אבל לא להיות מודע לקיומם. לדוגמא: חולה שלא מודע לקיום תא דואר עם חריץ מאונך אבל היא תדע לשלשל את המכתב בזווית הנכונה באופן אוטומטי למרות שאיננה רואה את התיבה מבחינה מודעת. הנוירולוג ראמאצ'דראן קורא לזה "הזומבי שבמוח" שרואה את העולם אבל אינו מודע כלל לקיומו. במצב כזה יש בחולה "זומבי" שרואה אבל מנותק לחלוטין לתודעה המודעת. נראה שבתוך תוכינו יש הרבה תהליכים מקבילים או "אני-ם" וייתכן שהמודעות היא מרכיב של כולם.

 

[hatulflezet]

לא צריך ללכת רחוק

כמה פעמים קרה לכם שנהגתם דרך מוכרת מאוד, נגיד לעבודה או חזרה - וכשהגעתם, ותוך כדי חשבתם על משהו (או דיברתם עם מישהו לידכם), וכשהגעתם, פתאום שמתם לב, שאתם לא יכולים לזכור ממש מה היה בדרך, כולל רמזורים אם היו אדום או ירוק - ובכל זאת - נהגתם כל הדרך נכון. לי זה קורה מדי פעם... אבל אני חושב שזה רק עושה הבחנה - בין מודע ותת מודע - אבל שניהם מצבי מודעות.

 

[Honey Bunny]

לדעתי

המודעות בכללי זאת היכולת השכלית לא לתפוש את הכל כמובן מאליו לא כמו בע"ח שבשבילם כל פעולה שהם עושים וכל מה שהם רואים לא גורמים להם לתהות לרגע זאת בעצם היכולת לשאול שאלות לגבי מה שהחושים קולטים, ולהבין בכלל את החושים, לחפש לכל דבר בטבע משמעות המודעות גורמת להרגשה שאנחנו מעבר למכונה שעובדת לפי תבנית, אלא שיש מה שנקרא "נפש", אבל כמובן שזאת רק אשליה.. זה כמו הפילוסוף הזה שאמר "אני חושב משמע אני קיים", נראה כאילו המודעות שלו לקיום האני של עצמו נבעה מזה שהוא הרהר על מה שקורה בעולם. אם הוא מצליח לשאול לגבי הקיום שלו בתור ישות נפרדת אז הוא כבר לא מכונה.. לגבי רובוטים, אולי הכוונה שיבנו להם שכל מאוד מפותח, עד כדי כך שהם יתחילו "לחשוב" מרוב שהשכל מסובך ושהם מכונה-לומדת. הרי זה מה שגורם לנו להרגיש סקרנות, לא?

 

[mandark]

השאלה היא

האם ייצור מפותח מאיתנו, לא יראה את ה"מודעות" או את המחשבה וההרהורים שלנו כפעולות התפשות כמובן מאיליו.

 

[ailag]

-=-=-

זהו, שיש פה בעיה. הרי אם אני אכתוב תוכנה שרק תדפיס "אני שמח" ואת כל הזמן תתני לו קלט "איך אתה מרגיש?" את תחשבי שיש לה מודעות. זו, כמובן, טעות שלך. אם אני אשכלל את התוכנה טיפה - עדיין. אם אני אשכלל אותה המון, יכול להיות שהיא תגיע ל"איכות" של בן אדם, ועדיין - אני תכנתתי לה את כל התשובות. בקשר לדקארט, על פי הבנתי הוא אמר את זה כדי לעצור את השרשרת של "ומה אם היקום לא קיים ורק אני? ומה אם אני לא קיים?" - אם אני לא קיים אין שום דבר לעשות עם זה מבחינה פילוסופית ואין טעם להמשיך את הדיון. נראה לי שזו הכוונה. בקשר לרובוט שיתחיל לחשוב, יש לי שאלה אלייך: כשאנחנו משכפלים DNA בתהליך של יצירת תאומים זהים, אנחנו מחשיבים את שני העותקים בתור שתי ישויות שונות. אם אני אשכפל תוכנה בסיסית של AI, לפני שלמדה מהסביבה, האם תחשיבי את שני העותקים כשתי ישויות חושבות שונות? אם כך, האם חלק מהתוכנה הוא חלק מהאישיות שלה? אם כך, האם אני יכולה להעתיק חלק קטן מהתוכנה, שאותה חינכתי לענות תמיד "אני שמח" כשאת מדברת איתה (חינוך קפדני!) לדיסקט נפרד, להגדיר אותה כחלק מאישיות של מכונה ולתת לך להשתמש בה? אם כן, מה ההבדל בינה לבין התוכנה שהצגתי בתחילת ההודעה? (אני לא מבקרת או אומרת שאמרת משהו לא טוב - אני מנסה לפתח את הרעיון הלאה. כי אצלי ככל שחשבתי על זה יותר, נפתחו לי יותר שאלות) נ.ב. יהיה טוב יותר אם באמת תעני לכל או רוב השאלות ולא רק בכלליות, כך דיונים בד"כ מתפתחים טוב יותר.

 

[mandark]

אולי זו טעות שלך?

" זהו, שיש פה בעיה. הרי אם אני אכתוב תוכנה שרק תדפיס "אני שמח" ואת כל הזמן תתני לו קלט "איך אתה מרגיש?" את תחשבי שיש לה מודעות. זו, כמובן, טעות שלך. " אולי יש לה מודעות כמו שלך יש מודעות אבל היא פחות מפותחת? דוגמא לתוכנה: אם הביטים האלה ככה תגיד שמח. אם הם ככה תגיד עצוב. אצלנו: אם בחלק הזה של המוח ריכוז גבוה של חומר כזה או אחר תגיד שמח, אחרת תגיד עצוב. היכן ההבדל?

 

[ailag]

נו, זה היה חלק מהרעיון מאחורי השאלה

המנחה. היא טענה שיש דבר כזה מודעות, אתה טענת שאין אבל אני ניסיתי לשאול אותה כדי ש: או שתסיק שאין ואז יהיה גם נימוק שמוסכם על כולם, או שתמצא טיעון טוב שלא חשבת עליו ואז יהיה ממה להמשיך..

 

[Deathatred]

אולי לכיסא יש מודעות אבל היא פחות

מפותחת? אנא הסבר לי את ההבדל העקרוני בין תוכנת מחשב "אני שמח" לכיסא.

 

[Honey Bunny]

אוף יצא יותר מדי ארוך... 'סטערת ../images/Emo3.gif

בקשר לתוכנה- זה לא יגרום לחשוב שיש לה מודעות, אם היא תענה באופן שיטתי "אני שמח" אז בן אדם יכול לקלוט שמדובר בתבנית חוזרת. בקשר לפילוסוף הזה....באמת שלא היה לי מושג למה הוא התכוון, פירשתי את זה ככה כי זה די התחבר לנושא, אולי באמת אין קשר למודעות.. אם תשכפלי תוכנה בסיסית לפני שהיא למדה מהסביבה אז אלו כן שתי ישויות שונות, כי הלימוד שלהן מהסביבה יהיה שונה. חלק מהתוכנה יהיה חלק מהאישיות שלה רק אם תכנתו לה מאפיינים קבועים שפחות מושפעים מהלמידה שלה מהסביבה. זה כמו בבני אדם, את יכולה להגיד שאנחנו מפתחים את האישיות שלנו 50% לפי הגנים 50% לפי השפעות הסביבה. אותו דבר תוכנה שיהיו לה מאפיינים ייחודיים כבר מההתחלה כשהיא רק "נולדה". יש הבדל בין תוכנה שלמדה להגיד "אני שמח" כל הזמן לבין תוכנה שזה המאפיין הקבוע שלה. לתוכנה הלומדת יש עוד סיכוי להשתנות, למרות שחינכת אותה בצורה קפדנית ובעצם מנעת ממנה גירויי סביבה ש"יחנכו" אותה אחרת, ברגע ש"תוציאי אותה לחופשי" היא שוב חשופה לגורמים האלה ואחרי הרבה זמן אולי, היא תתחיל לפקפק בחינוך שקיבלה. אפשר לעשות אותו דבר עם בני אדם, למרות שזה לא הכי מוסרי

, אם שמים בן אדם מגיל 0 במוסד סגור בלי שום גירוי סביבתי כמו ספרים, חלונות וכו', רק איש (או מכונה) קשוח מאוד שיחנך אותו לדבר אחד כאילו היה מכונה. כל עוד הוא שם אין לו אפשרות ללמוד משהו אחר, אבל ברגע שיוציאו אותו הוא לאט לאט יכול להתחיל לשנות את ההתנהגות. מה שעשית לתוכנה הלומדת זה בעצם נסיון לנטרל את הצד הלומד שלה, אבל הוא יחזיק מעמד כל עוד היא לא תהיה חשופה, כמובן שככל שהיא יותר זמן סגורה יהיה יותר קשה לשנות אותה... טוב, אז בקשר למודעות בכל זה, לדעתי תוכנה שיודעת להביע רגשות כמו "אני שמח" בלי סיבה שמעידה על משהו מעבר לתבנית קבועה עדין לא נחשבת לתוכנה עם מודעות. גם בע"ח מרגישים שמחה רגילה לפעמים, ואין להם ממש מודעות. אז איך בעצם מזהים מודעות בתוכנה? אולי יש אפשרות, אבל אני לא יודעת כמה באמת היא סבירה (לא מבינה בתיכנות יותר מדי ... נגיד מתכנתים תוכנה שמוגדרים לה מצבים, וסיבות ופעולות עם קונוטציה שלילית או חיובית (את המוסר כבר בנו לה..). אז כל פעולה שהיא לומדת לעשות, היא תעשה אותה רק אם הסיבה לה תהיה חיובית. לדוגמה, היא רואה מישהו מנגן בפסנתר, היא תשאל למה הוא עושה את זה? אם הוא יענה לה שזה גורם "הנאה" היא תנסה בעצמה לנגן. אם הוא יענה "ההורים מכריחים אותי" היא תקבל סימן שלילי למילה "מכריחים" ולא תעשה זה. אז עכשיו יש מכונה כבר מחוכנת עם מאגר מצטבר של פעולות+סיבות שהיא למדה. התוכנה גם מתוכנתת להדפיס בעצמה את הסיבה כשהיא מקבלת שאלה. אם תשאלי אותה על פעולה שהיא למדה היא בקלות תיתן סיבה. אבל יש פעולה קבועה מראש- היכולת לשאול שאלות. אם במקרה פעולה כזאת נמצאת לה במאגר פעולות שהגדרת לה, אז מצד אחד היא תבין את השאלה, מצד שני לא תהיה לה סיבה, כי היא לא למדה את זה. אם תוכנה לא השלימה את הפעולה המתבקשת של להדפיס תשובה לעניין, אז מתכנתים לה פקודה להפנות את השאלה הלא פתורה למסך ולהדפיס כתשובה "למה אני שואל שאלות". שוב יש כאן צורך לסיים פעולה ע"י קבלת תשובה. את יכולה לענות לה בחזרה "למה אתה שואל שאלות" או להגדיר שאם היא מקבלת תשובת "לא יודע" היא תמשיך לחפש אצל אחרים, עד שהמעגל ייסגר, ואם לא- היא תהיה תקועה בשאלה הזאת בשרשרת.....וזה דומה למודעות אצל בני אדם. אנחנו מבינים למה אנחנו עושים פעולות יום יומיות כי יש לרובן סיבה, אבל אנחנו לא מבינים את הבסיס ואז אנחנו מתחילים לשאול לגבי "איך נוצרו חיים" וכשזה אולי מתברר אז שואלים "מאיפה הגיעו חומר ואנרגיה" ועובדה שהשאלות האלה לא מרפות כי לא הצלחנו לסגור את המעגל. אם התוכנה יותר מתוחכמת תהיה לה מערכת שכל כמה זמן עושה סריקה של כל מה שהיא עושה ומוודאה שאין שגיאה. ויכול להיות והיא זיהתה את פעולת "שאילת שאלות" אצל בן אדם, והמאפיינים התאימו לעצמה, אז הפעולה הזו תיכנס לאזור הזיכרון בה שמאכסן פעולות שהיא יודעת שהיא עושה. וכשהיא תעשה סריקה היא תגלה שפה אין התאמה לסיבה, פאק של התיכנות שאיפשר כניסה של מידע כזה לזיכרון, אבל זה המצב והוא שוב יוביל לשרשרת של מעגל לא סגור. (אפשר להגיד שזה פאק של האבולוציה שגרם לנו למודעות וכך להליכה נגד האבולוציה

, והבן אדם הוא כמו הטבע לתוכנה)

 

[hatulflezet]

לדעתי זו טעות

לבללב מודעות עם חשיבה. חשיבה היא תהליך קוגניטיוי. חיה אולי לא חושבת (למרות שיש הרבה מחקרים שמראים שחיות כן מסוגלות לחשוב) אבל למה זה אומר שהיא לא "מודעת"? מודעת לסביבה שלה, לאוכל (טרף למשל) שלה, לתחושות הפיזיות שלה... מודע לדעתי - זה לאו דווקא לחשוב - להיות מודע - זה "לדעת (משהו) על (משהו)".

 

[SLEEPING MICKEY]

מכונה +חשיבה

לדעתי אם האדם מול צג המחשב אינו יכול לקבוע אם עונה לו אדם או מכונה על שאלותיו, או אז למכונה יש בינה... נוסף על כך הכל יחסי אלינו: 1.ההתנגדות התאולוגית - הנפש בת האלמוות וכו... 2.ההתנגדות של "תקיעת ראש בחול" 3.מגבלות עקרוניות מתמטיות 4.חוסר יכולת להיות - יפה,חוש הומור,טוב ורע וכו...

 

[mandark]

אני הייתי אומר:

אין בינה. הכל אשליה. "אבל אני אגיד שלמכונה יש בינה כאשר נשב על כוס תה )וירטואלית כמובן( ונדון על פשר ה"בינה. איל

 

[mandark]

או:

מכונה שתצליח לגרום לי להאמין שהיא בעלת בינה על ידי הצגת טענות מבוססות אחשיב כבעלת מודעות.

 

[ailag]

אין בינה - גם לבני אדם?

אז מהו אותו דבר שאני קוראת לו נשמה ואיפה בדיוק הוא יושב? (אם במוח אז איפה?) אגב, קראתי פרק נחמד בקומיקס (דוקא לא מדעי או עמוק) בשם transmetropolitan (נדמה לי שבסביבות החוברת השישית. זה באוגדן השני). טרנסמט מדבר על עולם עתידי שבו הטכנולוגיה התקדמה מאוד ולכן האנשים מתפרעים ועושים דברים משונים, כמו כתות (למשל, יש כת של אנשים שהופכים את עצמם גנטית לחצי-חייזרים). אז בפרק הזה יש כת שבה אנשים חשבו: אדם בלי רגל הוא עדיין אדם. אדם בלי רגל ועם רגל רובוטית הוא עדיין אדם. כך גם לגבי ידיים וכו' - אז הם מצאו דרך להעביר חלקים הכרחיים למודעות / חשיבה / מוח לתוך חלקיקים רובוטיים ואז האדם הופך להיות מין ענן אבק מתוחכם.

 

[mandark]

עד שלא הוכח שיש איזו "נשמה"

אין שום סיבה שאני אאמין באחת.. אני לא פוסל את האפשרות אבל אני לא רואה שום סיבה לקיומה. יצור כמו וירוס או חד תא או מה שלא יהיה פועל לגמרי ע"פ עקרונות כימיים ופיזיקליים כמו השוואת לחצים השוואת ריכוזים וכו.. אנחנו יצור שעד כמה שידוע לי בנוי מתאים. ניראה לי שהתשובה הפשוטה ביותר לעצם החשיבה שלנו היא שאנחנו יצורים כל כך מסובכים, אנו פועלים מתוך מניעים פשוטים מאוד אבל מרוב שהגוף מורכב קשה להבין את זה .. אני לא חושב שאנו שונים ממחשבים. מחשב פשוט אנו אומרים שהוא מחזיר את הערך 4 בחיבור 2 ו-2 כיוון שהמעגלים החשמליים מרכיבים סדר פעולות מסוים שמביא לחיבור שני מספרים.. נסבך את זה קצת והמחשב ידע לחבר כל שני מספרים. נסבך עוד ועוד עד שנגיע למחשב שמסוגל להבין מתי הוא צריך לעדכן את האנטי וירו שלו, מתי הוא צריך לכבות את המסך כדי לחסות אנרגיה, מתי הוא צריך להזיז את הסמן לכיוון אליו ביקש המשתמש.. ניראה כאילו יש לו רצונות ומחשבה חופשית וכו וכו אבל בעצם ברור שהוא פועל על פי אותם עקרונות בסיסיים שהנחו את המחשבים הראשונים שחיברו זוג מספרים. ע"י אלגוריתמים שונים הפועלים ע"י עקרונות פיזיקלים אנחנו מבצעים את הפעולות. אוכלים כשרעבים, ישנים כשעייפים, מחפשים בנות זוג - תמיד. ככה אנחנו, לא בחרנו את זה פשוט יצא שאלו תכונות שהביאו אותנו עד הלום - זה לא דורש המצאות כמו אלוהים או נשמה.

 

[prefect]

אני יכול להבין למה כתבת את זה

אבל לא נראה לי למה אני כותב את זה. אין שום בעיה להסביר את ההתנהגות של אדם מבחינה מדעית. הבעיה נוצרת כשנמסים לסתכל "פנימה" על ההתנהגות של עצמך

 

[prefect]

אהה

תיקונים: לא נראה לי *שאבין* ולגבי הבעיות, התכוונתי קיום הבעיות מבחינה עקרונית, לא מעשית סליחה על אי-בהירות.(צריך לישון יותר מארבע שעות בלילה)

 

[Deathatred]

אתה יכול להחיל את ההסבר

הדטרמיניסטי פיסיקלי (פעולות האדם נקבעות באופן דטרמיניסטי ע"י חוקי הפסיסיקה והכימיה והביולוגיה) ולהסביר כך הרבה תופעות חיצוניות (כלומר, ניתנות למדידה) שמאפיינות בני אדם. כל זה טוב ויפה, אך ההסבר שלך לא יכול מסביר את תחושת ה"אני" שהיא דבר פנימי ולא ניתנת לבחינה מדעית (תחושת ה"אני" לא ניתנת להסתכלות חיצונית ע"י צופה חיצוני).