ערוצי יוטיוב עם מדע פופולרי

[guprnds]

הערוץ הטוב ביותר בפיזיקה לדעתי הוא PBS space time

קליפ לדוגמא:

 

[uzi2]

רגל ימין, רגל שמאל, ותנועות ידיים לצדדים.
אוקיי, אנסה לתרום תרומה קצת מכיוון אחר:

זמרי ראפ בד"כ שרים על הבעיות והכאבים שלהם: יחסים עם נשים, משפחה, אלימות, משטרה, חברים, צדק, אי הצדק.

מקרה קצת שונה זה זמר הראפ Baba Brinkman שהשירים שלו עוסקים בנושאי מדע, ולפעמים הוא מביא באמת נושאים חמים מחזית המדע.

למשל:

או

ויש לו ערוץ יוטיוב, אז זה בנושא.

 

[ב ן ח ו ר י ן]

רגל ימין, רגל שמאל, ותנועות ידיים לצדדים.
אוקיי, אנסה לתרום תרומה קצת מכיוון אחר:

זמרי ראפ בד"כ שרים על הבעיות והכאבים שלהם: יחסים עם נשים, משפחה, אלימות, משטרה, חברים, צדק, אי הצדק.

מקרה קצת שונה זה זמר הראפ Baba Brinkman שהשירים שלו עוסקים בנושאי מדע, ולפעמים הוא מביא באמת נושאים חמים מחזית המדע.

למשל:

או

ויש לו ערוץ יוטיוב, אז זה בנושא.

יפה מאוד, אין על שילובי מדע, הייתי לא מזמן באילת כשהמציל שם עשה חידון טריוויה מדעי לילדים.

 

[BigBadWolf]

מרשים, הראשון ממש פגע בנקודה.
כמדען קשה לי עם האלגוריטמים של למידה ממוחשבת שמייצרים קופסא שחורה, אבל אין ספק שיש להם הצלחות יפות.

 

[uzi2]

אכן, למידת מכונה מתחילה להחליף ביותר ויותר תחומים את ההסקות הסטטיסטיות הקלאסיות, ואכן מדובר במידה רבה בקופסה שחורה. אנחנו מקבלים את התשובות, אבל לא ברור לגמרי כיצד המכונה הסיקה את המסקנה.

אבל כמו שהבאבא-אבא, והבאבא-בן הגיעו למסקנה, יש מקום לשיפור בעניין הזה בכל מה שקשור ללמידת מכונה, ויש מקום ללמידת מכונה עם שילוב של הבנה יותר טובה של המנגנון מאחורי מה שקורה.
א. קיוויתי שלמידת מכונה, ובמיוחד למידה עמוקה, (deep learning) יספקו אור על האופן שבו המוח עובד. גם שם מערכת ה- perception מספקת תובנות אך מעבר לשכבות מאוד מסוימות, קשה להבין את הקידודים שמאפשרים למוח להבחין בין הכלב שלי לכלב של השכנים שלי, כששניהם רצים בין השיחים, והתאורה שונה, והם מאותו סוג. יעניין אותי לראות עבודות בנושא.
ב. יצא לי להסביר למישהו את המשמעויות של הפונקציות ב- backpropagation של אלגוריתם מסוים, ונדרשתי להסברים סטטיסטיים. כך שידע בסטטיסטיקה כן נכנס ללמידת מכונה.
ג. לדעתי יהיה פתרון לבעיה שהצגת אם רק ירצו מספיק, או יותר נכון, היכן שירצו מספיק. כלומר למידת מכונה שמבינים יותר טוב את המשמעות שהיא יוצקת לתוך המשתנים הנסתרים.

 

[BigBadWolf]

קראתי ספר מאוד מעניין בנושא הזה שמדגיש את הבעייתיות באי-הבנה של מה שהמכונה למדה. הספר נקרא Hello World: How to be Human in the Age of the Machine ונכתב על-ידי חנה פריי שהיא פרופסורית למתמטיקה ב-UCL. גם הייתי בהרצאה שלה בנושא. יש פה בעיה שלפעמים המכונה לומדת דבר שונה משרצית ולא תוכל לדעת זאת עד שלא יגיע במקרה המצב שמבדיל בין הרצוי למצוי. למידת המכונה גם גורמת לשימור של אפליות קיימות כי המכונה לומדת מהמצב הקיים.

 

[uzi2]

מה שכתבת מזכיר לי סרטון TED שראיתי לפני כשנה:

בסרטון המרצה מדברת גם על הדברים שאתה הזכרת.

תודה על ההמלצה.

גם קראתי לאחרונה ספר של Agrawal, Gans, Goldfarb, ו- Ganser, שנקרא Prediction machines. אף אחד מהם לא מגיע ממדעי המחשב. כולם אנשי כלכלה.

הספר קצת מיושן (סוף 2018). אוקיי, אני קצת מתלוצץ אבל לא הרבה, לאור העובדה שקורסים ב- deep learning מתעדכנים כול שנה בהתאם לשינויים.


בהחלט הבינה המלאכותית יוצרת אתגרים לא פשוטים בכל פינה. איך מערכת מסוג Generative AI תוכל להתאמן במצבים חדשים מבלי לטעות, או להמליץ מדי פעם לאנשים המלצות לא אידיאליות כדי שתוכל שלא להינעל על פתרונות ישנים.

וכמובן יש גם את העתיד היותר רחוק (25 שנה?) יש הרבה מאוד חששות רציניות - כמובן שחלקן עוסקות בנזקים הפוטנציאליים כתוצאה מטעויות "קטנות" של אלו שמפתחים את ה- AI. בעיני דווקא המגמה של יותר ויותר כוח לפחות ופחות גורמים, זה בהחלט משהו שחייב להטריד. למשל התקדמות התובנות בגנטיקה, עלולה להביא למצב שבו חברות מסחריות יוכלו די בקלות לעשות hacking לקבלת ההחלטות שלנו. גם היום כבר יש "שיפור" עצום בנושא.

כל נושא המשפט עומד להיות במשבר כאשר כבר לא יהיה ניתן להבחין בין ראיות אותנטיות למזוייפות. נכון להיום עדיין אפשרי להבחין, אבל השיפור בשנים האחרונות הופך את המשימה ליותר ויותר קשה, ואני חושש שבשלב מסוים בני אדם לא יוכלו להבחין, ומערכות AI שמבחינות בין משהו אותנטי למזוייף יפגרו אחרי המערכות שיתמחו בזיוף.

יש אתגרים לא פשוטים.

 

[uzi2]

מרשים, הראשון ממש פגע בנקודה.
כמדען קשה לי עם האלגוריטמים של למידה ממוחשבת שמייצרים קופסא שחורה, אבל אין ספק שיש להם הצלחות יפות.

לאחרונה אני נתקל באלגוריתמים שמנסים להתגבר על הבעיה שנקראת "קופסה שחורה".
אפשר לקרוא על זה באינטרנט. זה נקרא Explainable AI או בקיצור XAI.
התחום נוצר כתוצאה מדרישה של האיחוד האירופי, (ואולי לא רק שלהם), שדיאגנוזות וטיפולים יהיו מנומקים.

 

[ב ן ח ו ר י ן]

לאחרונה אני נתקל באלגוריתמים שמנסים להתגבר על הבעיה שנקראת "קופסה שחורה".
אפשר לקרוא על זה באינטרנט. זה נקרא Explainable AI או בקיצור XAI.
התחום נוצר כתוצאה מדרישה של האיחוד האירופי, (ואולי לא רק שלהם), שדיאגנוזות וטיפולים יהיו מנומקים.

המטרה היא לפשט את ההבנה, אם כי אני לא מבין למה, מומחים יכולים להבין דברים שאחרים לא יכולים, העיקר שהעניין עובד- למה נדרשת כאן שקיפות. יש היום הרבה טכניקות שיכולות להתפתח לכיוונים שונים- למשל Deep Reinforcement Learning, רשתות בייסיאניות, swarm intelligence, זאת מעבר לרשתות נוירונים מונחות או לא מונחות. אין לי מושג למה הדרישה לפשט?

 

[BigBadWolf]

המטרה היא לפשט את ההבנה, אם כי אני לא מבין למה, מומחים יכולים להבין דברים שאחרים לא יכולים, העיקר שהעניין עובד- למה נדרשת כאן שקיפות. יש היום הרבה טכניקות שיכולות להתפתח לכיוונים שונים- למשל Deep Reinforcement Learning, רשתות בייסיאניות, swarm intelligence, זאת מעבר לרשתות נוירונים מונחות או לא מונחות. אין לי מושג למה הדרישה לפשט?

הבעיה היא שאם לא תבין מה המכונה עושה ותקבל שהיא פשוט עובדת, אף פעם לא תוכל לחזות את המפולות שלה. קראתי על זה ספר מאוד מעניין לפני שנתיים בערך בשם Hello World - How to be Human in the Age of the Machine. לדוגמה, בשנות ה-90 ניסו לפתח רכב אוטונומי בעזרת למידה ממוחשבת. הרכב נסע יפה מאוד עד שהגיע לגשר ואז פתאום ירד מהכביש וכמעט נפל. מסתבר שבמקום ללמוד על הכביש, המחשב למד שמצד ימין צריך להיות ירוק (דשא). דוגמה אחרת היא קבלה למקומות עבודה. המחשב לומד את מי לקבל לפי מאגר המועמדים שהתקבלו בעבר, אבל אם בחברה עובדים בעיקר גברים המחשב יכול ללמוד לקבל אנשים בעלי מאפיינים גבריים (או אם מזינים לו גם סעיף מין אז פשוט לקבל גברים). אם הלמידה הממוחשבת לא שקופה לא תוכל לדעת את הדברים האלו ותלך אחרי החלטות המחשב בצורה עיוורת. בתרופות זה כבר נהיה באמת מסוכן.

 

[ב ן ח ו ר י ן]

הבעיה היא שאם לא תבין מה המכונה עושה ותקבל שהיא פשוט עובדת, אף פעם לא תוכל לחזות את המפולות שלה. קראתי על זה ספר מאוד מעניין לפני שנתיים בערך בשם Hello World - How to be Human in the Age of the Machine. לדוגמה, בשנות ה-90 ניסו לפתח רכב אוטונומי בעזרת למידה ממוחשבת. הרכב נסע יפה מאוד עד שהגיע לגשר ואז פתאום ירד מהכביש וכמעט נפל. מסתבר שבמקום ללמוד על הכביש, המחשב למד שמצד ימין צריך להיות ירוק (דשא). דוגמה אחרת היא קבלה למקומות עבודה. המחשב לומד את מי לקבל לפי מאגר המועמדים שהתקבלו בעבר, אבל אם בחברה עובדים בעיקר גברים המחשב יכול ללמוד לקבל אנשים בעלי מאפיינים גבריים (או אם מזינים לו גם סעיף מין אז פשוט לקבל גברים). אם הלמידה הממוחשבת לא שקופה לא תוכל לדעת את הדברים האלו ותלך אחרי החלטות המחשב בצורה עיוורת. בתרופות זה כבר נהיה באמת מסוכן.

השאלה למי שהיא צריכה להיות שקופה, לציבור הרחב? יש גבול ליכולת הפשטה של מערכת AL, אתה צריך הרבה שכבות חבויות, בסופו של דבר הפתרון הוא אולי במנגנוני בקרה מסוימים על בונה המערכת, או לאפשר הנחייה מסוימת גם של מערכות ללא הנחייה.

 

[uzi2]

השאלה למי שהיא צריכה להיות שקופה, לציבור הרחב? יש גבול ליכולת הפשטה של מערכת AL, אתה צריך הרבה שכבות חבויות, בסופו של דבר הפתרון הוא אולי במנגנוני בקרה מסוימים על בונה המערכת, או לאפשר הנחייה מסוימת גם של מערכות ללא הנחייה.

השיטה של XAI היא בהוספת קוד על פני טכנולוגיות Deep Learning אחרות, כך שהקוד מאפשר קיטלוגי ביניים.
הציבור הרחב - גם סטטיסטיקה רגילה הוא בד"כ מבין לא נכון (שלא לדבר על אחוז לא מבוטל של החוקרים הכמותניים במדעי החברה, אם כי יש שיפור גדול בשנים האחרונות.

הכוונה, היא שנוכל (שהחוקרים יוכלו) להבין קצת יותר את הקורלציות, והמנגנון שבו דברים קורים.
זה מעבר לכך שאני סבור שיש ערך להבנה מדעית מעבר לערך הפרקטי של פתרון בעיות, אם כי אני מודה שזה פחות פשוט.

 

[BigBadWolf]

אז נתחיל ברגל ימין?

בשנה האחרונה אני חורש ערוצי יוטיוב עם תכנים של מדע פופולרי, תהיתי אם יש לאנשים המלצות לערוצים טובים. כרגע אני צופה ב-PBS Spacetime, התוכן שם ברמה גבוהה למדי. ערוצים טובים אחרים שאני צופה בהם:
Minute Physics
Numberphile
Sixty Symbols
Deep Sky Videos
Physics girl
Veritasium
Vsauce
Vihart

 

[עריסטו]

אז נתחיל ברגל ימין?

בשנה האחרונה אני חורש ערוצי יוטיוב עם תכנים של מדע פופולרי, תהיתי אם יש לאנשים המלצות לערוצים טובים. כרגע אני צופה ב-PBS Spacetime, התוכן שם ברמה גבוהה למדי. ערוצים טובים אחרים שאני צופה בהם:
Minute Physics
Numberphile
Sixty Symbols
Deep Sky Videos
Physics girl
Veritasium
Vsauce
Vihart

שלום
למה אני לא רואה בהודעה שלי ציטוט של ההודעה שלך? זה באג בפורום?

 

[BigBadWolf]

שלום
למה אני לא רואה בהודעה שלי ציטוט של ההודעה שלך? זה באג בפורום?

נראה לי שהציטוט הוא בעיקר בשביל שההודעות ישורשרו. קודם מחקתי את הציטוט כשפרסמתי הודעה והיא לא שורשרה נכון.

 

[ב ן ח ו ר י ן]

אז נתחיל ברגל ימין?

בשנה האחרונה אני חורש ערוצי יוטיוב עם תכנים של מדע פופולרי, תהיתי אם יש לאנשים המלצות לערוצים טובים. כרגע אני צופה ב-PBS Spacetime, התוכן שם ברמה גבוהה למדי. ערוצים טובים אחרים שאני צופה בהם:
Minute Physics
Numberphile
Sixty Symbols
Deep Sky Videos
Physics girl
Veritasium
Vsauce
Vihart

נראה שהערוצים מעולים, אני מקבל הרבה מידע בפייסבוק מערוצים כמו what if, Hashem Al-Ghaili ועוד, חסר לי קצת ערוצי טבע...

 

[יוגי379]

מעט שונה: סימפוניות של מדע : הקישור מכיל עשרות של שירים בסגנון דומה.