פרק 10: של מי הרובוט הזה בכלל? | ד"ר טל אלון

מנחה- עידו קינן : הם עושים עבורנו חלק ניכר מהעבודה השחורה שאף אחד לא רוצה לעשות ‘ נמצאים בצמתים מרכזיים בחיים שלנו ותחזיות צופות , כי נוכל לנהל איתם אם נרצה מערכת יחסים של ממש , הרובוטים כאן במגוון דרכים , במגוון צורות , בדמיון שהולך וגובר אלינו , בני האנוש אבל מי האשם כשרכב אוטונומי מבוסס בינה מלאכותית יעשה תאונה , מה יקרה כשרובוט יתקוף במפתיע עובר אורח ואולי אנחנו אלה שנפגע ברובוטים , אנחנו מדברים עם ד"ר טל אלון , שלום

ד"ר טל אלון : שלום שלום

מנחה- עידו קינן :מרצה בכיר וראש ההתמחות לרובוטיקה ומכרוניקה באפקה , אנחנו נעלה דילמות טכנולוגיות ומוסריות שהעסיקו אותנו ממש בזמן הקרוב לקבל הצצה למוח של הרובוטים ונשמע איך הולכת להראות האינטראקציה ביניהם לבנינו

בוא נתחיל אולי בהגדרת הבסיס , מה זה רובוט ?

ד"ר טל אלון : אז קודם כל רובוט זאת מכונה , אבל זאת לא מכונה רגילה , אלא מכונה עם נוכחות בעולם הפיזי זה אומר שיש לו איזושהי יכולת תנועה או שזה זרוע שזזה או שזה מכונה שיכולה לנהל את עצמה וגם היא מכונה שחייבת להיות מסוגלת לבצע מטלות שהן מורכבות זה אומר ברוב המקרים יכולת קבלת החלטות כלשהי , היום יש כל מיני טכנולוגיות שפותחו ב-100 ה-20 למעשה בחצי השני של ה-120 ובזכות הטכנולוגיות האלה שהם גם טכנולוגיות של hard ware מכשור וגם טכנולוגיות של  soft wareואלגוריתמיקה , אנחנו יכולים לשלב ברובוטים בינה מלאכותית , ממש בתוך הרובוטים עצמם שמאפשרת להם לעבד מידע בצורה טובה יותר ולקבל החלטות בצורה חכמה יותר

מנחה- עידו קינן : מה מצב עולם הרובוטיקה היום ? איזה רובוטים קיימים ? מה טרנדי ? מה עושים היום ?

ד"ר טל אלון : בכללית רוב הרובוטים יש כמות מאוד גדולה של רובוטים שהם יחסית לא מורכבים בפסי הייצור אנחנו מדברים על סדר גודל של 10 מיליון רובוטים שאנחנו חיים בקרבם היום בעולם רובם בפסי ייצור , אבל אלו הרובוטים פחות מעניינים , הרובוטים שיותר מסעירים את הדמיון , זה רובוטים קצת יותר עתידנים , אבל הם בעצם כבר בקרבנו , יש לנו מכוניות אוטונומיות שנוסעות בכבישים כבר היום בייחוד בארצות הברית , בסין , כמובן עד שזה יגיע אלינו זה יהפוך להיות משהו שהוא לגמרי חופשי , זה מצריך המון רגולציה וחוקים , אבל זה מגיע , זה שם ומכוניות ייסעו לגמרי לבד וכבר עכשיו נוסעות הן לגמרי רובוט לכל דבר , יש לנו קובוטים שזה קולב ברהיט רובוט שזה רובוטים שיודעים לעבוד בשיתוף פעולה עם בני אדם שהם נמצאים במפעלים והם יכולים בעצם להסתכל להבין מה קורה סביבם ולעבוד בשיתוף פעולה עם בני אדם לראות אם הבן-אדם סיים איזה עבודה לחכות שיסיים ואז לראות איפה הוא הניח את מה שהוא סיים לעבוד עליו ואז לקחת את זה ולעשות בדיקה ולהעביר את זה לבן-אדם הבא

מנחה- עידו קינן : זה אנחנו רואים למשל במחסנים של אמזון

ד"ר טל אלון : ו-1 מהדברים הנהדרים שזה רובוט שהוא הרבה יותר בטוח , רובוטים תעשייתיים רגילים אתה תעמוד בדרכם , אתה תחטוף והיו הרבה אנשים שנפגעו מהרובוטים האלה שפשוט לא היה אכפת להם מה קורה בדרך כי לרובוט לא באמת איכפת , הם לא קראו אסימוב , אבל קובוטים הם נועדו במיוחד בשלב עוד מבני אדם אז יש להם חיישנים שיודעים להגיד להם מי נמצא סביבם , אם יש מישהו שבא במגע איתם אז הם לא דוחפים ולא מפעילים כוח עליו שזה דבר די מגניב , לא יודע אם שמעת יש חברה שנקראת בוסטון דיינמיקס היא חברה שהיא מובילה בתחום הרובוטיקה היא נקנתה ע"י יונדאי עד אז היא הייתה שייכת לסינים ולפני זה הייתה שייכת לגוגל והיא מפתחת רובוטים עם ניידות מדהימה ועם בינה מלאכותית מדהימה , יש להם רובוט בשם ספוט מיני שזה רובוט בדמות כלב והוא יכול לבצע משימות מורכבות ולנווט בצורה מורכבת , לעלות ולרדת מדרגות , לסחוב מסעות יחסית לא כבדים , לבצע משימות של פטרול ולעשות דברים אחרים מעניינים שזה מאוד מאוד מעניין לראות את זה קורה , יודע גם לפתוח דלתות , במידה ויש לו ההתקן המתאים ולגמרי אוטונומי צריך להגיד לו את המטרה שלו והוא יכול לבצע את המשימה יש רובוט בשם לאותה חברה האירופי בשם אטלס שהוא דמוי אדם והוא 1 מהדברים המרשימים שאפשר לראות היום בתחום הרובוטיקה זה רובוט שיודע מעבר ללכת כמו בן-אדם שזה המקור שלו במקור הוא אב טיפוס שלא , הקטע היה לגרום לרובוט ללכת כמו בן-אדם בצורה יעילה , אבל הוא יודע לעשות הרבה יותר , יודע לרוץ , הוא יודע לקפוץ , לעשות פרקור , לעשות פליק לקים ואנחנו מדברים על רובוט ששוקל משקל לא קטן , הרבה יותר מבן-אדם , בגודל של בן-אדם ורוצה , עושה דברים בדיוק , מדהים שזה דבר שהוא לגמרי לא טריוויאלי ולגמרי לא פשוט , אין מישהו שרואה סרטון של אטלס מתרוצץ ועושה קפיצות שלו זה לא מפעיל אצלו כל מיני מחשבות בראש לגבי העתיד של רובוטיקה לגבי לאיפה אנחנו הולכים

מנחה- עידו קינן : אז רציתי לשאול אותך כמו שנהוג לשאול אנשים שעוסקים בתחום הזה , האם רובוטים יקחו לנו את העבודה , אבל יכול להיות שלא רק שוק העבודה ישתנה , אלא גם שוק הייצור ושוק ה לא יודע אם הם מחליפים כלבים הזה גם החברים שלנו ואם הם עושים את המלחמות בשבילנו , אנחנו יכולים לשבת בצד ואנחנו יכולים לשבת על איזה חוף ולשתות בירה בזמן שהרובוטים נלחמים ביניהם ולחכות שיכריזו על המנצח כן

ד"ר טל אלון : נכון , אני לא יודע אם אתה זוכר את התקופה לפני די הרבה שנים כשהייתי ילד אני זוכר שהיו כל מיני סרטים כאלו הסדרות שבהם זה דווקא נראה כמו אוטופיה שהרובוטים יקחו לנו שלא נצטרך לעבוד יותר שהרובוטים ייקחו את העבודות שלנו את הדברים שקשה לנו לעשות , את הדברים שמסוכן לנו לעשות ואנחנו נוכל לחיות את חיינו , היום אנשים לא מסתכלים על זה כאוטופיה הם מסתכלים על זה כמשהו שהוא מפחיד אותם כי עבודה זה גם כן כסף ואם אנחנו נצטרך לחיות בלי לעבוד זה משהו שהוא לא יצריך שינוי מהותי של הסדר החברתי שלנו , רובוטים יחליף אותנו אין ספק לגבי זה , לא רק רובוטים ובינה מלאכותית כמובן ואין פלא הם חזקים יותר , הם זריזים יותר , מדויקים יותר , יעילים יותר , זולים יותר בסופו של דבר מתחזק בן-אדם ולשלם לו משכורת חודשית גבוהה , מדובר על סדרי גודל של זולים יותר , אין לנו כל כך ברירה , אנחנו נכנסים לזה ואין לנו יכולת לעצור את זה ממש בגלל התחרותיות , כל מפעל רוצה להיות תחרותי מול מפעל אחר , יש היצע וביקוש , יש יותר ויותר ביקוש לדברים מסוימים ומפעלים צריכים לעמוד בביקוש הזה , בשביל להישאר בעסק ובשביל זה ממציאים יותר ויותר טכנולוגיות מתקדמות והטכנולוגיות האלה בסופו של דבר כן יחליפו אותנו גם לפני 12,000 שנה במהפכה חקלאית , זה לא היה להיט להתחיל לעבוד את האדמה בזיעת אפינו ולהתחיל לאכול רק את הדברים שאנחנו מגדלים , במקום ללכת בסבנה או בג'ונגל ולחפש אוכל ולהתיישב איפה שיש דברים מעניינים היינו צריכים לעבוד קשה וזה לא היה התקף , אבל היינו חייבים כל קבוצת בני אדם הייתה חייבת לעשות המעבר הזקיק , קבוצות אחרות עשו את זה וברגע שקבוצות אחרות עשו את זה נתן להם איזשהו יתרון מבחינת מבנה של כוח מדובר בהתחלה על הסקטור של נותני השירות ואומר שכל מי שבעצם נותן שירות ויכולת , אפילו רופאים כמובן נהגים שזה דבר ראשון , אנחנו רואים כבר מכוניות חכמות , למה צריך להזמין נהג אנושי שיכולתי לדבר בטלפון תוך כדי לעשות תאונה בגלל שהוא לא שם לב למשהו או שהוא עייף , יש לנו מכונית שתיקח אותנו ותהיה מודעת מה קורה מהמטר לפניה ותוכל לדעת כל בן-אדם ובן-אדם אם הוא הולך בווקטור כזה שיכניס אותו לנתיב שלו או לא מגיב בספליט סקנד  בחלקיק של שנייה לכל מיני דברים לא צפויים , למה שניקח מישהו שלא ידע לעשות את הדברים האלה , אז בהחלט אנחנו בדרך לאבד לא מעט מקומות עבודה

מנחה- עידו קינן : אתה דיברת על נהג מונית שמדבר בטלפון ומתנגש במישהו , אבל לבינה מלאכותית ולרובוטים שהיא מפעילה יש סכנות אחרות גם בקבלת החלטות לא נכונה וגם ניתוח מידע לא נכון , איזה סכנות עיקריות עולות מהדבר הזה ואיך מתמודדים עם זה ?

ד"ר טל אלון : אז קודם כל בוא נבהיר את זה שאנחנו אלה שנותנים למכונות את היכולת לקחת החלטות המכונה לא מחליטה לבד פתאום לקחת החלטה או-קיי אין לה את היכולת הזאת היא בסופו של דבר כפופה בשלב זה לפחות לתכנות שלנו וזה אומר שאם אנחנו לא נגיד לה שמעי את יכולה כאן לקבל החלטה וההחלטה שלך יכולה להיות א' ב' או ג' , אז היא לא תוכל לקחת את ההחלטה הזאת זה אנחנו מאפשרים לה את זה , אנחנו מאמנים אותה בסיטואציות מסוימות שמחוץ להגיב אליהם אנחנו מעודדים קוד ספציפי שאומר לה איך להגיב לפעמים פחות ופחות כי הלמידת מכונה הופכת להיות יותר ויותר אפקטיבית , אז אנחנו אלה ששולטים איפה יש  למכונה אוטונומיה ואיפה לא , בהרבה מקרים זה סופר קריטי שניתן לאוטונומיה כמו שאמרנו על רכב , אז אנחנו לא רוצים שברגע האמת שהיא הולכת לעשות תאונה אז היא תשאל את הנהג אתה רוצה לפני שאני אעצור אתה לא רוצה שאני אעזור , היא צריכה לקחת את הבית וללחוץ עליו , כי אחרת תהיה תאונה ואנשים ייפגעו , אז אנחנו רוצים לתת אוטונומיה  , כמובן במפעלים , גם כאן אנחנו לא רוצים שהרובוטים ישאלו כל הזמן , האם אני צריך לעשות את זה , אנחנו רוצים להוריד את זה מעצמנו וחשוב מאוד שהרובוטים יוכלו לבצע את הפעולות האלה בצורה מהירה וטובה כמו שאמרת זאת יכולה להיות בעיה כי גם הבינה המלאכותית ששולטת על כל הדברים האלה היא משהו שאנחנו ייצרנו וכמו כל מוצר יש לו מצד אחד תקלות , מצד שני אנחנו גם יכולים להשתמש בו לרעה , אם אתה זוכר היו שני מטוסי בואינג שלפני שנתיים בערך לדעתי התרסקו אחד באתיופיה השני איפשהו במזרח והמטוסים התרסקו בגלל בינה מלאכותית שהחליטה שהמטוס כרגע פונה למעלה למרות שזה לא היה נכון כי החיישן היה פשוט תקול החליטה שאף פונה למעלה בתגובה החליטה להוריד אף למטה אבל מכיוון שאף לא פנה למעלה התגובה של גרמה למטוס להתרסק והטייסים שיכלו ללחוץ על איזשהו סוויץ' שיבטל את השליטה של הטייס האוטומטי של המערכת הזאת הם לא הבינו שזה מה שקורה והם התרסקו באמת ובסיבות לא יודע כמעט 700 איש שזה משהו מטורף לחשוב על זה שבינה מלאכותית למרות שהמטוס תקין לחלוטין חוץ מהבינה המלאכותית למעשה גם היא הייתה תקינה מה שלא היה תקין זה איזשהו חיישן אבל הבינה המלאכותית כל כך הסתמכה על החיישן הספציפי הזה שזה טעות מרה במקרה הזה ובעצם לא הבינה את הסיטואציה כמו שצריך הכל בגלל חיישן 1 זה לא כמו אצל בני אדם יש לנו כל מיני חיישנים שאנחנו יכולים לקבל עליהם לפי ההחלטות למרות שגם הם נדפקים לפעמים בכל מיני ורטיגו וכו' בקיצור בינה מלאכותית יכולה לעשות טעויות וזה בעייתי שאלת לגבי איך אנחנו יכולים לשלוט על זה , אז קודם כל אנחנו צריכים להבין שברגע שמדובר בחיים ברגע שמדובר בהחלטות גורל אנחנו צריכים מאוד מאוד להיזהר מלתת להם אוטונומיה מוחלטת , מכיוון שלפעמים מה באמת כמו שראינו יש איזושהי תקלה לפעמים יכולות להיות גם פעולות זדוניות ברגע שמדובר על מערכות ממוחשבות כאלה זה אומר שהאקר יכול להתחבר מרחוק ולנסות לשלוט עליהם ואנחנו לא יודעים להגן בצורה הרמטית מהאקרים שזה קצת מלחיץ , אבל חוץ מזה יש גם כן ביסים יש גם כן הטיות שיכולות לגרום לכך שהבינה המלאכותית תתנהג בצורה לא יפה מוסרית

מנחה- עידו קינן : על איזה סוגים של הטעיות של דעות קדומות אתה מתכוון ?

ד"ר טל אלון :אני אדבר על בנושאים שהם שגם נמצאים אצלנו כל מיני אפליות שאנחנו עושים עם זה הפגנות נגד נשים , עם הפרעות נגד קבוצות אתניות מסוימות תן דוגמה באמזון לפני כמה שנים התחילו להשתמש בתוכנה שתאפשר להם לדעת את מי לזמן לריאיון עבודה לפי הקורות חיים התוכנה את המנתחת את קורות החיים בעזרת בינה מלאכותית של עמדה והסתכלה על המון קורות חיים שהם ראו בעבר ולפי אלא שהם באמת שכרו לעבודה אז הם חיפשו דברים שמאפיינים דומים ועל פניו זה נשמע נהדר אבל גילו שזה מפלה נשים הגורם לאנשים להידחות על הסף עוד לפני שבכלל בן-אדם נכנסה תהליך ולמה זה קרה אתה יכול לחשוב על זה שאולי בא בקורות חיים הבן-אדם רושם כמו אישה או גבר וזה איכשהו גרם להם ל הטיה בגלל שהdata  המקורי המידע המקורי שהזינו למערכת היה גם הוא עם הטיה אבל החברה של אמזון לא טמבלים והם העיפו את הפרט הזה וביקשו מהתוכנה מהבינה מלאכותית להתעלם מהם , זה גבר או אישה וזה עדיין לא עזר , למה זה לא עזר , מכיוון שמסתבר שבניתוח טקסט של קורות חיים יש מילים מסוימות שמופיעות יותר אצל גברים מאצל נשים למשל ביצע או-קיי המילה ביצע או באנגלית אקסיטיוטד מעודד זה מילה שאשה פחות משתמשת בה מסתבר מאשר גבר שהוא מתאר את עצמו ואת הדברים שהוא עשה אז מה שראו זה שהם רוב האנשים שהם שכרו זה אנשים שיש להם את המילה אקסיטיוטד ובפנים ומכיוון שרוב האנשים שזכו בעבר היו גברים ולא נשים אולי חשבה שנשים פחות טובות וזה לא היה המצב

מנחה- עידו קינן : ואם אנחנו משליכים את הבעיה הזאת על רובוטים על מכונות שעושות לא רק מיון של קורות חיים אלא פעולות פיזיות

ד"ר טל אלון :אז כן זה בהחלט יכול להיות יכולה להיות בעיה אם אנחנו מדברים על רובוטים צבאיים שיכולים גם להרוג אם צריך אז זה מפחיד שאין בן-אדם שנמצא בה ב-LOOP הזה שיכול להגיד תקשיבו תעצרו , אם אתה זוכר את משבר הטילים בקובה מזל שהיו אנשים עם המון תושייה בהמון המון אומץ ועצרו את המשבר הזה להתפתח למשהו הרבה יותר גדול ומנעו את המלחמה הקרה שהיא תתפתח למלחמת עולם שלישית אבל במידה ואתה תיתן לרובוטים אוטונומיה במי הם יורים ותחשוב על זה שהיא רובוט הצבאי , נניח טנק צבאי ברוסיה ששומר על איזה מתקן טילים בטעות מזהה איזשהו מטוס שיש לו אישור לעבור בסביבה ומזהה אותו כמטוס שבא לעשות התקפה על אותו המתקן שהוא מגן והוא יורה עליו הורג שם אנשי צוות ואולי אפילו מישהו חשוב ויכול להיות שגם זה תגובה אוטומטית , זה דבר שיכול לפתוח מלחמה ואם יש גם בצד השני רובוטים שמגיבים אוטומטית לפתיחת מלחמה אז יכול להיות שזה יהיה מלחמה שתקרה מלחמת בזק מהר מאוד המון בינות מלאכותיות המון רובוטים משני הצדדים יקבלו החלטה שנצרכות להגן עלינו לבעלים שלהם על המולדת שלהם וכו' והם יגיבו בצורה מאוד מאוד מהירה והרסנית ואנחנו לא נוכל לתפוס כמה מהר זה יקרה זה פשוט יקרה מהר מאוד בלי שליטה שלנו זה מאוד מסוכן

מנחה- עידו קינן : טוב לפחות זה מעודד שאנחנו לא נצטרך לדאוג באמת לשוק העבודה העתידי לא נתקיים  בשביל לעבוד

ד"ר טל אלון : אני מקווה מאוד שיהיו חוקים מסוימים למרות שקשה מאוד התנגד לזה הם ניסו אז בזמנו שהתחילו המכונות להופיע היו הרבה בודהיסטי וכו' שניסו לשבור מכונות ולהגיד אנחנו לא רוצים מכונות שתופרות לבד בגדים ואפילו שעברו מכונות כאלה זה לא עוזר מאוד קשה להתנגד לזה יכול להיות שאם המצב יהיה קשה ואנשים הרבה מאוד אנשים יגיעו למצב של עוני בגלל זה בסופו של דבר יקומו גופים פוליטיים שיגידו תקשיבו אנחנו נוודא שלכל אחד יש עבודה והרובוטים ישלים את הדברים שאנחנו לא רוצים לעשות ואז יצביעו להם ואז בסופו של דבר אנחנו נוכל להיות סוג של שליטים לגורלנו אבל ייקח זמן עד שזה יגיע אתה יודע כמו כל תהליך בהיסטוריה יש קודם כל איזושהי אנטיתזה שזה המצב הנוכחי אחר כך אנטיתזה שזה מצב שהוא לגמרי שונה ומערער את המערכת בסופו של דבר יש סינתזה הדברים מתחברים ונכנסים לאיזשהו מצב ביניים עד שנגיע לשם אבל אנחנו נהיה גם במצב אנטיתזה הזה

מנחה- עידו קינן : איכשהו עכשיו דיברנו על הסכנות של הרובוטים לנו לאנושות מה הם הסכנות שלנו לרובוטים והאם רובוטים באיזשהו שלב יקבלו מאיתנו יחס מוסרי זכויות רובוט כמו זכויות אדם יכול להיות שהם יפתחו מודעות עצמית ובעצם אנחנו נגיד שמודעות עצמית זה המדד שלנו לתת זכויות ובסופו של דבר הרובוטים או התמרדו או יקבלו זכויות שוות או תכונות דומות לאלה של בני אדם

ד"ר טל אלון : כן זה נושא פילוסופי למרות שהוא כבר מופיע בצורה פרקטית בכל מיני מקומות בוסטון דנה מיקס למשל פרסמה סרטונים שבהם רואים איך בודקים את העמידות של הרובוטים שלהם בכל מיני תנאים קשים אז יש את הרובוטים האנושיים הם צריכים לבצע מטלה להרים איזה קופסה לשים אותה איפשהו והם באמת עושים את העבודה שלהם כמו שצריך אבל אז מגיע איזה בחור עם זקן אם מקל של הוקי שזה אפילו נראה אפילו עוד יותר אכזרי ופשוט מפריע להם , בהתחלה מפריע להם ע"י זה שהוא מפיל להם את הקופסה על הרצפה כמו בריון , הרובוט מתכופף לוקח את הקופסה שוב אחר כך הוא דוחף את הרובוט בסופו של דבר גם מכיר אותו מפעיל אותו אם זה הרובוטים הבצורה של כלב שלהם כמו SPOTS אז מושכים להם בזנב מושכים אותם אחורה ורואים איך הם מתמודדים עם זה בשביל לבצע את המטרה שלהם וברגע שהסרטונים האלה פורסמו היו הרבה אנשים שראו את הסרט הזה וזה מזיז להם משהו בפנים זה גרם לאנשים בלי שיצטרכו להסביר להם זה לא בסדר לרובוטים צריך לתת זכויות זה גרם להרבה אנשים זה הורס להם את המוסריות שלהם והם ראו את זה כמשהו מאוד לא מוסרי משהו לא בסדר זה כבר אומר לך לאיזה כיוון אנחנו הולכים כי ברגע שהרובוטים שלנו ייראו יותר כמו יצורים ביולוגיים אנחנו נרגיש יותר צורך להתנהג להם בצורה מוסרית אתה דיברת על תודעה אנחנו לעולם לא נוכל לדעת אם יש לרובוטים תודעה כמו שאני לא יכול לדעת של בן-אדם אחר יש תודעה אין לנו כלי להעריך תודעה בצורה אמיתית אנחנו יכולים לדעת לפי ההתנהגות של אותו יצור שאנחנו מסתכלים עליו אם ובעל תודעה או לא אנחנו מעריכים את זה אבל אנחנו לא יכולים  אף פעם לדעת הרובוטים מגיעים לשלב כזה שבו לפי ההתנהגות שלהם אנחנו אם לא היו מספרים לנו שהם רובוטים אנו מעריכים שהם בעלי תודעה וזאת נקודה מעניינת וכמובן תלך ויהפוך יותר מזה

מנחה- עידו קינן : זה בעצם מבחן טיורינג תודעתי ולא רק התנהגותי

ד"ר טל אלון : זוהי שאין דבר כזה אין כזה מבחן אתה לא יכול לדעת אם לרובוטים יצור כלשהו באמת יש תודעה כי אתה לא מרגיש אותו תודעה זה משהו שרק אותו יצור מרגיש לגבי עצמו תודעה עצמית , אנחנו לא יכולים לדעת אם יש לו תודעה , אני אבל למעשה אין כל כך מניעה שבסופו של דבר לרובוטים תהיה תודעה עם  כבר אין להם זה משהו פילוסופי כמובן אני לא יכול לדעת את זה מכיוון שגם אנחנו מכונה אנחנו מכונה ביולוגית בסופו של דבר אנחנו מקווים מורכבים מאטומים ויש אצלנו תהליכים כימיים וחשמליים בגוף שהם לגמרי תחת חוקי הפיזיקה המדע לא גילה איזה יסוד קסמי או איזה משהו שהוא חלק מאיתנו שהוא בעצם ייחודי לנו ונותן לנו תודעה עליהם לבעלי חיים אז יכול להיות שרובוטים שהם מכונה אמנם לא ביולוגית אלא מכונה שעשויה ממתכת או מחומרים אחרים מכונה נקרא לזה מלאכותית אולי גם להם יש לגמרי ובייחוד שצריך לתת לזה את הדעת בהמשך

מנחה- עידו קינן : ואם אתה מסתכל על העתיד מתוך הידע שלך והניסיון והמחקר והכיוונים והמחשבות אתה רואה עתיד אופטימי ופסימי לאנושות עם רובוטים ואיך הוא נראה ?

ד"ר טל אלון :תראה זה נורא תלוי בנו נורא תלוי בנו ובהחלטות שאנחנו נעשה אנחנו מכוון שאנחנו עדיין לא ברמה מבחינת מיליטריזציה של נשק אנחנו כן שם אנחנו כבר שם במקום מאוד מאוד מאוד מסוכן שאין כל כך שוב דרך להתחמק מן אנו חייבים לרוץ כל מדינה חייבת לרוץ ולנסות לפתח את הבינה המלאכותית שלה את הרובוטיקה שלה כמה שיותר מהר כי אחרת הם יהיו מאחור , אתה צריך לרוץ בשביל להישאר במקום ואין ברירה לגבי זה אבל כן מאוד מאוד צריך להיזהר אה ולא לאפשר אוטונומיה כזאת שיכולה בסופו של דבר להוביל לקטסטרופה וזה משהו שהרבה אנשים בתעשייה כולל אילן מס כולל ביל גייטס כולל סטיבן הוקינג ועוד הרבה אחרים חתמו על עצומה שמבקשת לאסור אוטונומיה מוחלטת ברובוטים שהם אלה צורכי מלחמה המדינות לא אוהבות את זה ודאי מתעלמות מהדרישה שלהם

מנחה- עידו קינן : ולא רק זה אלא שגם זה לא רק מדינות גם מדענים וחוקרים פרטיים וגם חברות שיכולות לפתח דברים כאלה מתחת לרדאר ובסופו של דבר לשחרר את זה על העולם ו אז מה נעשה

ד"ר טל אלון : נכון נכון מאוד בכל מקרה זה תלוי בנו כל טכנולוגיה אפשר השתמש בה בצורה טובה ובצורה ראה בסופו של דבר אנחנו אלה שיוצרים את הטכנולוגיה אנחנו אלה שמחליטים היו דברים שהמדינה תעשה ותכניס קודם מוסר מסוימים לרובוט שלה שלא יפגע בילדים או באנשים שהם לא חמושים ויכול להיות  שטרוריסטים או מדינות שהם בעייתיות נקרא לזה והכניס אותה ההגבלות האלה והרובוטים שלהם הלכו ויעשו כל דבר שאומרים כל דבר שזז אז אפשר להשתמש בכל טכנולוגיה בצורה טובה בצורה רעה אנחנו צריכים להיות מוכנים לעולם כזה עולם בעייתי דרך אגב שדיברנו על המכוניות האוטונומיות גם שם יש עניינים של מוסר גם שם המכונית שצריך שהיא הולכת לעשות תאונה לפעמים היא יכולה היא יודעת שיוכל לקבל החלטה ולדרוש בן-אדם 1 במקום לדרוש בן-אדם אחר היא יכולה להזיז את ההגה ולהימנע ולהרוג שני בני אדם ובתגובה לתזוזה הזאת של ההגה היה רק בן-אדם אחד אז יש כאן עניין של מוסריות שצריך לקודד פנימה בשביל שזה יתאים לערכים מוסריים שלנו וזה מאוד תחום מאוד בעייתי כי מי מחליט מה זה נכון ומה זה לא נכון מי יודע בכלל מה זה נכון ומה זה לא נכון האם זה פרי לעטות את העגל להרוג בן-אדם שהיה ניצל אם הם לא היו מסיתים את ההגה בשביל להציל שני בני אדם מצד שני זה שני בני אדם לעומת בן-אדם 1 יש עם זה בעייתיות וגם הזהות של בן-אדם מכונה יכולה לזהות עם הבן-אדם הוא נראה הומלס או בן-אדם שנראה למבוגר או ילד או אמא או אישה בהריון או כלב יוכל לזהות אמא מה היא רואה מולה אין לה שום בעיה היום בינה מלאכותית יודעת לעשות זיהוי תמונה בצורה יוצאת דופן אז אם אפשר להרוג אישה שהיא בהריון או ילד מעדיף זה שאלות מוזרות ומסתבר שבמדינות שונות יש תשובות שונות כמעט כולם רוצים להגן על המבוגרים ועל הילדים אבל יש הרבה מדינות שדווקא מבוגרים נמצאים בתחתית הסולם כי אם כבר מבוגרים הם חיו את חייהם וילדים נמצאים בראש הסולם אנשים שהם פחות מועילים החברה מסתבר ממחקר שנעשה לפני כמה שנים לדעתי ב-MIT אנשים שהם פחות מועילים לחברה הם נמצאים בתחתית הסולם כל מיני אנשים שהם הומלסים או אנשים שנראים מוזנחים אנשים שהם עוברים מאיידס הם נמצאים בתחתית הסולם של העדפה המוסרית וזה מאוד בעייתי ויש מקומות בעולם שהחליטו כבר שעושים חוק שאסור לעשות אפליה לגבי זהותו של אדם לא צבע של אדם לא מין של אדם לא גיל לא שום דבר כל אדם הוא אדם והוא שווה ערך לכל אדם אחר זה הדבר לדעתי זה מוריד ועידכנו את הבעיה של הדילמה המוסרית הזאת ומשאיר אותנו רק עם עניין של כמות אבל זה עם דוגמה של בעיה מודרנית שצצה בעקבות התחכום גדל והולך בעולם הרובוטים גם מן המלאכותית

מנחה- עידו קינן : מה בעצם הפוטנציאל העתידי של הרובוטים לא רק במה הם יעשו ובאיזה תפקידים הם ישמשו למה הם יכולים להיות הרי בסופו של דבר אנחנו מייצרים אותם הם לכאורה מוגבלים ע"י הדמיון האנושי והיכולת האנושית

ד"ר טל אלון : אנחנו מסתכלים על רובוטים ואנחנו שואלים לאיפה הם הולכים מה יהיה העתיד איתם מה עתיד שלהם איתנו אנחנו מדברים על זה כמה זה בעייתי כל מיני זיהויים שבויים היום הם צריכים להבין אבל שאנחנו בני אדם הוא תוצר של בליוני שנות אבולוציה לא היו קיימים בני אדם לפני ביליוני  שנה אבל בעלי חיים יצורים כבר היו קיימים לפני מיליוני שנה אז אנחנו תוצר של מיליוני שנות אבולוציה שכוונה אותנו ושיפרה אותנו זה והתאימה אותנו למציאות ובגלל זה יש לנו המון יכולות והמון הבנה והמון כלים להתמודד עם המציאות רובוטים לא קיימים כל כך הרבה זמן הם גם אומרים תהליך אבולוציוני אפשר להגיד לזה אבל זה לא אבולוציה רגילה זה משהו שאנחנו עושים אנחנו צריכים להכניס פנימה את הדברים שהם יעשו לא יעשו ובגלל זה שזה לא תוצר של התפתחות ביולוגית רגילה אנחנו לא צריכים לצפות שהרובוט התנהג כמו בן-אדם ויגיב כמו בן-אדם ויהיה חכם כמו בן-אדם כי אנחנו לא קרובים לזה אפילו בינה מלאכותית כללית ג'נרל היין שבינה מלאכותית שיכולה לקבל החלטה בעצם יכולה לקבל החלטה לגבי המטרות שלה מה המטרה שלי היא יכולה להחליט ללמוד כל דבר לעשות כל דבר אין לנו כזה דבר יש לנו רבות שיודע לשחק שחמט ישנו רובוט שיודע לשחק בכלל דרך אגב רובוטים מביסים אותנו בכל משחק ומשחק אין משחק היום שבינה מלאכותית לא תביס אותנו בו ומשחק שהחוקים שלא ברורים אנחנו כבני אדם פחות אפקטיביים נקרא לזה בסופו של דבר הם לא תהליך של אבולוציה והם ייקחו זמן עד שהם יגיעו למצב שבו הם יכולים לקבל החלטה מה המטרות שלהם ולא רק רובוט שעושה קפה מאוד טוב , רובוט שעובד במפעל בצורה מסוימת מאוד טוב או רובוט שנוהג מאוד טוב אין לנו רובוט שיכול לעשות הכל וללמוד הכל כמונו זה לא דבר שאפילו נמצא על הסקופ שלנו כרגע מבחינת איך אנחנו ניגשים לזה זה משהו שאנחנו באמת לא מבינים איך לעשות זה סכנה עתידית שהיא תגיע בסופו של דבר כנראה אבל לא בקרוב בכלל והיא באמת סכנה גם מפחידה כי הוא רובוט כזה שבינה מלאכותית כזאת שיודעת ממש להבין הכל וללמוד הכל ובעצם אין לה מגבלות היא מחליטה בשביל עצמה מה ללמוד עליו והיא רבת יכולות זה דבר שהוא בעצם יהיה יותר טוב מאיתנו אפילו כי זה כבר משהו שהוא ממש מזכיר את הודעה ובינה בינה אפילו אם הגיע בצורה מלאכותית ושם היא תהיה הרבה יותר טובה מאיתנו ואנחנו נצטרך לחיות עם איזשהו אל חדש שאנחנו יצרנו איזשהו אל שיחיה בקרבנו 1 מהדברים שמדברים עליהם היום וזה כבר בתהליך אבל זה להפוך אותנו להיות סייבורגים אנחנו כבר פחות או יותר סייבורגים עם הטלפונים שלנו אבל הרעיון זה בעצם לשלב בתוך הגוף שלנו חלקים עם יכולות מתוחכמות יותר של בינה מלאכותית שיאפשרו לנו נניח להתחבר לאינטרנט רק במחשבה לשאול שעולה לנו מחשבה יש אב טיפוס על התשובה אם את רוצה לדעת איך להגיע למקום מסוים אנחנו ישר נקבל את ההבנה של המסלול שאנו רוצים ללכת או שתיבנה אצלנו אינטואיציה איפה לפנות איפה לא ראיתי בעיני בנינו המסלול השילוב הזה שלנו עם רובוטים זה משהו שאם עם חלקים רובוטים לא ביולוגיים זה לגמרי משהו שאנחנו הולכים לכיוונו יש אנשים שכבר השתילו לעצמם בצ'יפ כל מיני ביד איזשהו צ'יפ RFID  שמאפשר להם לעשות כל מיני דברים אז אנחנו הולכים לכיוון הזה וזה אולי משהו שקצת יגרום לכך שאם היא לא היא רק במקום 1 אלוהים מפוזר בהרבה מקומות וזה קצת אולי ייתן לנו איזשהו צ'אנס להתמודד עם איזושהי בינה מלאכותית מטורפת כזאת שהיא יותר טובה מאיתנו אבל אני לא יודע זה משהו שבאמת דנו עליו והתעסקו אתו בהרבה מאוד סרטים והרבה מאוד ספרים זה משהו שאנחנו צריכים לחיות ולראות או שזה יהיה אחרי זמננו בהחלט מאוד מעניין מאוד מעניין

מנחה- עידו קינן : אתה מפחד כאדם שעוסק בזה ?

ד"ר טל אלון :    ודאי שאני חושש זה כבר היום צריך לחשוש , הרובוטים נגיד אטלס הרובוט אנושי אתה לא אמור להיות במרחק של 4 , 5 מטר ממנו אסור לך להתקרב אליו שהוא פועל ופועל בחתיכת מסע מטורפת ועם יש איזה האקר שייכנס להשתלט על אטלס ויגיד לו במקום לעשות פליק לקים לאחור ולעשות תראה לנו איך אתה הולך וקופץ ורץ אם אתה רואה דמות של בן-אדם לפניך במקום להיזהר להתנגש בו תפוס לו את היד ותשבור אותה הוא יעשה את זה בלי בעיות בקלות אפילו והוא לא צריך אפילו לתפוס הוא פשוט יכול לתת מכה עם היד המשקל של היד שלו זה משקל מאוד מאוד כבד זה לא איזה דבר שהוא מלחיץ וכמובן בינה מלאכותית כללית אבל זה אף פעם לא חשש לכרגע אבל זה בהחלט חשש שהמין האנושי יעמוד בפניו בשלב זה או אחר ולא רק אני אומר את זה אני מקשיב למה שאחרים אומרים גדולים וטובים ממני

מנחה- עידו קינן : טוב אז נשארו לנו ראית כמה שנים בודדות להתכונן ואני חושב שכדאי שנלך ונעשה את זה ב-

ד"ר טל אלון :  150 שנה היו סכנות שם בקרוב , אבל 50 שנה קדימה אנחנו יכולים להיות בבעיה רצינית אם אנחנו לא נבחר בחירות מאוד טובות בדרך

מנחה- עידו קינן : תודה רבה לך ד"ר טל אלון מרצה בכיר וראש ההתמחות לרובוטיקה ומכאנוטוריקה במכללת אפקה

ד"ר טל אלון : תודה לחברים

מנחה- עידו קינן : ותודה לכן ולכם על ההאזנה כדי לשמוע את הפרקים הבאים יירשמו לפודקאסט בספוטיפיי גוגל אפל דיזל או ביישומון האהוב עליכם אני דוקטרינה לידות