צפייה מחדש בסרט "בלייד ראנר", שיצא לאקרנים בשנת 1982, תעלה ללא ספק חיוך אצל רבים מאתנו שראו את הסרט אז, ומבינים ש-2019, השנה שבה מתרחשת עלילת הסרט, או-טו-טו כאן, והמציאות הטכנולוגית שהוא מתאר, גם היא… כבר כאן.
הריסון פורד, ריק דקארד בסרט, הוא בלש משטרה המוזעק ללוס אנג'לס ב-2019, כדי לאתר רובוטים דמויי אדם, "ביו-רובוטים", בעלי בינה מלאכותית, שקמו על יוצרם…
הבינה המלאכותית, בהגדרתה, היא הקניית יכולת תבונית למחשב. כלומר, לאפשר לו לחשוב ולהגיב קוגניטיבית כאדם, ובמילים פשוטות, לתת למכונה יכולות להתמודד עם סיטואציות שרק בן אנוש ידע עד אז להתמודד מולן. דוגמה: ב"בלייד ראנר" הביו-רובוטים מחפשים בלוס אנג'לס את המדען שיֵדע להאריך את חייהם. כלומר, הם מכונות שיודעות לחשב את קִצן לאחור ומבינות שהן חייבות לנקוט בפעולה שהיא, מבחינתן, "מצילת חיים".
ד"ר רועי צזנה הוא מומחה עולמי לטכנולוגיה ולבינה מלאכותית, ומרצה במחלקה למדעי המחשב באוניברסיטת תל-אביב. במאמר שפרסם בבלוג שלו מזהיר ד"ר צזנה מפני סכנת הבינה המלאכותית האחידה, והדוגמה שהוא מביא מאלפת: בתחילת 2016 טס מבנה של מטוסי חמקן אמריקאיים מסוג F-22 מהוואי אל האי אוקינאווה שליד יפן. מחירו של כל חמקן הוא כרבע מיליארד דולר. בשלב מסוים במהלך הטיסה, כשהמטוסים היו מעל האוקיינוס, קרסו בהם כל המחשבים. הטייסים הפעילו מיד את נוהלי החירום ואִתחלו (restart) את המחשבים, אך אלה קרסו שוב כעבור כמה שניות. למזלם של טייסי ה-F-22, בטיסתם זו ליוו אותם מטוסי תדלוק, והגדולים הללו עשו לחמקנים המשוכללים, אשר הפכו לעיוורים, "הולכה באף" עד לנחיתה. מיד עם הנחיתה הוקפצו טובי המוחות מחיל האוויר האמריקאי ומהיצרנית לוקהיד מרטין לבדוק את המטוסים. 1.7 מיליון שורות קוד בתוכנת כל מטוס נבדקו, עד שנמצאה התקלה. התברר כי בדרכם מערבה חצו המטוסים את קו התאריך הבינלאומי, והחצייה הווירטואלית הזאת גרמה לבאג אשר השבית את כל מערכות המטוס.
ד"ר צזנה מזהיר בדיוק מפני הסכנה הזאת, של תוכנת-על ששולטת בחיי היום יום ולפתע משתבשת. "הבינה המלאכותית, לעומת האנושית, היא סטנדרטית. רוצה לומר, כל רכבי טסלה האוטונומיים עומדים להתנהל על הכבישים באופן זהה בדיוק. כולם מקבלים על עצמם את אותה תוכנה ואותה מערכת הפעלה. ועתה, מה קורה אם יש ברכבים הללו באג כלשהו, למשל, באג שיגרום למערכות המחשוב שלהם לקרוס מיידית במצבי קיצון מסוימים?״.
רובוט הוא מחשב מוגבל
אחד הפיתוחים העתידיים (חלקם כבר ממש כאן) בעולם כלי הטיס הבלתי מאוישים מכונה "נחילי כטב״מ". אלה הן להקות של כלי טיס מעופפים מסוגים שונים, אשר טסים באופן אוטונומי, אוספים מודיעין, מתקשרים לבד בינם לבין עצמם וגם… תוקפים מטרה באופן עצמאי על בסיס חישוב מתמטי. בהסבר פשטני, זה אמור להתרחש כך: הנחיל טס מעל שטח אויב, מזהה טנק במצלמות שלו, התמונה מעובדת על ידי מחשב שנמצא על כלי הטיס, ותוך שניות נעשה תהליך השוואה לתמונת טנק אויב שנמצאת במאגר הנתונים. ההחלטה המתקבלת על ידי מחשב המטוס – זוהי מטרת אויב ויש להשמידה. באותה מידה יכולה להינתן פקודה הפוכה, שלא מדובר באויב, או להעביר את פקודת הירי לכלי טיס אוטונומי אחר. הנתון המפחיד בתרחיש הזה הוא שעד לשלב הירי וההשמדה, כמעט כל התהליך כבר שריר וקיים היום. בארצות הברית נערך באחרונה, על ידי מעבדות הצי האמריקאי, ניסוי של נחיל כלי טיס בלתי מאוישים שטס באופן עצמאי, אסף מידע, עיבד אותו ושידר את הנתונים לאחור. את מרכיב ההשמדה נטרלו, ולו רק בשל העובדה שאת ההחלטה על ירי משאירים תמיד (וכנראה תמיד ישאירו) בידי אדם.
"תחום הבינה המלאכותית בודק, בין השאר, איך רובוט או מערכת תוכנה יכולים לתפקד בצורה נכונה, כלומר, הם מנסים להגיע לרמת חשיבה אנושית ואף לעלות עליה", אומר פרופ' גל קמינקא מהמחלקה למדעי המחשב באוניברסיטת בר-אילן, בראיון לאתר האוניברסיטה הפתוחה. "רובוט הוא מחשב, שמוגבל על ידי גוף מכני וגם על ידי מגבלות חישוביות, כגון זיכרון מוגבל או מעבד מוגבל ביכולתו על ידי רוחב פס בתקשורת (band-width), או כמו דיבור בקצב ובעוצמה מסוימים. אני מנסה להבין איך, למרות המגבלות האלה, רובוטים ומערכות תוכנה, כמוהם כבני אדם, יכולים לתפקד כצוות".
עד כמה זה ישים, לא ברור עדיין. התשובה יכולה להינתן אולי בפרספקטיבה של זמן. איפה היינו ב-1982, כאשר רידלי סקוט (הבמאי של "בלייד ראנר") חזה את עולם הרובוטים העתידני של 2019, והיכן אנו כיום, כשתוכנה שולטת כמעט על כל תחום בחיינו: רפואה, תנועה בכבישים, אספקת חשמל, מסחר מקוון, תקשורת, ואפשר להמשיך את הרשימה הזאת עוד ועוד. סטיבן הוקינג, "נביא הזעם" של תופעת הבינה המלאכותית, טוען, בראיון שהעניק למגזין "טיימס", כי "הבינה המלאכותית, בצירוף התוקפנות האנושית, תביא לקץ האנושות". ועכשיו, דמיינו לעצמכם שהמלחמות הבאות יתנהלו על ידי מכונות ורובוטים…
