טורו החודשי של דני פרומצ'נקו - גיליון 375 - אוטו

טורו החודשי של דני פרומצ'נקו - גיליון 375

מה יקרה כאשר המחשב יחליף את הנהג ויחליט על חיים ומוות

בצמוד לתערוכת הרכב שהתקיימה בחודש אפריל בניו יורק, התקיימה סדרת פגישות שדנה בעולם הרכב ובחלקן השתתפתי. אחת מהן עסקה בעתיד הרכב, ובאופן מדויק יותר: הבעיות האתיות הנובעות מהשימוש במכונית האוטונומית והמקושרת. אותה מכונית תהיה "מודעת" לסובב אותה, תקבל מידע בכמויות אדירות מהמערכות שלה, מהמכוניות שסביבה וממרכזי מידע. אלו ישדרו מידע על גורמים העשויים להסדיר את התנועה בסביבתה המיידית או בכיוון הנסיעה ולעשותה בטוחה יותר.
אך את חלק מהאמריקאים, מסתבר, מטרידה האתיקה עוד יותר מפתרון בעיות התשתית, פיסיקה, אבטחת המידע, עתיד מפעלי הייצור ועוד כהנה וכהנה. עובדה, המושב שעסק באתיקה, משך אליו יותר משתתפים מכל אחד מהמושבים האחרים שהתקיימו באותה עת.
אני, יליד ישראל, גדלתי לאורה של גישת "יהיה בסדר" עליה גדלו דורות רבים והיא כל כך אופיינית לחברה שלנו. ולפני שתניפו יד בביטול, חשבו על כך שגישה זו היא שאחראית, בין היתר, על ההחלטה להקים את המדינה, וגם להקים התנחלויות, לניצחונות מדהימים בשדות הקרב וגם על פשלות מבצעיות. זו גישה שלאורה התחנכו גם מדענים פורצי דרך וגם מהנדסי הפל–קל וגשר המכביה.
בקיצור, ניגשתי למושב עם הבנה ברורה שהכל יהיה בסדר והאתיקה היא עניין שיסתדר איכשהו. אבל למרות זאת נסחפתי אל דיון מרתק שעוסק בבעיות שאכן עשויות להטריד את העולם כשבעיות הנהיגה, פקקי התנועה ומקומות החנייה תוסרנה ממנו.



הנה בעיה אתית לדוגמה. אתה נוסע במכונית שלך, היא רכושך ורשומה על שמך. היא מסיעה אותך ונקרית למצב של תאונה ודאית. היא מחשבת במהירות את אפשרות תגובותיה. מימין, אוטובוס מלא ילדים, סטייה חדה ימינה תשליך אותו לתהום; משמאל מכונית עם ראש הממשלה ובכירי שריו, וגם היא תושלך לתהום אם מכוניתך תסטה שמאלה; אם לא תסטה ותמשיך ישר, וגם אם תנסה לבלום, תיכנס בעוצמה לתוך זנבה של משאית כבדה. המכונית מחשבת את אפשרויותיך לשרוד בתאונת החזית הזו ומגלה שהן שואפות לאפס.
טוב נו, כולכם אומרים שתפנו שמאלה ולעזאזל הממשלה. אני זורם אתכם, אז בואו נחליף את הממשלה בצוות רפואי בכיר המציל חיים רבים מדי יום. עכשיו נראה אתכם משיבים...
ביקשתי וקיבלתי את רשות הדיבור וטענתי שנכון להיום, האדם אינו מודע בכלל מי מימינו, משמאלו, מלפניו או מאחוריו, וממילא אינו יכול לחשב סיכויים - אז איפה הבעיה? תחליט המכונית ככל שתחליט - אותה החלטה תהיה מבוססת על מידע הרבה יותר רחב משיש לנהג.
"נכון" טענו מולי, "אבל, ברגע שהמכונה 'יודעת' - היא חייבת להחליט, והשאלה היא 'מה היא אמורה להחליט?'". "טובת הרבים עולה על טובת המעטים" הייתה התשובה בה רוב המשתתפים תמכו. כולל אני (מעניין כמה מהם היו מודעים לעובדה שהם ציטטו את מיסטר ספוק מסדרת סטאר טראק המיתולוגית בגרסתה הראשונה, וכמה חשבו שזו מחשבה מקורית שלהם). "אבל היא המכונית שלך, היא הרכוש שלך, האם היא לא אמורה להגן עליך?" שאלו אחרים. אופס, שאלה לא קלה שהגו האמריקאים המקדשים את הקניין הפרטי. "הרכוש שלך יגן על אחרים ולא עליך?".
תורת ה"מה שלא תחליט המכונית, יהיה בסדר", חטפה ניעור רציני.
נזכרתי לפתע בדבריו של אבי ז"ל שטען שההמצאה הגדולה אותה ראה בימי חייו הארוכים הייתה הפניצילין וכניסתה לזירת הרפואה. אבי שהיה רופא, טען שלפני הפניצילין, היו חולים שהוא ידע שיחיו והיו כאלו שידע שימותו. "הפניצילין הגיע בכמויות קטנות לבית החולים בו עבדתי, ואני הייתי זה שצריך להחליט מי מהחולים יזכה לקבל אותו. בעצם, השליטה בפניצילין עשתה ממני ומעמיתי אלוהים. אנחנו החלטנו מי יחיה ומי ימות". המכונית, המשמשת היום כמושא אהבתם היוקד של לא מעט גברים, תהפוך בעתידה המקושר לאלוהים; היא "תחליט" מי יחיה ומי ימות.
עכשיו, הבעיה נשמעת גם לכם פחות טריוויאלית, נכון?
"טובת הרבים עולה על טובת היחיד או המעטים" התעקשו חסידי מיסטר ספוק. "אבל אני ארצה לקנות מכונית שתגן עלי, כמו כרית האוויר שלי" אמר אחר, "מי אמור להחליט בזה?"
הדיון הפך כאוטי, הנה חלק ממה ששמעתי סביבי: "צריכה להיות רגולציה"; "צריך חוקים"; "המדינות הן אלה שצריכות לקבוע"; "אבל אם המדינה תקבע, אני אקנה רק מכונית ממדינה שמאמינה שהיא חייבת להגן על נוסעיה"; "החוק של המדינה לא יאפשר למכוניות שאינן עומדות בדרישותיה להיכנס לתחומה"; "אבל אם זו תוכנה, אלגוריתם, כל איש שהממון בידו, יוכל לשנות אותו כך שהמכונית תגן דווקא עליו" תרמתי גם אני את חלקי לדיון.
יו"ר הישיבה השתלט על הדוברים, מזלו שאמריקאים אינם ישראלים והם נרגעים בנקל. הוא סיכם בקצרה את הדברים שנאמרו, סיכם את חוות הדעת השונות, וערך הצבעה מהירה על השאלה: "על מי אמורה המכונית להגן?".
מיסטר ספוק ניצח ברוב מוחץ. בסופו של דבר, גם הוא תוצר של בני אדם שעיצבו אותו על פי תורת האתיקה המקובלת עלינו.
הרוב גם הסכימו שהמדינות הן אלה שחייבות לקבוע תקנות המחייבות אתיקה אחידה. בשאלה אם החוק צריך להיות של מדינה ממדינות הברית (קליפורניה, למשל) או להיות פדראלי לא הייתה הכרעה בקרב הנוכחים.
דיוני האתיקה שהמשיכו את המושב היו מעניינים וסוערים פחות. למשל, האם מוסרי לתת למכונית אוטונומית לחנות ליד ביתו של אדם בזמן שאינו משתמש בה, או שהיא חייבת לעמוד לרשות הציבור (בתשלום כמובן, אנחנו בכל זאת בארה"ב) כמו המכוניות של אובר. ואם כן, איזה אחוז מהזמן היא אמורה לעמוד לרשות הכלל.
ואני חשבתי, שאצלנו יהיה בוודאי גם ויכוח הלכתי, האם תהיינה "מכוניות שומרות שבת", או שממש להפך, העובדה שאיש אינו נוהג את המכונית, תהפוך את התחבורה הציבורית למותרת בשבת. כן, גם לדתיים.
על מושבים נוספים - בטורים הבאים.
     

תגובות גולשים:

לכתבה זו התפרסמו תגובות