טכנולוגיות לשיפור מוסר האדם – אתמול בדיוני, מחר וירטואלי

מאת ברק בן-אליעזר

בימים אלו, עת נורים מטחי רקטות מרצועת עזה לעבר שטח ישראל ומערכת "כיפת ברזל" מיירטת את הקטלניות שבהן, אנו מקבלים המחשה למתאר מלחמתי שבעבר היה נראה כלקוח מסרט מדע בדיוני. בהקשר זה מייחסים לאלברט איינשטיין את הציטוט: "אני לא יודע באיזה נשק יילחמו במלחמת העולם השלישית, אבל ברביעית יילחמו במקלות ובאבנים". האמנם טבע האדם, עוד מימי קין והבל, הוא להילחם האחד בשני? האמנם זהו עתיד בלתי נמנע שככל שיחלוף הזמן המין האנושי יצליח להתעצם בכוחו ויוביל להשמדת עצמו?

בעידן המודרני לאדם יש יכולות טכנולוגיות רבות שלא היו לו בעבר. אפשר שהטכנולוגיות המתקדמות ישמשו לטובת האנושות ויהיו בבחינת "תיקון עולם", אך אפשר שהמחזיקים בהן ירצו לזרוע הרס וטרור ואז הן יהיו בבחינת "קלקול עולם". על כף המאזניים עומד כאן למבחן המוסר של האדם והמוטיבציה שלו להיטיב או להרע.

במקורותינו מוסר כליות משמש לביטוי הצער שאדם מרגיש אחרי שעשה מעשה רע: "אֲבָרֵךְ אֶת יהְוהָ אֲשֶר יעְָצָניִ אַף לֵילוֹת יסְִרוּניִ כִלְיוֹתָי." (תהלים טז ז). אולם, ככל הנראה, אותו צער אחרי המעשה הרע, כמו גם ההחלטה לעשות את אותו המעשה, אינם תהליכים הממוקמים בכליות אלא באיבר אחר בגוף האדם - במוח. המוח האנושי ואופן פעולתו מהווים חידת ענק בפני המדע, ובפרט גם אופן פעולת המוסר שלנו. השאלה שנשאלת היא האם ניתן להעזר בטכנולוגיות מתקדמות בכדי להבין את פעולת המוח במידה מספקת בכדי שיהיה באפשרותנו לשדרג את רמת המוסר של האדם?

יכול להיות שלו היינו מבינים טוב יותר את פעולת המוח האנושי היינו יכולים להסתכן ולומר משהו על המגבלות של התערבות טכנולוגית לשיפור המוסר של עצמנו. אולם, דווקא משום שהפעילות המוסרית במוח רחוקה מאוד מהבנה שלמה, נכון יהיה להסתפק ולטעון שלא מן הנמנע כי ביום מן הימים יצליח המין האנושי לשפר את מוסר האדם באמצעים טכנולוגיים מבלי לציין כיצד ומתי פריצת דרך מעין זו צפויה להתרחש.

רבים יסכימו שרצוי לא למנוע ואולי אף כדאי לעודד פיתוח טכנולוגיות שישפרו את מוסר האדם, ונראה כי מעטים יטענו שאין זה מוסרי לפתח טכנולוגיות לשיפור המוסר. אולם, אין בכוונתנו להיכנס לדיון הנורמטיבי. במקום זאת, אחרי שנגדיר את התחום ונטעם מכמה חוקרים בולטים, אציג מהם תחומי ההתפתחות הצפויים בתחום זה.

אחת ההגדרות המוכרות בספרות לשיפור מוסרי על ידי שימוש בטכנולוגיה (Moral Enhancement) היא של דאגלס [1]:

"A person morally enhances herself if she alters herself in a way that may reasonably be expected to result in her having morally better future motives, taken in sum, than she would otherwise have had".

בהגדרה זו אין התייחסות לשיטה שמאפשרת את השיפור המוסרי: תרופה או הנדסה גנטית ,שימוש בקרינה אלקטרומגנטית מסוג מסויים או כל טכנולוגיה אחרת. כמו כן, אין התייחסות ספציפית לאף אחד מהתהליכים שיכולים להשפיע על ההתנהגות המוסרית כפי שניתן לראות בתרשים הבא [2]:

יש הטוענים ששיפור מוסרי הינו צורך דחוף משום שלטענתם החינוך המוסרי אינו שיטה מספיק יעילה להבטחת קיומו של מין האנושי בעידן של התקדמות מהירה של מדע וטכנולוגיה [3,4,5] או שהסכנות בפיתוח טכנולוגי לשיפור קוגניטיבי (Cognitive Enhancement) הן כה רבות עד כי שיפור מוסרי (Moral Enhancement) חייב תמיד להיות קודם לו והמטרה הסופית של כל שיפור קוגניטיבי [6].

אחרים סבורים כי ייתכן ששיפור מוסרי באמצעים טכנולוגים יכול להיות יעיל בטיפול בפדופילים ובפושעים אחרים, אך אם ברצוננו לשפר את הרמה המוסרית של כלל החברה יהיה הרבה יותר נכון ,קל ואפקטיבי לעשות זאת בדרכים שהיו מקובלות בהיסטוריה של האדם, ביניהן סוצאליזציה, חינוך ופיקוח ולא על ידי התערבות חיצונית של טכנולוגיה עילית בפעילות המוח [7,8].

כאמור, אין בכוונתי להציג כאן את מלוא קשת העמדות בדיון הנורמטיבי שמתחולל סביב שיפור מוסרי, אציין רק שתחום זה, שהיה בעבר נחלתם של סופרי המדע הבדיוני, תופס תאוצה בקרב החוקרים שמגוון עמדותיהם עשוי להיות רק קצה קרחון לדיון רחב הרבה ביותר בו יקחו חלק חוקרים באקדמיה, מעצבי דעת קהל, קובעי מדיניות ורבים אחרים.

במקום זאת, אתמקד בעבודה זאת בזיהוי ההגיון המערכתי ממנו יהיה אפשר להבין את כיווני ההתפתחות הצפויים לשימוש בטכנולוגיות מתקדמות לצורך שיפור מוסרי. אין ספק שתוצאות הדיון הנורמטיבי יהיו מרכיב באותו הגיון מערכתי, אך לא המרכיב היחיד, כפי שניתן יהיה להתרשם בהמשך. אך לפני כן, אפתח בכמה הבהרות פילוסופיות וטכנולוגיות שהן מהוות הנחות יסוד לפני גיבוש אותו הגיון מערכתי. יודגש, כי באם לא יתקיימו ההנחות שלהלן ייתכן שיש לבחון מחדש גם את התחזית שתוצג לכיווני ההתפתחות של התחום.

ראשית ,נגדיר מהו שיפור מוסרי. בהנחה שלכל אחד מאיתנו יש מצפן מוסרי משלו (ראה במודל שהוצג קודם), נתייחס לכל תהליך בו אנו מסיטים את המצפן המוסרי לכיוונים הרצויים וששינוי זה בא לידי ביטוי התנהגותי כאל שיפור מוסרי. כל שיפור אחר שאיננו בא לידי ביטוי בסט הבסיסי של ערכי המוסר שמכוונים את פעולותיו של האדם יהיה בעיננו בבחינת שיפור קוגניטיבי – שיפור זה אמנם יכול לבוא לידי ביטוי בהתנהגות יותר מוסרית אך אפשר גם שיוביל להתנהגות פחות מוסרית. לדוגמא, שיפור המחוייבות המוסרית של אדם בעל רמת מוסר לא גבוהה, ללא הסטת המצפן המוסרי שלו לכיוונים הרצויים, הוא ללא ספק שיפור קוגניטיבי אך ספק רב אם יש בה משום שיפור מוסרי.

שנית, אין אנו נדרשים להסכים בדבר האובייקטיביות של האתיקה והמוסר. גם המצדדים בטענה שיש מוסר אובייקטיבי [9], גם המתנגדים לטענה זו, גם המתלבטים וגם אלו שלא נתנו את דעתם לסוגיה הפילוסופית, כולם, ככל הנראה ,ישלחו את ילדיהם להתחנך במסגרת חינוכית כזו או אחרת שהם יזדהו עם הפילוסופיה המוסרית שלה, ובכך מביעים בפועל את אמונתם כי ניתן להביא לשיפור מוסרי. לכן, שיפור מוסרי, בין אם מבוצע על ידי חינוך ובין אם על ידי אמצעים טכנולוגים, איננו נשען על הנחת האובייקטיביות של המוסר.

שלישית, לצורך הניתוח נניח כי אנו מדברים על שיפור מוסרי שבא לידי ביטוי אך ורק בבני אדם - שיפור תהליכי קבלת החלטות במחשבים עם בינה מלאכותית, גם אם הם יעשו על סמך שיקולים מוסריים, לא יכללו בעבודה זו. ייתכן שיום יבוא ונבין איך ניתן להקנות לרובוט מודעות, ממש כמו שיש לאדם, אולם בינתיים המונח שיפור מוסרי יהיה שמור להתנהגות בני אדם ולא התנהגות של רובוטים.

רביעית, נגביל את ההגדרה לשיפור מוסרי של אדם אך ורק לשיפור בתחום הנורמלי של אוכלוסיית האדם. לא אתייחס לטיפול בבעיות של התנהגות לא מוסרית של אנשים עם בעיות נפש או של פושעים כאל שיפור מוסרי, אלא אכנה זאת ריפוי רפואי או שיקום אסירים. כמו כן, למרות שלרוב בדיון על טכנולוגיות לשיפור האדם (human enhancement) מדובר על הקניית יכולות על-אנושיות, אין הכוונה בעבודה זו לשיפור מוסרי שהוא מעבר לאנושי אלא רק בטווח המוסר הנורמלי של בני האדם. בהקשר זה אעיר כי קיימים חוקרים שסוברים כי ניתן להביא לשיפור מוסרי שהוא מעבר למוסר אנושי [10].

חמישית, בשנים האחרונות אנו עדים לפריצות דרך טכנולוגיות שמאפשרות השפעה מלאכותית על המטען הגנטי של הביצית המופרית וכפועל יוצא מכך גם על תכונותיו של העובר. למרות זאת, אני מניח שבטווח הנראה לעין לא ניתן לעשות זאת באופן שיביא לשיפור המצפן המוסרי לרך שעתיד להיוולד.

שישית ,כניסתו של המרחב הוירטואלי לחיינו הוא עובדה קיימת ולא ניתן להפריז בחשיבותה. במרחב זה אנו יכולים להיות במצבים שונים שמדמים את המציאות או מצבים בדיוניים לחלוטין, לפגוש דמויות וירטואליות שמשוחקות על ידי המחשב או דמויות שמשוחקות על ידי אנשים אחרים. לצורך כך, אניח שכניסה למרחב וירטואלי שתביא לשיפור חיובי במצפן המוסרי יכולה להיחשב שיפור מוסרי באמצעים טכנולוגים.

על סמך ההבהרות וההנחות לעיל, אבקש להציע תחזית אפשרית להתפתחות התחום של שיפור מוסרי של בני אדם. בבואי לעשות כן אנסה לזהות מהו ההגיון המסדר שיכול לעזור לי בתחזית זו. כמובן, שאין הכוונה לפשט יתר על המידה את המורכבות של תהליכים בחברה, אלא רק להציג דרך החשיבה שהיתה לי בניתוח הסוגייה.

לדעתי, ההגיון המסדר לתחום השיפור המוסרי כולל שני עקרונות יסוד (בהמשך מוצגת טבלה עם מיפוי של ארבעה רבעים שנגזרים מקבלת ההגיון המסדר המוצע):

1. העקרון הראשון: ניתן להתייחס לשתי אפשרויות של שימוש בטכנולוגיה. כאשר שימוש בטכנולוגיה ניכפה על ידי הרשות או מהווה תנאי להרשאה לעיסוק מסויים או לקבלת סמכות מסויימת, נכנה זאת "שימוש מחייב". לעומת זאת, כאשר אדם רשאי להחליט על דעת עצמו באם לעשות שימוש בטכנולוגיה כזו או אחרת נכנס זאת "שימוש וולונטרי". אני מניח כי כל החלטה על שימוש מחייב בטכנולוגיה חדשה לשיפור מוסרי תתבסס על שימוש קודם שהיה לא מחייב והוכיח את עצמו.

2. העקרון השני: מכיוון שקיים דיון ציבורי סביב השימוש בטכנולוגיה חדשה לצורך שיפור מוסרי, אני מניח כי לחברה יהיה קל יותר לאשר שימוש בטכנולוגיה כאשר השיפור המוסרי הוא נלווה לאפקט הראשי המבוקש (תופעת לוואי לא שלילית) מאשר לאשר שימוש בטכנולוגיה אשר כל מטרתה היא שיפור מוסרי.

נתחיל באזור הצבוע בירוק: אם יוכח שבמקרים מסויימים עשוי פרוטוקול מסויים של טכנולוגיה לא פולשנית (כגון TDCS) או אף פולשנית (כגון DBS) להביא גם לשיפור מוסרי, בנוסף למטרה הראשית לשמו הופעל הטיפול, נתקשה לראות שלא יאשרו לאותם אנשים את השימוש בטכנולוגיות אלו רק בגלל שתופעת הלוואי שלה היא אותו שיפור מוסרי. כך גם יהיה במקרה שאושר למטופלים לקחת חומרים כימיים (כגון סרטונין או אוקסיטוצין) לצורך טיפול בבעייה רפואית מסויימת ו-"על הדרך" הם זוכים לשיפור ברמת האמון או הרגישות המוסרית.

לעומת זאת, גם אם יוכח שיש שיטה טכנולוגית יעילה לשיפור מוסרי, אפילו אם אין לה כמעט שום סיכון ואפקט לא רצוי, נראה שהחברה תתקשה לקבל בקלות החלטה לכפות על כל האוכלוסייה לעשות בה שימוש. משום כך האזור הזה צבוע באדום בטבלה לעיל.

הערכות הנ"ל, שהינן נגזרות משני העקרונות של ההגיון המסדר, מותירות אותנו עם שני ריבועים ריקים בטבלה – שני איזורים לגבי יש כרגע עדיין אי ודאות: איזו טכנולוגיה תאושר לשימוש וולנטרי רחב לצורך שיפור מוסרי (הריבוע הימני התחתון)? ואיזו טכנולוגיה תאושר לשימוש מחייב של כלל האוכלוסייה הרלוונטית לצורך השגת אפקט רצוי בתוספת תופעת לוואי של שיפור מוסרי (בריבוע השמאלי העליון)?

להבנתי המפתח להבנה עתיד שיפור מוסרי נמצא בשאלות אלו. ברור כי שיטות פולשניות אינן צפויות להיות התשובות לשאלות אלו, וככל הנראה קטנים הסיכויים לאישור רחב אם יהיה מדובר בטכנולוגיה פחות מוכרת. זאת ועוד, בגלל המורכבות של המערכת הביולוגית, לתרופות ולהנדסה גנטית יש בצידן תמיד החשש לסיכונים מכיוונים לא ידועים.

דוגמא בולטת לטכנולוגיה שהיא איננה פולשנית, מוכרת מאוד ולא דורשת התערבות כימית היא שימוש בטכנולוגית מידע. לומדות, סימולטורים ואפילו משחקי מחשב הם אמצעים מאוד נפוצים להרחבת הידע והקניית מיומנויות וכלים (כגון קורדינציה, חשיבה ביקורתית, יצירתיות, קבלת החלטות, יכולות חברתיות). אך אפשר לחשוב על הרחבת השימוש בהם גם לצורך השגת שיפור מוסרי, בין אם לדוגמא מדובר על לומדות ייעודיות להעלאת הרמה המוסרית (דרך הצגת מקרה וניתוחו) או סימולטורים שאמורים לאמן בהטסת מטוס קרב והתרחישים המוצגים הם בעלי דילמה ערכית ומסייעים לשיפור גם של המוסריות של המשתמש בסימולטור.

זאת ועוד, אנו צופים שטכנולוגיה מתקדמת של מציאות מדומה (virtual reality) ומציאות רבודה (augmented reality) עשויות להיות ברמה טכנית מאוד גובהה ולתת חווית משתמש מאוד ריאלית. כבר היום לומדות וסימולטורים הם איטרקטיבים ועשויים בעתיד לכלול קסדה עם חיישנים פסיבים שיאפשרו לאינטראקציה להיות מופעלת על ידי תהליכים שמתבצעים בתוך מוחו של המשתמש בהם. התפתחויות טכנולוגיות אלו עשויות להרחיב את השימוש לקהלי יעד רבים ומגוונים שנתקלים בדילמות מוסריות: קובעי מדיניות, כוחות בטחון, גורמים במערכת אכיפת חוק, צוותים רפואיים (לדוגמא ראה את המאמר שפורסם לפני כמה חודשים ומציג שימוש אפשרי במשחקי וידאו לשיפור ההתמודדות של צוותים רפואיים בדילמות מוסריות[11]), מורים, מנהלים בתחומים שונים, ועוד.

לסיכום, עד לא מזמן שיפור מוסרי באמצעים טכנולוגים היה שייך לספרות המדע הבדיוני, אולם להערכתנו מהפכת המידע והתקדמות בחקר המוח יובילו אותו להיות חלק בלתי נפרד מחיינו - בעיקר במרחבי חיינו הוירטואלים.

1 Douglas, T. (2008). 'Moral Enhancement', Journal of Applied Philosophy 25/3: 228-45

2 Christen, M. and Tanner, C. (2013). 'Moral intelligence – a framework for understanding moral competences', in: Christen, M.; Van Schaik, C.; Fischer, J.; Huppenbauer, M.; Tanner, C. Empirically Informed Ethics. Cham, 119-36.

3 Savulescu, J. and Persson, I. (2008). 'The Perils of Cognitive Enhancement and the Urgent Imperative to Enhance The Moral Character of Humanity', Journal of Applied Philosophy 25/3: 162-77.

4 Savulescu, J. and Persson, I. (2012). 'Moral Enhancement', Philosophy Now 19.

5 Savulescu, J. and Persson, I. (2013). 'Getting Moral Enhancement Right: The Desirability of Moral Bioenhancement', Bioethics 27/3: 124-31.

6 Rakic, V. (2012). 'From Cognitive to Moral Enhancement: A Possible Reconciliation of Religious Outlooks and the Biotechnological Creation of a Better Human', Journal Study of Religions and Ideologies, 11/31: 113-28.

7 Marioka, M. (2012). 'Why is It Hard for Us to Accept Moral Bioenhancement? : Comment on Savulescu's Argument', Proceedings of the 2012 Uehiro-Carnegie-Oxford Ethics Conference.

8 Harris, J. (2010). 'Moral Enhancement and Freedom', Bioethics 25/2: 102-11.

9 Enoch, D. 'Why I am an Objectivist about Ethics (And Why You Are, Too)'.

10 Agar, N. (2013). 'Why is it possible to enhance moral status and why doing so is wrong?', Journal of Med Ethics 39: 67-74.

11 Christen, M., Faller, F., Gotz, U., Muller, C. (2014). 'Outlining a Serious Moral Game in Bioethics', EAI Endorsed Transactions on Ambient Systems 14/3: e4.