גבול המדע

(מאמר של אורי פסובסקי מתוך בקפטן אינטרנט (גיליון מס 218)

סכנת הרובוטים הזעירים הננו-טכנולוגיה תוכל לאפשר למכונות לשכפל את עצמן, והאינטליגנציה המלאכותית תוכל לסייע להן לגבור על האדם. המומחים מתווכחים: האם צריך לעצור את הפיתוח הטכנולוגי כדי להציל את המין האנושי ?

" שלושה שחקנים יושבים סביב השולחן במשחק החיים (והאבולוציה) הטבע, בני האדם והמכונות. אני תומך בחוזקה בטבע .אבל הטבע, כך אני חושש ,עומד לצדן של המכונות" ג'ורג' דייסון, "דארווין בין המכונות" אריק דרקסלר ניחן בחוש חיזוי לא רע. בספרו "מנועי הבריאה", שיצא לאור באמצע שנות ה-80, הוא חזה כיצד הנדסה ברמה האטומית תוכל ליצור מכונות שיטפלו במגוון מחלות ויהפכו תהליכי ייצור לפשוטים וקלים הרבה יותר. כיום, כאשר רובוטים מולקולריים למטרות רפואיות הם nציאות קרובה למדי , דרקסלר נחשב לנביא טכנולוגי .
עם זאת, ספרו של דרקסלר לא היה כולו אופטימי. בפרק שכותרתו "מנועי ההרס" הוא מעלה את החשש שדברים ייצאו מכלל שליטה ושנחילים של ננו-רובוטים זעירים יהפכו למכונות הרס רבות עוצמה .דרקסלר מציג תרחיש שלפיו יצליחו צמחים רובוטיים לנצל את אור השמש טוב יותר מצמחים אמיתיים , ישתכפלו במהירות ויגרמו לאסון אקולוגי. תרחיש אחר מדבר על בקטריות מלאכותיות המסוגלות לאכול הכל, להשתכפל עד אין קץ, וכך להפוך את הביוספירה כולה לאבק בתוך ימים ספורים . עשור וחצי לאחר יציאת ספרו של דרקסלר, בסתיו 98', ישב ביל ג'וי, המדען הראשי של ענקית ההיי-טק "סאן", בבר של מלון והקשיב לשני גברים משוחחים. אחד מהם היה ריי קורצווייל ,
ממציא ומטיף טכנולוגי ,והוא ניסה לשכנע את בן שיחו כי ההתפתחות הטכנולוגית תאפשר בקרוב את יצירתן של "מכונות רוחניות" - בני אדם משולבים ברובוטים - ותקרב את האדם לאלמוות.
משהו באותה שיחה גרם לג'וי לתחושת אי-נחת עזה. הוא הכיר את קורצווייל בתור איש מעשה, המסוגל לדמיין ולתכנן את העתיד, ומפיו, החזון של רובוטים חושבים נשמע מציאותי וקרוב. אבל גו'י הוטרד מכך שקורצווייל לא התייחס לכך שההתפתחות הטכנולוגית עלולה לסכן את האנושות. לפני כשנה הוא פירסם מאמר במגזין ,Wired תחת הכותרת "מדוע העתיד אינו זקוק לנו". המין האנושי, הוא קובע, "נדחף אל המאה החדשה ללא כל תוכנית, שליטה או מעצורים" ומתקדם לעבר אסון
טכנולוגי .
נבואות שחורות על מוראות הטכנולוגיה אינן דבר חדש, כמובן .
אולם ג'וי חורג מהפרופיל הרגיל של נביא זעם. כמדען הראשי ואחד ממייסדיה של "סאן", הוא נהנה ממעמד של אחד האנשים המשפיעים ביותר בעמק הסיליקון ונחשב לאחד מאבות האינטרנט . בקיצור, לא מדובר בעוד מטורף מזיל ריר שצועק ליד המכולת השכונתית, ועם זאת, שורת הטיעונים שהוא מעלה לא היתה מביישת אף נביא אפוקליפטי . המין האנושי, טוען ג'וי, החל לסכן את קיומו שלו כבר לפני כחמישים שנה, עם המצאת פצצת האטום. כיום מזהה ג'וי סכנה חדשה וגדולה יותר, הטמונה בשלושה מהתחומים הטכנולוגיים החמים ביותר :הנדסה גנטית, רובוטיקה וננו-טכנולוגיה .
"רובוטים, צורות חיים מהונדסות וננו-רובוטים חולקים מכנה משותף המגביר את הסכנה: הם יכולים לשכפל את עצמם. פצצה מתפוצצת רק פעם אחת - אבל ננו-בוט אחד יכול להפוך לרבים , ולצאת במהירות מכלל שליטה "
איום זמין לכל הבדל נוסף בין נשק להשמדה המונית, כמו פצצות אטום או נשק ביולוגי, לבין הטכנולוגיות המסוכנות החדשות, הוא במורכבות הייצור. ייצור נשק ההשמדה דורש גישה לחומרים נדירים , ניהול פרויקטים מסובכים לאורך תקופות ממושכות והרבה משאבים ,ולכן יכול להתבצע כמעט אך ורק על ידי ממשלות.
הטכנולוגיות החדשות, לעומת זאת, נמצאות בהישג ידם של יחידים או קבוצות מחקר קטנות. הן לא דורשות נגישות לחומרים נדירים או למתקני ייצור גדולים. כל שנדרש למימושן, אומר ג'וי ,הוא ידע. ומי שעומד מאחורי פיתוח ידע זה כיום אינו מדינות וצבאות, אלא חברות מסחריות, המונעות
משיקולים כלכליים והמקשות על פיקוח טכנולוגי.
כיצד יכול המין האנושי להגן על עצמו מפני רובוטים שתלטנים, או מפני שכפול בלתי מבוקר של ננו-בוטים שיחנקו את הביוספירה? ג'וי טוען כי מרגע שרובוטים שתלטנים יהפכו למציאות, קשה מאוד יהיה ליצור אמצעי הגנה יעילים מולם .
הוא מצטט בהקשר זה את מדען האטום לואיס אלווארז, שאמר כי המדענים המתכננים אמצעי הגנה נגד נשק גרעיני הם "בחורים חכמים מאוד, שאין להם שום שכל ישר".
לעצור את הטכנולוגיה ומכיוון שלא ניתן ליצור הגנה אפקטיווית, ג'וי טוען שעל המין האנושי להימנע מיצירת ידע שיסכן אותו. למעשה, הוא קורא לעצור פיתוח טכנולוגיות .ג'וי מודע, כמובן, לכך שהחתירה לאמת ולידע מנחה את המין האנושי כבר אלפי שנים, "אולם אם גישה פתוחה ופיתוח בלתי מוגבל של ידע מציבים את כולנו בסכנה ברורה של הכחדה", הוא אומר, "הרי שהשכל הישר דורש שנבחן גם את אמונותינו הבסיסיות והישנות". אולם קריאתו של ג'וי לא הביאה לשינוי בעמק הסיליקון. איש גם לא אימץ את הצעתו לשבועה מוסרית שתחייב מדעני רובוטיקה וננו-טכנולוגיה - בדומה לשבועת היפוקרטס של הרופאים.
למעשה, רוב התגובות למאמרו של ג'וי הן פשוט של התכחשות. כך למשל ,טוען מומחה ננו-טכנולוגיה ראלף מרקל כי "מבנה השוק הקיים עבד לא רע עד עכשיו, ולא הוביל לתוצאות מדאיגות במיוחד. מוקדם מדי לנטוש אותו".
יהודי חכם אמר פעם שההיסטוריה חוזרת על עצמה - תחילה כטרגדיה, ולאחר מכן כפארסה. ואכן, חלק מהטענות נגד ג'וי נשמעות כפארודיה על אלה שנשמעו בזמן המלחמה הקרה בזכות פיתוח נשק גרעיני. באותה תקופה טענו אנשי הממסד הביטחוני בשתי המעצמות כי מדינתם אינה יכולה להרשות לעצמה להפסיק את פיתוח הנשק הגרעיני - מפחד שהמעצמה השנייה תקדים אותה במרוץ החימוש. באופן דומה, מרקל טוען כי "נטישת הטכנולוגיה אינה אפשרית, והיא גם מעשה טיפשי, אם חושבים
על האפשרות שמדינות אחרות יפתחו אותה".
יש גם כאלה המתנגדים לג'וי בטענה שהתועלת הגלומה בטכנולוגיות החדשות גוברת על הסכנה הטמונה בהן. כך למשל, שואל קורצוייל: "האם אנחנו צריכים להגיד למיליוני אנשים הסובלים מסרטן ומתנאים הרסניים אחרים, שאנחנו מבטלים את פיתוחם של כל הטיפולים המהונדסים גנטית, בגלל שקיימת סכנה שטכנולוגיות אלה ישמשו יום אחד למטרות מזיקות?" מעבר לכך, אומר קורצוייל, לעצירת ההתפתחות הטכנולוגית תהיה פשוט התאבדות כלכלית עבור יחידים, חברות מסחריות אומות". עם זאת, הוא מקבל את הצורך במעקב אחר ההתפתחות הטכנולוגית ובהגבלת טכנולוגיות שאינן משמשות שום מטרה מלבד הרס.
ולעומת כל אלה, יש המוכנים לקבל את חזון השתלטות הרובוטים בשמחה. מומחה הרובוטיקה האנס מורק, למשל, טוען שהקריאה לבלימת הטכנולוגיה היא מאמץ עקר. לדבריו ,רובוטים חכמים הם פשוט השלב הבא באבולוציה ,והם עתידים לדחוק את רגלי האדם כמין השולט על כדור הארץ. "זה גדול מאיתנו", אומר מורק, "אנחנו נהפוך לרובוטים. זה גם בלתי נמנע, וגם רצוי".
יש גם כאלה שהאשימו את ג'וי בפשטנות. אחד מהם הוא ג'סטין רטנר, מנהל מעבדות מחקר מיקרו-מעבדים באינטל ,חברת השבבים הגדולה בעולם. "אלה מאיתנו שחיו בשנות ה-50", הוא אומר, "זוכרים את כל התחזיות שניבאו כיצד ייראו החיים בשנת 2000, עם מכוניות מעופפות ורקטות תיירים אל הירח". תחזיות אלה לא התגשמו, כמובן. "ההתפתחות הטכנולוגית", הוא מסביר, "פשוט אינה מתבצעת בקו כה ישר ויפה". לדעת רטנר, ג'וי פשוט ראה את ה"מאטריקס "יותר מדי פעמים.