שליטה, סמכות, ואחריות במערכות טכנולוגיות מתקדמות

80 אסף דגני דייב לפתוח את הדלתות — ורק לאחר פרק זמן לא מבוטל הוא עונה בקולו האדיב והרך ומסביר לדייב, שאין בכוונתו לפתוח את הדלתות כדי להכניס אותו פנימה . המשימה חשובה יותר, ואין למחשב שום כוונה לתת לדייב את האפשרות לשנות את המשימה או להפריע לה . כאשר דייב מצווה עליו, שוב, לפתוח את דלתות הכניסה לחללית, עונה לו האל- 9000 שאין יותר שום תכלית בשיחה הזאת, ובכך הוא "נועל" את האסטרונאוט מחוץ לחללית ולמעשה גוזר עליו גזר דין מוות בחלל הקר והשחור . לאירוע יש משמעות אנושית די מוכרת : אובדן שליטה והפחד להיות נתון לגחמות של מישהו אחר . אכן הסיטואציה שהאל- 9000 העמיד בה את דייב, חוסמת כל אפשרות של ניסיון לבצע תמרון שיאפשר חזרה לתוך החללית . בפרק זה נדון בסוגיה של אובדן שליטה בהקשר של מערכות טכנולוגיות . כדי להבין איך מנתחים בעיות הנדסיות כאלו, נתחיל בדוגמה, פשוטה יחסית, של נהיגה ברכב והחלטה אם לעצור או לעבור צומת מרומזרת באור צהוב . נמשיך לדוגמה של נחיתה אוטומטית במטוס שעלולה, בתנאים מסוימים, למנוע מהטייסים לבצע תמרון קריטי, ולמעשה חוסמת אותם עד כדי "נעילה" מוחלטת של יכולת השליטה . מאחר שבעיית אובדן...  To the book