Paul is a customer service agent at a credit card company. He got a call from a client whose wallet had been stolen.
Paul followed the protocol-directed questions to identify the client. The client was clearly confused — he had no wallet, no passport, and was in another country.
The client answered 2 out of 3 questions correctly, which was not enough to cancel the card and issue a new one. So Paul asked a different set of questions. This time, the client answered only 1 out of 3 correctly — but it was the very question he had gotten wrong the first time.
Paul was convinced that the client was who he claimed to be, but protocol (the system) did not allow him to use his discretion.
So Paul answered: “Sorry sir, I cannot proceed to process your request; please call again in another 24 hours.”
Paul cannot use his discretion.
Sarah sells travel insurance on the phone to supplement her income while finishing her nursing studies. A 71-year-old caller asked for travel insurance for a two-week trip to India.
Sarah noticed that, in the caller’s “Medical Status Report,” the caller has an inhaler. Protocol (controlled by the software) insists that her respirologist provide a letter stating she is fit for travel.
The caller explained that she had childhood asthma until age 14, and she has no respirologist.
As per protocol — which limits all calls to 8 minutes and demands a letter from her respirologist — the caller did not get insurance.
Sarah thought to herself: “What a shitty job; I have no discretion at all.”
So, as software-limited decision-making has eliminated the use of discretion, the use of common sense is lost, and the employee is denied the right to think.
Now, as AI comes knocking at our door to replace other capabilities — all of this made much worse by the digital moat between service providers and the public — we are indeed in dire straits.
פול הוא נציג שירות לקוחות בחברת כרטיסי אשראי. הוא קיבל שיחה מלקוח שהארנק שלו נגנב. פול עקב אחר השאלות שהפרוטוקול הכתיב כדי לזהות את הלקוח. הלקוח היה נבוך בעליל — לא היה לו ארנק, לא היה לו דרכון, והוא היה במדינה זרה. הלקוח ענה נכון על 2 מתוך 3 שאלות, מה שלא הספיק כדי לבטל את הכרטיס ולהנפיק חדש. אז פול שאל סדרת שאלות אחרת. הפעם, הלקוח ענה נכון רק על שאלה אחת מתוך שלוש — אבל זו הייתה בדיוק השאלה שטעה בה בפעם הראשונה. פול היה משוכנע שהלקוח הוא אכן מי שהוא טוען שהוא, אבל הפרוטוקול (המערכת) לא איפשר לו להפעיל שיקול דעת. אז פול ענה: “מצטער, אדוני, אינני יכול להמשיך בטיפול בבקשתך; אנא התקשר שוב בעוד 24 שעות.” לפול אין אפשרות להפעיל שיקול דעת.
שרה מוכרת ביטוח נסיעות בטלפון כדי להשלים את הכנסתה בזמן שהיא מסיימת את לימודי הסיעוד שלה. מתקשרת בת 71 ביקשה ביטוח נסיעות לטיול של שבועיים בהודו. שרה שמה לב שב”דוח המצב הרפואי” של המתקשרת מופיע שיש לה משאף. הפרוטוקול (הנשלט על ידי התוכנה) מתעקש שהרופאה הריאתית שלה תספק מכתב המאשר שהיא כשירה לטיסה. המתקשרת הסבירה שהייתה לה אסתמה בילדותה עד גיל 14, ושאין לה רופאה ריאתית. בהתאם לפרוטוקול — המגביל כל שיחה ל-8 דקות ודורש מכתב מרופאה ריאתית — המתקשרת לא קיבלה ביטוח. שרה חשבה לעצמה: “איזו עבודה מחורבנת; אין לי שום שיקול דעת.”
וכך, כאשר קבלת החלטות המוגבלת על ידי תוכנה מבטלת את השימוש בשיקול דעת, השימוש בשכל ישר הולך לאיבוד, והעובד נשלל ממנו הזכות לחשוב. כעת, כשהבינה המלאכותית דופקת על דלתנו כדי להחליף יכולות נוספות — וכל זה מחמיר עוד יותר בשל התעלה הדיגיטלית שבין נותני השירות לציבור — אנו נמצאים אכן במצוקה קשה.
