Paul is a customer service agent at a credit card company. He got a call from a client whose wallet had been stolen.
Paul followed the protocol-directed questions to identify the client. The client was clearly confused — he had no wallet, no passport, and was in another country.
The client answered 2 out of 3 questions correctly, which was not enough to cancel the card and issue a new one. So Paul asked a different set of questions. This time, the client answered only 1 out of 3 correctly — but it was the very question he had gotten wrong the first time.
Paul was convinced that the client was who he claimed to be, but protocol (the system) did not allow him to use his discretion.
So Paul answered: “Sorry sir, I cannot proceed to process your request; please call again in another 24 hours.”
Paul cannot use his discretion.
Sarah sells travel insurance on the phone to supplement her income while finishing her nursing studies. A 71-year-old caller asked for travel insurance for a two-week trip to India.
Sarah noticed that, in the caller’s “Medical Status Report,” the caller has an inhaler. Protocol (controlled by the software) insists that her respirologist provide a letter stating she is fit for travel.
The caller explained that she had childhood asthma until age 14, and she has no respirologist.
As per protocol — which limits all calls to 8 minutes and demands a letter from her respirologist — the caller did not get insurance.
Sarah thought to herself: “What a shitty job; I have no discretion at all.”
So, as software-limited decision-making has eliminated the use of discretion, the use of common sense is lost, and the employee is denied the right to think.
Now, as AI comes knocking at our door to replace other capabilities — all of this made much worse by the digital moat between service providers and the public — we are indeed in dire straits.
פול הוא נציג שירות לקוחות בחברת כרטיסי אשראי. הוא קיבל שיחה מלקוח שהארנק שלו נגנב. פול עקב אחר השאלות שהפרוטוקול הכתיב כדי לזהות את הלקוח. הלקוח היה נבוך בעליל — לא היה לו ארנק, לא היה לו דרכון, והוא היה במדינה זרה. הלקוח ענה נכון על 2 מתוך 3 שאלות, מה שלא הספיק כדי לבטל את הכרטיס ולהנפיק חדש. אז פול שאל סדרת שאלות אחרת. הפעם, הלקוח ענה נכון רק על שאלה אחת מתוך שלוש — אבל זו הייתה בדיוק השאלה שטעה בה בפעם הראשונה. פול היה משוכנע שהלקוח הוא אכן מי שהוא טוען שהוא, אבל הפרוטוקול (המערכת) לא איפשר לו להפעיל שיקול דעת. אז פול ענה: “מצטער, אדוני, אינני יכול להמשיך בטיפול בבקשתך; אנא התקשר שוב בעוד 24 שעות.” לפול אין אפשרות להפעיל שיקול דעת.
שרה מוכרת ביטוח נסיעות בטלפון כדי להשלים את הכנסתה בזמן שהיא מסיימת את לימודי הסיעוד שלה. מתקשרת בת 71 ביקשה ביטוח נסיעות לטיול של שבועיים בהודו. שרה שמה לב שב”דוח המצב הרפואי” של המתקשרת מופיע שיש לה משאף. הפרוטוקול (הנשלט על ידי התוכנה) מתעקש שהרופאה הריאתית שלה תספק מכתב המאשר שהיא כשירה לטיסה. המתקשרת הסבירה שהייתה לה אסתמה בילדותה עד גיל 14, ושאין לה רופאה ריאתית. בהתאם לפרוטוקול — המגביל כל שיחה ל-8 דקות ודורש מכתב מרופאה ריאתית — המתקשרת לא קיבלה ביטוח. שרה חשבה לעצמה: “איזו עבודה מחורבנת; אין לי שום שיקול דעת.”
וכך, כאשר קבלת החלטות המוגבלת על ידי תוכנה מבטלת את השימוש בשיקול דעת, השימוש בשכל ישר הולך לאיבוד, והעובד נשלל ממנו הזכות לחשוב. כעת, כשהבינה המלאכותית דופקת על דלתנו כדי להחליף יכולות נוספות — וכל זה מחמיר עוד יותר בשל התעלה הדיגיטלית שבין נותני השירות לציבור — אנו נמצאים אכן במצוקה קשה.
צריך לזכור הבינה המלאכותית עדיין לא בת 4. כשהיא תהייה בוגרת יותר, היא תתן מענה יתתפקד טוב ביותג מבני אדם בלא מעט תפקידים. אני מניח שבננ אדם מעולם לא טעו בשיקול דעת. צריך לראות איך. לומדים מהמקרים האלה כדי לשפר את הממשק אדם טכנולוגיה, כי זה העתיד.
We disagree. Look at digitalization…when it started, everyone said it just a matter of time until it was perfected. And what happened? It turn service provision into a nightmare. You cannot talk to anyone anymore, and the digital platform more often than not provides no opportunity to solve the concern that you actually have. Try asking a family doctor for eye drops that you don’t have in your monthly medicines. Try dealing a visa provider when your visa is issued with your name mis-spelt.
Try getting a refund from a website from which you bought something that arrived but broken. More digitalization created a moat. AI will produce morons.
אלון.
אתה מביא מקרים מסוימים ומשליך על הכלל.
בחלק גדול מהמקרים, ניתן לבצע כיום פעולות באופן עצמאי ללא צורך לפנות לגורם אנושי. אני יכול להזמין תור לרפואה יועצת, לבדיקות דם או לבקש תרופות מהרופא, ללא צורך לפנות אליו. אם המרפאה סגורה יש רופא 24/7 שיכול לתת לי הפנייה למיון. כל זה מניסיון אישי. אני לחייב להגיע לקופות הקולנוע לקנות כרטיסים כמו פעם ואז לחזור לסרט, אם אני מנוי על אתר לגיבוי קבצים ויש לי בעיה, אני פונה במייל ומקבל הנחיות. האם זה פותר את הכל. לא. אבל זה בהחלט מסייע במקרים רבים. כך לדוגמא את השיח בינינו. בעבר כדי שאתה תעלה פוסט ואני אגיב עליו לא היה אפשרי כי הטכנולוגיה לא הייתה קיימת. היום אתה מגיע למאות אלפים או מיליונים בלי לדבר איתם, להכיר אותם או להיפגש אתם. כמו כל דבר יש יתרונות ויש חסרונות. ולגבי יישום הדיגיטציה בארגון, בהרבה מאוד מקרים זה ניהול שינוי לקוי שמובל ע”י אנשי הטכנולוגיה ולא ע”י אנשים שמבינים מהו שינוי ומה הוא דורש מהארגון. דרך אגב, גם בבינה מלאכותית הולכים לחזור על הטעות הזו. האם זה מייתר בני אדם?, לא. זה רק מדגיש את הצורך לדייק את תהליכי השינוי ואת הממשק אדם מכונה.
Just as a matter of accuracy, you can renew prescriptions via the website but you cannot ask for a medication you take from time to time.
And you if see a specialist, his or her report does not show up on your medical record, so you have to run around anyway.
I do not claim that there is no value of course; that would be stupid of me.
What I do claim is that 1) AI will breed morons 2) digitalization has made service into a nightmare 3) when you take away discretion, you reduce the value that can be provided by a human, and 4) the way the change is “managed” is not the issue; the issue is the total abolition of discretion by service providers
It’s not about AI maturity as Yossi suggests, it’s about companies’ immaturity and efforts to avoid any accountability. They set up these moats intentionally in order to make it as difficult as possible for customers to get help, at least some do as I’ve seen first hand.
Which is why in a world of increasing commoditization, fewer and fewer differentiators exist. Customer care and real service being one of them.
Allon makes a great point here, where the systems reverse the script – instead of making it easier and more effective to get help and have problems solved, it makes it harder. Whether because of arbitrary rules (often set up by consultants!), or a general desire to let the customer sail their own sea with no help from the vendor, or distrust of the creativity and problem solving capacity of their employees, it ends up a disservice to the end user.
If you’re not familiar with the concept of a “reverse centaur”, I highly recommend reading Cory Doctorow’s article about it – whether technology empowers us to be far stronger, faster and more capable than we could be alone (a centaur), or whether we end up serving the technology and struggling under it’s weight and speed (reverse centaur).
https://locusmag.com/feature/commentary-cory-doctorow-reverse-centaurs/
Thor