5 Najdroższych Błędów Spowodowanych Oprogramowaniem i UX
Odkryj sześć historii o tym, jak błędy w projektowaniu UI i UX spowodowały poważne konsekwencje finansowe i operacyjne dla firm, podkreślając znaczenie efektywnego projektowania cyfrowego.

Efektywność i klarowność projektowania interfejsu użytkownika (UI) oraz doświadczenia użytkownika (UX) mają bezpośredni wpływ na sukces produktów cyfrowych. Jak pokazują liczne przypadki, błędy w tych obszarach mogą prowadzić do katastrofalnych skutków finansowych, utraty zaufania klientów, a nawet do zagrożenia życia. W tym artykule przedstawię sześć pouczających historii, które demonstrują, jak krytyczne znaczenie dla firm mają dobrze zaprojektowane systemy.

1. Jak Citibank stracił 500 milionów dolarów z powodu błędu interfejsu użytkownika
W roku 2020, w przeciwieństwie do zamierzonych jedynie wypłat odsetek, Citibank przez pomyłkę przelał 500 milionów dolarów, obejmując nie tylko bieżące odsetki, lecz również kwotę główną pożyczki.
Cała sytuacja była wynikiem błędów w interfejsie użytkownika programu Flexcube, którego niejasny układ spowodował, że pracownik dokonał nieodpowiedniego wyboru podczas przeprowadzania operacji finansowych. Komplikacje te miały miejsce w kontekście restrukturyzacji zadłużenia przez Revlon, która zamierzała uregulować zobowiązania wobec niektórych wierzycieli, jednocześnie przekształcając pozostałą część długu w nową pożyczkę.
Oldschoolowy interfejs programu Flexcube doprowadził do niezamierzonej spłaty całości głównej sumy pożyczki, z terminem płatności przewidzianym dopiero na 2023 rok. W rezultacie, Citibank znalazł się w sytuacji, kiedy federalny sędzia orzekł, że bank nie ma prawa żądać zwrotu niespodziewanie wysłanych środków. To zdarzenie nie tylko uwypukla wagę interfejsów użytkownika na procesy biznesowe, ale także podkreśla ryzyko, z jakim muszą mierzyć się instytucje finansowe, polegające na błędach ludzkich potęgowanych przez nieadekwatne narzędzia informatyczne.

W konsekwencji Citibank, działając jako agent Revlon, odpowiedzialny był za ogromne sumy należne różnym wierzycielom, a błąd z 11 sierpnia, polegający na niewłaściwej wysokości przekazu 7,8 miliona dolarów odsetek, przekształcił się w niezamierzony precedens prawny oraz finansowy.

2. Atak rakietowy na Hawajach
W styczniu 2018 roku, mieszkańcy Hawajów doświadczyli przerażającej sytuacji, gdy na ich telefony komórkowe wysłano alarm ostrzegający przed nadchodzącym atakiem rakietowym. Alarm, który okazał się fałszywym alarmem, wywołał panikę i chaos.
Przyczyną tej sytuacji był błąd w projektowaniu interfejsu użytkownika (UX) systemu alarmowego, który nie dostarczał wystarczających środków zabezpieczających przed przypadkowym wysłaniem tak poważnego ostrzeżenia. Błąd w UX polegał na niewystarczająco jasnym oznaczeniu i różnicowaniu opcji wysyłania testowych i rzeczywistych alertów. Przyciski odpowiedzialne za aktywację ostrzeżenia były nieodpowiednio zaprojektowane i zbyt łatwo dostępne, co w połączeniu z brakiem odpowiednich środków weryfikacji przed wysłaniem końcowego komunikatu, doprowadziło do wywołania fałszywego alarmu.

Ten incydent stał się poważnym ostrzeżeniem dla wszystkich organizacji i firm podkreślającym znaczenie odpowiedniego projektowania interfejsów użytkownika, zwłaszcza tych, które mają kluczowe znaczenie dla bezpieczeństwa publicznego. Podkreśla również, jak błędy w UX mogą prowadzić do bezpośrednich zagrożeń dla życia ludzi oraz ogromnego stresu, a także reputacyjnych strat dla instytucji odpowiedzialnych za takie systemy.
Sytuacja na Hawajach zasygnalizowała potrzebę integracji rygorystycznych praktyk bezpieczeństwa na każdym etapie projektowania i implementacji systemów alarmowych, aby zapobiec podobnym błędom w przyszłości.

3. Tragiczny wypadek autonomicznego pojazdu Ubera
Tragiczny wypadek z udziałem samochodu autonomicznego Ubera w marcu 2018 roku w Arizonie, który skutkował śmiercią Elaine Herzberg, zwrócił uwagę na bezpieczeństwo i etyczne implikacje technologii pojazdów autonomicznych. Herzberg przechodziła przez ulicę z rowerem nocą, gdy została potrącona przez pojazd, który błędnie zidentyfikował ją najpierw jako nieznany obiekt, a później jako pojazd i rower, nie przewidując poprawnie jej trajektorii. System zareagował na niebezpieczeństwo zaledwie 1,2 sekundy przed kolizją, co było zbyt późno, aby uniknąć wypadku.
Wypadek ujawnił poważne braki w oprogramowaniu Ubera, zwłaszcza w sposobie, w jaki system autonomiczny przetwarzał i reagował na wykryte obiekty. Istniało również opóźnienie w inicjowaniu hamowania, które później zostało usunięte w aktualizacji oprogramowania. Te błędy systemowe doprowadziły do ponownego zastanowienia nad szybkością wdrażania technologii autonomicznych i potrzebą dokładniejszych testów.
Incydent ten rzuca światło na dylemat wagonika w kontekście pojazdów autonomicznych, który bada wybory moralne, przed którymi mogą stanąć systemy sztucznej inteligencji w krytycznych sytuacjach.
Dylemat wagonika to sytuacja, w której musi być podjęta decyzja o potencjalnym skrzywdzeniu jednej osoby w celu uratowania większej liczby osób. W przypadku technologii autonomicznych, algorytmy decydują w ułamku sekundy, jak zareagować w potencjalnie śmiertelnych sytuacjach, co rodzi pytania o to, jakie wartości etyczne powinny być zakodowane w ich systemach.
Wspomniany wypadek stanowi przypomnienie o konieczności ciągłego doskonalenia technologii AI i projektowania systemów, podkreślając znaczenie odpowiedzialnego podejścia do bezpieczeństwa i etyki w rozwoju pojazdów autonomicznych. W miarę jak technologia ta będzie dalej rozwijana, kluczowe będzie zapewnienie, że systemy AI mogą bezpiecznie i skutecznie radzić sobie z nieprzewidzianymi sytuacjami na drodze.

4. Pomyłki w trakcie wyborów demokratycznych w Iowa w 2019 roku
Pomyłki podczas demokratycznych kaukusów w Iowa w 2019 roku wynikały głównie z problemów z aplikacją używaną do zliczania głosów. Aplikacja, stworzona przez firmę Shadow Inc., miała za zadanie przyspieszyć i ułatwić zgłaszanie wyników, ale okazała się trudna w obsłudze i nie była odpowiednio przetestowana przed użyciem w tak ważnym wydarzeniu. Wynikło to w znaczne opóźnienia w podawaniu wyników i krytykę całego procesu wyborczego.
Raporty wskazują, że Demokratyczny Komitet Narodowy (DNC) miał znaczący wpływ na rozwój tej aplikacji, mając ciągły dostęp do jej konfiguracji i testowania bezpieczeństwa. Mimo tych środków bezpieczeństwa, aplikacja napotkała liczne błędy techniczne, które utrudniły jej efektywne działanie w dniu kaukusów.
Zdarzenie to podkreśla wagę odpowiedniego testowania technologii oraz konieczność zapewnienia, że nowe systemy są w pełni gotowe przed wdrożeniem na tak dużą skalę. Co więcej, pokazuje to również, jak krytyczne znaczenie mają prostota i intuicyjność interfejsu użytkownika w aplikacjach, które są używane w tak ważnych procesach, jak wybory.

6. Southwest Airlines
W 2018 roku, na stronie internetowej Southwest Airlines wystąpił błąd w interfejsie użytkownika, który prowadził do błędów cenowych, z powodu których bilety lotnicze były oferowane za $0. Ten techniczny błąd wywołał lawinę rezerwacji, co zmusiło linię lotniczą do honorowania biletów po tej nieprawidłowej cenie, skutkując znacznymi stratami finansowymi.
Takie zdarzenie ilustruje, jak krytyczne może być zaprojektowanie interfejsu użytkownika dla funkcjonalności biznesowych w systemach online. UI, które nie jest dokładnie przetestowane lub nieodpowiednio zaprojektowane, może prowadzić do poważnych problemów, takich jak nieprawidłowe przetwarzanie transakcji czy, jak w tym przypadku, generowanie nieoczekiwanych strat finansowych dla firmy.
Incydent ten podkreśla również konieczność implementacji skutecznych protokołów walidacji i testowania w fazie projektowania systemów informatycznych, aby unikać błędów, które mogą mieć daleko idące konsekwencje finansowe i operacyjne. W odpowiedzi na tę sytuację i podobne incydenty, firmy często wprowadzają dodatkowe środki bezpieczeństwa oraz zwiększają inwestycje w kontrolę jakości i testy użytkowe swoich platform cyfrowych.
źródła:
- https://arstechnica.com/tech-policy/2021/02/citibank-just-got-a-500-million-lesson-in-the-importance-of-ui-design/?fbclid=IwAR3VqFAoNanBRrTvUiAs5rrYHXxHEbRL5at6DdmxYYf7I-o-VJn4yt9mPl4
- https://en.wikipedia.org/wiki/2018_Hawaii_false_missile_alert
- https://go.forrester.com/blogs/why-citis-500m-mistake-is-really-a-design-debt-interest-payment/?fbclid=IwAR0SoyfbaiIOulvSVXGy5nQdC_G5RfGlqievxAKtPTc6OljB5VQKdSM6BQ4
- https://www.businessinsider.com/southwest-airlines-pricing-error-cost-millions-2018-9
- https://arstechnica.com/science/2016/09/spacex-investigation-concludes-that-a-fueling-error-caused-last-months-explosion/
- https://www.theverge.com/2018/3/19/17137718/uber-self-driving-car-crash-arizona-pedestrian-death
- https://www.theverge.com/2018/3/19/17137718/uber-self-driving-car-crash-arizona-pedestrian-death