Jednym z niespodziewanych skutków zmian zachowań podczas pandemii okazały się problemy z algorytmami sztucznej inteligencji, nieelastycznymi wobec nowych wzorców. Pokazało to po raz kolejny, że automatyzacja procesów chociaż przydatna, wymaga nadzoru w sytuacjach nieprzewidywalnych.
W jakich branżach AI zawiódł? Sztuczna inteligencja, rekomendująca inwestycje na podstawie analizy medialnego sentymentu, nie poradziła sobie wobec fali negatywnych wiadomości w trakcie pandemii, wypaczając wyniki. Co więcej, algorytmy wykrywające oszustwa finansowe niesłusznie blokowały karty kredytowe, zaskoczone nagłym zainteresowaniem właścicieli zakupami zupełnie spoza standardowych kategorii np. sprzętu ogrodniczego czy domowych siłowni. Automatyzacja także w obszarze łańcuchów dostaw przysporzyła problemów – algorytmy odpowiedzialne za zaopatrzenie nie potrafiły zinterpretować poprawnie nagłej fali hurtowych zamówień specyficznych grup produktów. Algorytmy Amazona, nauczone standardowych zachowań konsumentów, nie poradziły sobie samodzielnie z dostosowaniem się do nagłych zmian na platformie. Adaptacja maszyn odpowiedzialnych za przetwarzanie danych dotyczących zakupów nie ma prawa przebiegać wystarczająco szybko w takich sytuacjach, korzysta bowiem z historycznych danych, zebranych na przestrzeni długiego okresu czasu. Standardowo, platforma promuje na czele list produktowych tych sprzedawców, którzy korzystają z magazynów i logistyki Amazona. W aktualnej sytuacji, aby zmniejszyć obciążenie własnych zasobów, algorytmy zostały ręcznie dostosowane, by traktować preferencyjnie sprzedawców zewnętrznych. Takie sytuacje pokazują tylko, jak istotne jest manualne dostosowywanie systemów do zmieniających się warunków, obnażają także zawodność automatyzacji, szczególnie w komunikacji marketingowej. Tworzenie kreacji na podstawie suchych danych w trakcie takiego chaosu informacyjnego mogłoby przynieść opłakane skutki. Wyczucie, empatia i takt, a także elastyczność to wciąż cechy, których sztuczna inteligencja nie potrafi się nauczyć.
Źródło: MIT Technology Review, Science Alert
