Kiedy składamy wniosek o kredyt, rzadko zastanawiamy się, kto właściwie siedzi po drugiej stronie ekranu. Coraz częściej odpowiedź brzmi "system". Nie oznacza to jednak, że maszyna przejęła nad nami władzę. Oznacza to, że algorytmy mają dziś ogromny wpływ na to, jak powstaje decyzja o naszych finansach. Systemy bankowe analizują dane szybciej niż jakikolwiek człowiek byłby w stanie. Przeszukują historię płatności, porównują tysiące podobnych przypadków i w ułamku sekundy wyliczają tak zwany scoring. Ale maszyna nie wie, kim jesteśmy i jakie mamy marzenia. Ona widzi tylko liczby i wzorce, gdzie zatem kończy się obliczanie, a zaczyna odpowiedzialność? O tym porozmawiam z moim gościem. Jest nim pan Karol Tajduś, dyrektor Departamentu Transformacji AI w banku Pekao S.A.

Panie dyrektorze, czy dziś w banku PKO to algorytm faktycznie mówi komuś: „tak, dostaniesz kredyt”, czy on tylko podpowiada człowiekowi, co ma robić?

Karol Tajduś: Nie, nie, on tylko podpowiada człowiekowi, co ma zrobić. Nie sądzę, żebyśmy w najbliższym czasie osiągnęli gdziekolwiek na świecie pozycję taką, żeby to algorytm mówił człowiekowi, co ma zrobić, a nie na odwrót. Automatyzacja i sztuczna inteligencja ma na celu pomóc doradcy czy też nawet użytkownikowi backoffice’owemu w banku w tym, żeby ich praca była łatwiejsza. Czyli na przykład jeżeli rozmawiamy tutaj o procesach kredytowych, to po to, żeby sprawdzić kompletność dokumentacji, która została dostarczona, czy chociażby sprawdzić profil klienta w takim procesie „poznaj swojego klienta”. Natomiast nie ma tutaj sytuacji, w których to algorytm mówi, czy można klientowi dać kredyt czy nie można dać tego kredytu. To zawsze zostanie w gestii człowieka.

W takim razie co dokładnie widzi taki system, gdy patrzy na nasz wniosek?

Karol Tajduś: Raczej powiedziałbym, że on pomaga trochę ludzkiemu oku, pokazując mu, holistycznie historię klienta i czy ma jakieś informacje z jego profilu. Ja mogę podać jako taki antyprzykład takiego wdrożenia. Jakiś czas temu Apple próbował stworzyć takie rozwiązanie kredytowe w Stanach Zjednoczonych i uzależniło je już tylko i wyłącznie od AI, co spowodowało, że chyba około pół roku czy rok po wdrożeniu tego systemu, były już pierwsze postępowania sądowe, ponieważ okazało się, że algorytmy były „zbajasowane”. Bajas to znaczy, że tak naprawdę przez dane, na których były uczone, algorytmy, pochylały się w stronę jednej odpowiedzi, która nie zawsze była odpowiedzią prawidłową. Co za tym idzie, my wiemy, że nie możemy tak jakby czegoś takiego wdrożyć i nie wdrożymy. Zresztą też AI Act daje nam tutaj te ograniczenia, w których musimy się poruszać.

A jakie wzorce analizuje AI? Czy jest w stanie wychwycić jakieś nietypowe zachowania płatnicze, próby włamywania się na czyjeś konta, próby oszustwa?

Karol Tajduś: O tak, oczywiście. To jest coś, w czym AI nam bardzo pomaga i w co inwestujemy dużo naszego czasu. Żeby AI powodował lepsze bezpieczeństwo naszych kont, tego kim my jesteśmy też w oczach banku i nie tylko. Identyfikacja na przykład „słupów”, czy ktoś się pod nas podszywa itp., to jest coś, w czym już nam AI pomaga w tym momencie. Nietypowe płatności czy nietypowe wypłaty to też jest coś, o czym już sztuczna inteligencja alarmuje nasze procesy. Że coś jest nie tak i trzeba by było po prostu się temu przyjrzeć.

Co w sytuacjach nieoczywistych, kiedy maszyna powie „nie” dla danej osoby, która się stara o kredyt, bo tak wychodzi jej z tabelki, a ludzka intuicja podpowiada coś innego? W którym momencie ten proces wraca jakby na biurko człowieka?

Karol Tajduś: To ja od razu powiem, że przy jakiejkolwiek decyzji kredytowej to nie maszyna powie ostateczne słowo, tylko człowiek. Maszyna ma wspomóc człowieka w informacjach, w danych, w tym, żeby on lepiej podjął decyzję swoją, ale nie będzie wpływać na jego decyzję.

To jest pocieszające. Bardzo.

Karol Tajduś: Mogę, powiedzieć, że AI w banku to nie tylko decyzje kredytowe, to nie tylko bezpieczeństwo, to także pomoc po prostu pracownikom w ich codziennych działaniach. Tworzenie notatek ze spotkań niesamowicie ułatwia pracę, ale także na przykład deweloperzy, mamy też dużo osób, które po prostu produkują oprogramowanie dla banku i sztuczna inteligencja im codziennie pomaga. Tak naprawdę jesteśmy w stanie stwierdzić, że nasi deweloperzy są dużo bardziej efektywni w swojej pracy właśnie dzięki sztucznej inteligencji.

Moim gościem był pan Karol Tajduś z banku Pekao S.A. Dziękuję panu za udział w rozmowie.

Karol Tajduś: Dziękuję bardzo.