Polska należy do światowej czołówki pod względem kompetencji pracowników w obszarze sztucznej inteligencji, zajmując 4. miejsce na świecie. Jednocześnie przedsiębiorstwa znacznie słabiej wykorzystują ten potencjał w praktyce. Wraz z wejściem w życie kolejnych obowiązków wynikających z AI Act coraz większego znaczenia nabiera nie tylko samo wdrażanie sztucznej inteligencji, ale również sposób podejmowania decyzji z jej udziałem.
Firmy wykorzystują AI do analizy dokumentów, klasyfikowania informacji, wykrywania nieprawidłowości czy wspierania procesów decyzyjnych. Pojawia się jednak pytanie, które jeszcze kilka lat temu praktycznie nie istniało: czy organizacja potrafi wyjaśnić decyzję, którą pomógł podjąć algorytm?
Black Box AI – problem nie leży w algorytmie
Wyobraźmy sobie, że system AI oznacza fakturę jako potencjalnie nieprawidłową, rekomenduje odrzucenie wniosku klienta lub wskazuje fragment umowy wymagający dodatkowej analizy. W każdym z tych przypadków użytkownik otrzymuje rekomendację. Problem pojawia się wtedy, gdy nie potrafi odpowiedzieć na pytanie, dlaczego system wskazał właśnie takie rozwiązanie. To zjawisko określane jest jako Black Box AI. Nie oznacza ono, że sztuczna inteligencja działa błędnie. Oznacza, że sposób dojścia modelu do określonego wyniku może być trudny do zinterpretowania lub niemożliwy do pełnego odtworzenia. W zastosowaniach o niewielkim znaczeniu biznesowym nie stanowi to większego problemu. Jeżeli AI pomaga przygotować podsumowanie spotkania czy wyszukać informacje w dokumentach, użytkownik może sam ocenić jakość wyniku. Sytuacja wygląda inaczej, gdy rekomendacja algorytmu wpływa na decyzje finansowe, prawne lub operacyjne. W takich przypadkach organizacja musi być w stanie odpowiedzieć na podstawowe pytania: jakie dane zostały wykorzystane, kto zweryfikował rekomendację, kto podjął ostateczną decyzję i czy cały proces można odtworzyć podczas audytu.
Firmy nie powinny ufać AI. Powinny ufać procesowi
Największym błędem jest traktowanie Black Box AI wyłącznie jako problemu technologii. W praktyce znacznie częściej jest to problem organizacyjny. Jeżeli proces biznesowy jasno określa, skąd pochodzą dane, kto odpowiada za ich jakość, kiedy człowiek weryfikuje rekomendację oraz czy każda decyzja pozostawia ślad audytowy, wykorzystanie AI nie oznacza utraty kontroli. Nawet najbardziej zaawansowany model staje się wówczas jednym z elementów dobrze zaprojektowanego procesu. Problem pojawia się wtedy, gdy informacje są rozproszone pomiędzy różnymi systemami, decyzje zapadają w korespondencji e-mailowej, a odpowiedzialność za kolejne etapy nie jest jednoznacznie przypisana. W takiej sytuacji AI może przyspieszyć wykonywanie zadań, ale nie eliminuje ryzyka. Często jedynie automatyzuje istniejący chaos.
– Od ponad 20 lat obserwujemy, że największe problemy organizacji rzadko wynikają z technologii. Najczęściej wynikają z niejasnej odpowiedzialności, rozproszonych informacji i procesów, które z czasem przestały nadążać za rozwojem firmy. AI tego nie zmienia. AI po prostu pokazuje te problemy szybciej. – wyjaśnia dr Przemysław Sołdacki, CEO AMODIT.
Human in the Loop to nie hamulec dla AI
Jednym z najważniejszych elementów odpowiedzialnego wykorzystania sztucznej inteligencji jest koncepcja Human in the Loop. Często błędnie interpretuje się ją jako konieczność ręcznego zatwierdzania każdej rekomendacji AI. W rzeczywistości chodzi o świadome zaprojektowanie procesu, w którym człowiek zachowuje kontrolę nad decyzjami wywołującymi skutki prawne, finansowe lub reputacyjne. Dobrym przykładem jest elektroniczny obieg dokumentów. AI może automatycznie odczytać dane z faktury (OCR), porównać je z zamówieniem, wykryć niezgodności i przekazać dokument do odpowiedniej osoby. Jeżeli system wykryje nietypową sytuację lub niski poziom pewności klasyfikacji, proces powinien automatycznie skierować sprawę do pracownika. Dzięki temu organizacja zyskuje zarówno efektywność, jak i możliwość wykazania, kto podjął ostateczną decyzję. Podobnie wygląda analiza umów. AI może wskazać ryzykowne klauzule lub brakujące zapisy, ale nie powinna samodzielnie decydować o akceptacji kontraktu. Jej rolą jest wsparcie człowieka, a nie zastąpienie odpowiedzialności.
Jak podkreśla dr Przemysław Sołdacki: Human in the Loop nie oznacza, że człowiek ma zatwierdzać każdą rekomendację AI. Oznacza, że organizacja świadomie określa momenty, w których decyzja wymaga ludzkiej oceny. W wielu procesach AI może wykonać 90 proc. pracy, ale odpowiedzialność za decyzję powinna pozostać po stronie człowieka.
Zaufanie do AI zaczyna się od procesu
Rozwój sztucznej inteligencji nie eliminuje potrzeby zarządzania procesami. Wręcz przeciwnie – sprawia, że stają się one ważniejsze niż kiedykolwiek wcześniej. Przedsiębiorstwa, które chcą bezpiecznie wykorzystywać AI, powinny rozpocząć nie od wyboru modelu, lecz od uporządkowania sposobu podejmowania decyzji, przepływu informacji i odpowiedzialności za procesy. Dopiero na takim fundamencie sztuczna inteligencja staje się narzędziem zwiększającym produktywność, a nie kolejnym źródłem ryzyka.
– Firmy, które wygrają wyścig AI, nie będą miały wyłącznie najlepszych modeli. Będą miały najlepiej zaprojektowane procesy. To one pozwolą wykorzystać potencjał sztucznej inteligencji bez utraty kontroli nad decyzjami i odpowiedzialnością. – podsumowuje CEO AMODIT.
źródła:
Global Outsourcing AI Readiness Index 2026