Wdrażanie AI w bankach: architektura, koszty i lokalizacja danych
Jak banki wdrażają AI w praktyce? Sprawdź, kiedy opłaca się chmura, kiedy własna infrastruktura i jak zarządzać kosztami narzędzi dla programistów.
Wdrażanie sztucznej inteligencji w bankach opiera się na trzech filarach: doborze architektury, kontroli kosztów i decyzji o tym, gdzie fizycznie znajdują się dane. Debata z udziałem banków, zorganizowana z partnerem Hewlett Packard Enterprise, pokazuje, że żadnego z nich nie da się pominąć, jeśli firma działa w silnie regulowanym otoczeniu.
Jak bank wdraża asystentów kodowania AI?
Najbardziej widocznym zastosowaniem AI w bankowości są narzędzia wspierające programistów. VeloBank korzysta z GitHub Copilot for Developers, a z rozwiązania na co dzień działa ok. 250 osób. Użytkownicy zostali podzieleni na trzy grupy: intensywnych użytkowników (Heavy Userzy), użytkowników standardowych i początkujących. Taki podział pozwala ocenić, kto faktycznie zyskuje na narzędziu, a kto potrzebuje więcej wsparcia.
Istotny jest też udział kodu generowanego przez modele. Według przykładu VeloBanku wynosi on od kilkunastu do 20 procent w części przypadków, a w innych przekracza 40 procent. Różnica wynika z charakteru zadań, dlatego jednolita norma dla całego zespołu rzadko się sprawdza.
| Przypadek użycia | Udział kodu generowanego przez modele |
|---|---|
| Część zadań | od kilkunastu do 20% |
| Pozostałe zadania | powyżej 40% |
Kluczową zasadą w VeloBanku jest to, że za każdy fragment odpowiada człowiek: programista zawsze akceptuje i ocenia kod przed jego wdrożeniem. Model przyspiesza pracę, ale nie przejmuje odpowiedzialności.
Dlaczego zmiana cenników podnosi koszty AI?
Koszty narzędzi AI nie są stałe. Microsoft zmienił cenniki w maju, a w wyniku tej zmiany budżet przypadający na jednego dewelopera, według przykładu BLIK, wystarcza na ok. 5 dni zamiast miesiąca. Dla działu finansowego oznacza to konieczność monitorowania zużycia w czasie rzeczywistym, a nie jedynie raz na kwartał.
Praktyczny wniosek jest prosty: przed podpisaniem umowy warto przeliczyć, ile limitów zużycia przypada na zespół i jak szybko może się ono wyczerpać przy intensywnej pracy.
Kiedy narzędzia dla programistów się opłacają?
BLIK, testując rozwiązania hyperscalerów, zanotował wzrost produktywności programistów na poziomie ok. 25 procent. Koszt pracy programisty to z kolei ok. 5 procent wartości, o którą toczy się rachunek. Samo porównanie tych liczb pokazuje, dlaczego narzędzia wspierające kodowanie są tak atrakcyjne, nawet przy rosnących opłatach licencyjnych.
Ważne jest jednak miejsce wdrożenia. BLIK wskazuje, że w małej bazie kodu, która nie ma charakteru krytycznego, narzędzia wspierające programistów są najmniej ryzykownym punktem startu. Dopiero później warto przenosić je na systemy o większej wadze.
Chmura czy własna infrastruktura? Jak rozdzielić obciążenia?
Dla instytucji finansowych kluczowe pytanie brzmi: gdzie uruchamiać modele. BLIK buduje własną infrastrukturę, a priorytetem jest zgodność z regulacjami, a dopiero potem rachunek. Kod źródłowy traktowany jest jako własność intelektualna i nie jest wysyłany do zewnętrznych hyperscalerów. Dla procesów krytycznych oraz danych, które nie mogą opuścić firmy, stosowane są modele lokalne.
Równocześnie nie wszystko musi działać na własnym sprzęcie. Najbardziej praktyczne jest podejście hybrydowe: chmura obsługuje szczyty obciążenia i zadania wymagające najlepszych dostępnych modeli, a infrastruktura lokalna przejmuje pracę stałą.
| Rodzaj obciążenia | Rekomendowane podejście |
|---|---|
| Ciągłe, przewidywalne (agenci AI, pipeline’y, wsad) | Własny sprzęt, który bywa opłacalny |
| Szczytowe lub wymagające najnowszych modeli | Chmura |
| Krytyczne, dane niewychodzące na zewnątrz | Modele lokalne |
Sprzęt warto dobierać pod konkretną klasę modeli open-weight, a nie pod jeden konkretny model. Modele zmieniają się praktycznie co kwartał, więc inwestycja w pojedynczy wariant szybko się starzeje.
Jak wybrać platformę AI w firmie finansowej?
Według HPE Polska, reprezentowanej przez Krzysztofa Kowalczyka, Sales Director, wybór platformy wynika z trzech czynników: przypadku użycia, strategii firmy i lokalizacji danych. Dobrym przykładem jest klasyfikacja danych w czasie rzeczywistym, w której pojawiły się problemy wydajnościowe. Rozwiązaniem okazało się wcześniejsze kategoryzowanie zasobu danych, zamiast obciążania systemu w trakcie przetwarzania.
Ta lekcja dotyczy każdej organizacji: wydajność zależy często nie od mocy obliczeniowej, lecz od tego, kiedy i jak dane zostaną uporządkowane.
Co to oznacza dla Ciebie?
Jeśli odpowiadasz w firmie za wdrożenie AI, zacznij od mapy danych: ustal, które z nich mogą trafić do zewnętrznej chmury, a które muszą pozostać w infrastrukturze firmy. Następnie oceń obciążenia i rozdziel je między chmurę a własny sprzęt, zamiast wybierać jedno rozwiązanie dla całej organizacji. Przy zakupie licencji przelicz budżet na osobę z uwzględnieniem możliwych zmian cenników, a wdrożenie zaczynaj od małej, niekrytycznej bazy, by zebrać dane o produktywności przed skalowaniem. Pamiętaj również, że każdy wynik generowany przez model wymaga kontroli człowieka, zanim trafi do produkcji.
Najczęstsze pytania
Czy banki mogą korzystać z asystentów kodowania AI?
Tak. Przykład VeloBanku pokazuje, że asystent GitHub Copilot for Developers jest używany przez ok. 250 programistów, a każdy wygenerowany fragment kodu musi zostać zaakceptowany i oceniony przez człowieka.
Dlaczego zmiana cennika narzędzi AI wpływa na budżet zespołu?
Po zmianie cenników Microsoftu w maju budżet przypadający na jednego dewelopera wystarcza według przykładu BLIK na ok. 5 dni zamiast miesiąca. Przy planowaniu wydatków trzeba więc uwzględniać zmienność stawek.
Kiedy warto budować własną infrastrukturę do uruchamiania modeli AI?
Własny sprzęt bywa opłacalny przy stałych, ciągłych obciążeniach, takich jak agenci AI, pipeline'y czy przetwarzanie wsadowe. Dla danych wrażliwych i procesów krytycznych banki często wybierają modele lokalne.
Jak wybrać platformę AI dla firmy z sektora finansowego?
Decyzja zależy od przypadku użycia, strategii firmy i lokalizacji danych. Według HPE Polska, reprezentowanej przez Krzysztofa Kowalczyka, Sales Director, to właśnie te trzy czynniki powinny determinować wybór.
Na podstawie: ITwiz. Tekst opracowany redakcyjnie.