Subskrybuj nas na Youtube
Unijne rozporządzenie w sprawie sztucznej inteligencji wpłynie m.in. na działanie systemów scoringowych oceniających zdolność kredytową, a także chatbotów i wirtualnych konsultantów klienta
12 lipca 2024 r. w Dzienniku Urzędowym Unii Europejskiej (UE) zostało opublikowane rozporządzenie dotyczące sztucznej inteligencji, nazywane w skrócie AI Act. Weszło ono w życie po upływie 20 dni od opublikowania, natomiast poszczególne przepisy AI Act będą stosowane zgodnie z podanym w rozporządzeniu harmonogramem. Warto zwrócić uwagę, że przepisy dotyczące zakazu stosowania określonych praktyk w zakresie sztucznej inteligencji będą stosowane już sześć miesięcy po wejściu w życie rozporządzenia, czyli od 2 lutego 2025 r. W Ministerstwie Cyfryzacji trwają prace legislacyjne mające na celu dostosowanie polskich przepisów do wymogów AI Act.
Regulacje AI Act uwzględniają wszystkie etapy tworzenia i stosowania systemu sztucznej inteligencji – od wprowadzenia jej do obrotu po wykorzystywanie w UE. Ze względu na różny stopień ryzyka generowany przez systemy AI wprowadzono podział systemów sztucznej inteligencji na: systemy objęte zakazem z uwagi na nieakceptowalne ryzyko, systemy sztucznej inteligencji wysokiego ryzyka oraz pozostałe systemy sztucznej inteligencji, które nie generują wspomnianych ryzyk.
System wysokiego ryzyka
Z punktu widzenia rynku finansowego najbardziej istotną zmianą po wejściu w życie AI Act jest uznanie za system wysokiego ryzyka systemu sztucznej inteligencji przeznaczonego do wykorzystania w celu oceny zdolności kredytowej osób fizycznych lub ustalenia ich punktowej oceny kredytowej. Unijny ustawodawca uzasadnia to tym, że wspomniane systemy decydują o dostępie osób fizycznych do zasobów finansowych.
Stosowanie systemu wysokiego ryzyka wymaga spełnienia określonych w rozporządzeniu wymogów związanych z wiarygodnością sztucznej inteligencji, a także poddania procedurom oceny zgodności. Jest to m.in. obowiązek stworzenia systemu zarządzania ryzykiem obejmującego cały cykl życia systemu AI wysokiego ryzyka, obowiązek przejrzystości działania systemu AI umożliwiający interpretację i wyjaśnianie wyników jego funkcjonowania, a także obowiązek nadzoru ze strony człowieka nad systemem AI.
Po wejściu w życie AI Act proces badania zdolności kredytowej przez banki będzie musiał spełniać wspomniane wymogi. Warto jednak zauważyć, że już w obecnym stanie prawnym ustawodawca dopuszcza możliwość oceny zdolności kredytowej i analizy ryzyka kredytowego, a także podjęcia decyzji o udzieleniu kredytu opartej wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu danych osobowych. Jest to możliwe pod warunkiem, że osoba, której dotyczy decyzja, ma prawo do otrzymania stosownych wyjaśnień co do podstaw podjętej decyzji oraz do interwencji ludzkiej w celu podjęcia jej ponownie, a także do wyrażenia własnego stanowiska. Czas pokaże, jak dotychczasowa praktyka instytucji w tym zakresie zostanie dostosowana do przepisów AI Act.
Sztuczna inteligencja działa jawnie
Za istotne należy również uznać wprowadzenie w AI Act obowiązków w zakresie przejrzystości w odniesieniu do określonych systemów sztucznej inteligencji – tych, które nie zostały uznane ani za zakazane, ani za systemy wysokiego ryzyka. W bankach lub zakładach ubezpieczeń do obsługi klientów często wykorzystywane są chatboty lub wirtualni konsultanci klienta. Za najważniejszy z obowiązków można uznać informowanie osób fizycznych o tym, że prowadzą interakcję z systemem sztucznej inteligencji, chyba że okoliczności korzystania z systemu jednoznacznie na to wskazują. A zatem wirtualny konsultant wykonujący połączenie na infolinii powinien przedstawić się i wyraźnie wskazać, że nie jest człowiekiem, ale systemem sztucznej inteligencji.
Podsumowując, AI Act wprowadza wiele nowych rozwiązań, jak chociażby klasyfikację systemów sztucznej inteligencji według kryterium stwarzanego przez nie ryzyka czy obowiązek oznaczania treści wygenerowanych przez AI, jednak przepisy w wielu miejscach są dość ogólne. Można więc się spodziewać, o ile te kwestie nie zostaną uszczegółowione w przygotowywanej przez Ministerstwo Cyfryzacji ustawie implementującej AI Act, że w przyszłości w pewnym zakresie będzie to konieczne.
Partner
/>