Przykłady klasyfikacji · Kredyt, nadużycia i ubezpieczenia · English

AI wychwytuje podejrzane płatności i oszustwa

System płatności lub platforma e-commerce wykorzystuje AI do oznaczania potencjalnie oszukańczych transakcji do weryfikacji lub do ich blokowania.

Jak to klasyfikujemy

1. Załącznik III pkt 5 lit. b uznaje ocenę zdolności kredytowej za wysokie ryzyko, ale wyraźnie wyłącza systemy AI wykorzystywane do wykrywania oszustw finansowych.
2. Wykrywanie oszustw nie zostało wymienione nigdzie indziej i nie jest zakazane.
3. Wynik: w rozumieniu AI Act nie jest to wysokie ryzyko; RODO i przepisy dotyczące płatności nadal mają zastosowanie.

Co obowiązuje dziś

• RODO: podstawa prawna, informacja dla klientów i możliwość zakwestionowania zablokowanych transakcji
• Weryfikacja przez człowieka blokad, które poważnie wpływają na klientów
• Wpis w rejestrze systemów AI i właściciel

Co zmieniłoby wynik

• Jeśli ten sam model jest wykorzystywany do decydowania o kredycie lub cenach dla osób fizycznych, takie zastosowanie jest zastosowaniem wysokiego ryzyka

Dowody, które warto mieć

• Wpis w rejestrze systemów AI
• Zapis klasyfikacji odnotowujący wyłączenie dotyczące wykrywania oszustw

W AI Compliance Kit: 03Rejestr systemów AI · 04Procedura klasyfikacji ryzyka.

Terminy i źródła

• Kompetencje w zakresie AI, art. 4 AI Act: 2 lutego 2025

Podstawa prawna: AI Act Annex III point 5(b); GDPR.

Podobne przykłady

• AI ocenia zdolność kredytową konsumentów Wysokie ryzyko (Załącznik III)
• AI wycenia ubezpieczenia na życie lub zdrowotne osób fizycznych Wysokie ryzyko (Załącznik III)