Przykłady klasyfikacji · Edukacja i biometria · English
AI ocenia testy lub nadzoruje egzaminy w firmie szkoleniowej
Wysokie ryzyko (Załącznik III)Podmiot stosujący
Szkoła lub firma szkoleniowa wykorzystuje AI do oceniania testów, decydowania o przyjęciu lub obserwowania kandydatów podczas egzaminów online.
Jak to klasyfikujemy
- Załącznik III pkt 3 wymienia systemy AI w obszarze kształcenia i szkolenia zawodowego wykorzystywane do decydowania o przyjęciu, oceny efektów uczenia się, oceny odpowiedniego poziomu wykształcenia oraz monitorowania niedozwolonego zachowania podczas testów: wysokie ryzyko.
- Wyciąganie wniosków na temat emocji osób uczących się, np. stresu lub uwagi na podstawie twarzy, jest zakazane w instytucjach edukacyjnych (art. 5 ust. 1 lit. f).
- Wynik: wysokie ryzyko od 2 grudnia 2027 r.; wyciąganie wniosków na temat emocji jest zakazane już teraz.
Co obowiązuje dziś
- Żadnej oceny emocji ani uwagi na podstawie danych biometrycznych
- Weryfikacja przez człowieka ocen i każdego oznaczenia podejrzenia ściągania przed wyciągnięciem konsekwencji
- Poinformuj osoby uczące się o nadzorowaniu egzaminów przez AI (RODO)
Co zmieniłoby wynik
- Wewnętrzny quiz w ramach szkolenia pracowników, który jedynie rejestruje wyniki, to nie to samo co egzamin w instytucji; sprawdź cel
Dowody, które warto mieć
- Zapis klasyfikacji
- Ocena skutków AI
- Klauzula informacyjna dla osób uczących się
W AI Compliance Kit: 04Procedura klasyfikacji ryzyka · 09Ocena skutków AI.
Terminy i źródła
- Obowiązki dla systemów AI wysokiego ryzyka z załącznika III: 2 grudnia 2027
- Zakazane praktyki AI, art. 5 AI Act: 2 lutego 2025
Podstawa prawna: AI Act art. 5(1)(f), Annex III point 3.
Podobne przykłady
- Rozpoznawanie twarzy otwiera drzwi do biura Zależy od zastosowania