Sztuczna inteligencja

AI Act w firmie: jakie obowiązki mają użytkownicy narzędzi AI

Zakazane praktyki, kompetencje w zakresie AI i systemy wysokiego ryzyka. Co rozporządzenie 2024/1689 oznacza dla firmy, która po prostu korzysta z czatbotów.

Tekst: Karol Nowicki8 min czytania

AI Act w firmie: jakie obowiązki mają użytkownicy narzędzi AI
Fot. autor nieznany / rawpixel (CC0)

Unijne rozporządzenie o sztucznej inteligencji, czyli AI Act, weszło w życie 1 sierpnia 2024 roku, a jego przepisy zaczynają obowiązywać etapami. Wiele firm myśli, że dotyczy ono tylko twórców modeli. To błąd — część obowiązków spoczywa na podmiotach stosujących systemy AI.

Harmonogram

DataCo zaczyna obowiązywać
2 lutego 2025zakazane praktyki i obowiązek kompetencji w zakresie AI
2 sierpnia 2025obowiązki dla modeli ogólnego przeznaczenia
2 sierpnia 2026większość pozostałych przepisów, w tym przejrzystość
późniejczęść systemów wysokiego ryzyka (z możliwymi zmianami terminów)

Unijni prawodawcy dyskutują o przesunięciu niektórych terminów dla systemów wysokiego ryzyka, dlatego warto śledzić aktualne komunikaty.

Kompetencje w zakresie AI

Artykuł 4 wymaga, by firmy stosujące systemy AI zapewniły odpowiedni poziom wiedzy o AI wśród pracowników, którzy z nich korzystają. Nie ma jednego certyfikatu — liczy się adekwatność do ryzyka i zastosowań.

  • Szkolenie z ograniczeń modeli i halucynacji.
  • Zasady ochrony danych przy wpisywaniu promptów.
  • Procedura weryfikacji treści generowanych przez AI.

Zakazane praktyki

Rozporządzenie zakazuje m.in. manipulacji podprogowej, wykorzystywania słabości osób szczególnie wrażliwych, oceny punktowej obywateli w stylu social scoringu i rozpoznawania emocji w miejscu pracy (poza wyjątkami medycznymi i bezpieczeństwa).

Rekrutacja

Systemy AI do selekcji kandydatów są co do zasady systemami wysokiego ryzyka. Firma, która je stosuje, będzie musiała zapewnić nadzór człowieka i monitorowanie działania.

Przejrzystość

Gdy klient rozmawia z czatbotem, powinien wiedzieć, że to maszyna. Treści typu deepfake trzeba oznaczać. Dostawcy generatorów muszą umożliwiać wykrywanie treści syntetycznych.

Od czego zacząć

  1. Spisz narzędzia AI używane w firmie.
  2. Przypisz im kategorię ryzyka.
  3. Wprowadź politykę korzystania z AI.
  4. Przeszkol zespół i dokumentuj szkolenia.

Kary

Za naruszenie zakazów grożą kary do 35 mln euro lub 7% światowego obrotu. Dla MŚP przewidziano łagodniejsze progi, ale nie zwolnienie z obowiązków.

KN
Karol Nowicki

Pisze dla Nuvectro o tematach z działu sztuczna inteligencja.

Czytaj dalej