Akt o umjetnoj inteligenciji primjenjuje se postupno. Dvije skupine odredbi dolaze prve i obje se odnose na svakoga tko sustave koristi, ne samo na one koji ih razvijaju.
Zabranjene prakse
Članak 5. nabraja prakse koje se ne smiju primjenjivati, bez procjene rizika i bez mogućnosti da se opravdaju. Među njima su:
- Manipulativne tehnike koje bitno narušavaju sposobnost osobe da donese informiranu odluku i time joj nanose znatnu štetu.
- Iskorištavanje ranjivosti zbog dobi, invaliditeta ili socijalne odnosno ekonomske situacije.
- Društveno bodovanje koje dovodi do nepovoljnog postupanja u kontekstu nepovezanom s onim u kojem su podaci prikupljeni.
- Procjena rizika počinjenja kaznenog djela temeljena isključivo na profiliranju ili osobinama ličnosti.
- Neciljano prikupljanje slika lica s interneta ili nadzornih snimaka radi izgradnje baza za prepoznavanje.
- Prepoznavanje emocija na radnom mjestu i u obrazovanju, uz uske iznimke za medicinske i sigurnosne razloge.
- Biometrijska kategorizacija radi zaključivanja o osjetljivim svojstvima osobe.
Većina zabrana zvuči daleko od prosječne tvrtke dok se ne pogleda dvije stavke. Prepoznavanje emocija na radnom mjestu pojavljuje se u alatima za analizu poziva u kontakt centrima i u sustavima za praćenje angažmana zaposlenika. Biometrijska kategorizacija pojavljuje se u analitici video nadzora. Nijedno se ne nabavlja pod tim imenom.
Obveza osposobljenosti
Članak 4. traži da se osigura dostatna razina osposobljenosti u području umjetne inteligencije kod osoblja i drugih osoba koje u ime organizacije rade sa sustavima umjetne inteligencije. Razina se određuje prema tehničkom znanju tih osoba, njihovom iskustvu i obrazovanju te kontekstu u kojem se sustavi koriste.
Odredba je kratka i namjerno otvorena. Ne propisuje sate, program ni ispit. Traži da ljudi razumiju što alat radi, gdje griješi i što se s njim ne smije.
Kako je ispuniti bez zasebnog programa
U organizacijama koje već imaju program podizanja svijesti o sigurnosti, ovo je dopuna, ne novi projekt:
- Interna pravila korištenja - što se smije unositi u vanjske alate, a što ne. Ovo je najkraći put do najveće koristi.
- Kratka edukacija po ulozi. Onaj tko alat koristi za pripremu teksta i onaj tko ga koristi u odlučivanju o ljudima ne trebaju isti sadržaj.
- Konkretni primjeri pogrešaka. Izmišljeni podaci prikazani uvjerljivo, pristranost u podacima za treniranje, lažno samopouzdanje modela.
- Evidencija. Tko je kada prošao edukaciju. Bez zapisa obveza je neprovjerljiva, isto kao i kod mjera iz Uredbe o kibernetičkoj sigurnosti.
Preklapanje s ostalim obvezama
Zapis o edukaciji koji nastane ovdje istovremeno hrani mjeru 5 iz Priloga II. Uredbe o kibernetičkoj sigurnosti, koja traži podizanje svijesti zaposlenika. Interna pravila korištenja dodiruju i zaštitu podataka, jer je unos osobnih podataka u vanjski alat obrada s vlastitom pravnom osnovom.
To je opći obrazac koji se ponavlja: propisi su različiti, dokazna baza je zajednička.
Ovaj tekst je informativan pregled, ne pravni savjet. Točan doseg zabranjenih praksi i način primjene obveze osposobljenosti ovise o konkretnim okolnostima i o smjernicama koje se objavljuju na razini Unije.
Izvori
Ne znate gdje stojite?
Pola sata razgovora i ništa vas ne obvezuje. Kad završimo, znate što trebate napraviti i kojim redom.