Uredba (EU) 2024/1689, poznata kao Akt o umjetnoj inteligenciji, prvi je sveobuhvatan propis te vrste. Njezin je pristup jednostavniji nego što se čini iz opsega teksta: obveze ne ovise o tome kakav je model, nego o tome za što se koristi i koga može oštetiti.
Četiri razine
| Razina | Što obuhvaća | Posljedica |
|---|---|---|
| Neprihvatljiv rizik | Zabranjene prakse | Zabrana primjene |
| Visok rizik | Sustavi u osjetljivim područjima primjene i sigurnosne komponente proizvoda | Najveći skup obveza |
| Ograničen rizik | Sustavi koji komuniciraju s ljudima ili proizvode sadržaj | Obveza transparentnosti |
| Minimalan rizik | Sve ostalo | Bez posebnih obveza |
Većina onoga što organizacije koriste svakodnevno završi u zadnje dvije kategorije. To ne znači da posla nema - znači da je posao drukčiji.
Model koji predlaže tekst je minimalan rizik kad piše sažetak sastanka, a visokorizičan kad se koristi u odabiru kandidata za zapošljavanje. Klasifikacija se ne radi po alatu nego po slučaju uporabe. Organizacija koja ima jedan alat i deset načina korištenja ima deset stavki za procjenu, ne jednu.
Zašto se počinje popisom
Prvo pitanje nije "je li ovo visokorizično". Prvo pitanje je koje sve sustave uopće koristimo. Odgovor je gotovo uvijek nepotpun, iz tri razloga:
- Ugrađene funkcije. Postojeći poslovni softver dobiva AI funkcije nadogradnjom, bez odluke o nabavi.
- Alati koje su uveli sami zaposlenici. Besplatna verzija alata koji netko koristi za pripremu dokumenata ne prolazi kroz nabavu ni kroz informatiku.
- Usluge dobavljača. Vanjski pružatelj koji obrađuje vaše podatke uz pomoć umjetne inteligencije uvodi je i u vaš lanac, bez vaše odluke.
Popis se zato ne dobiva upitom informatici nego istim postupkom kojim se radi inventar imovine: obilaskom procesa i razgovorom s vlasnicima.
Uloga određuje obveze
Uredba razlikuje uloge, a najvažnija je razlika između onoga tko sustav razvija i stavlja na tržište i onoga tko ga koristi. Većina organizacija je u drugoj skupini, s bitno manjim skupom obveza - ali ne s nikakvim.
Uloga se, međutim, može promijeniti neopreznim potezom. Organizacija koja preuzme tuđi sustav, stavi na njega svoje ime ili ga bitno izmijeni može preuzeti i teže obveze. To je razlog zašto odluka o prilagodbi modela nije samo tehnička.
Što napraviti sada
- Napravite popis. Sustav, vlasnik, slučaj uporabe, podaci koji ulaze, odluka na koju utječe.
- Označite slučajeve uporabe koji dodiruju ljude. Zapošljavanje, ocjenjivanje, pristup uslugama, nadzor zaposlenika - to su područja gdje razina raste.
- Provjerite ulazne podatke. Ako ulaze osobni podaci, usporedno se primjenjuje Opća uredba, s vlastitim zahtjevima za osnovu obrade i procjenu učinka.
- Uspostavite pravila prije nego što ih zatreba. Interna pravila korištenja, s jasnim popisom onoga što se ne smije unositi u vanjske alate, spriječit će više problema nego bilo koja kasnija analiza.
Akt o umjetnoj inteligenciji primjenjuje se postupno, s odredbama koje stupaju na snagu u različitim rokovima. Zabranjene prakse i obveza osposobljenosti primjenjuju se prvi, obveze za visokorizične sustave kasnije. Provjerite koji se rok odnosi na vašu situaciju prije nego što se planira dinamika projekta.
Izvori
Ne znate gdje stojite?
Pola sata razgovora i ništa vas ne obvezuje. Kad završimo, znate što trebate napraviti i kojim redom.