Moram li dokumentirati ChatGPT i slične alate koje koristim?

Umjetna inteligencija sve više ulazi u svakodnevni život i poslovanje tvrtki. Ne koristi se samo u velikim tehnološkim sustavima, nego i u alatima za pisanje tekstova, prevođenje, obradu podataka, korisničku podršku, marketing, prodaju, e-commerce, administraciju i drugo. Mnoge tvrtke zato već koriste AI, iako nemaju službeno uveden “AI projekt” ili vlastiti AI proizvod.

U većini slučajeva maloj ili srednjoj tvrtki neće trebati veliki pravni dokument ili složena tehnička provjera samo zato što zaposlenici koriste ChatGPT, Copilot, Gemini ili slične alate. No preporučljivo je napraviti osnovnu internu provjeru: koje se AI alate koristi, tko ih koristi, u kojim procesima i s kojim podacima točno.

EU AI Act razlikuje različite uloge, uključujući providere, odnosno one koji razvijaju ili stavljaju AI sustave na tržište, i deployere, odnosno one koji AI sustave koriste u vlastitom poslovanju. Mala tvrtka koja koristi ChatGPT uglavnom nije u istoj poziciji kao tvrtka koja razvija vlastiti AI proizvod. Ipak, to ne znači da korištenje AI alata treba ostati potpuno nevidljivo ili nedokumentirano.

Za većinu uobičajenih poslovnih korištenja prvi korak nije komplicirana pravna analiza, nego jednostavna evidencija i jasna interna pravila. Tvrtka bi trebala znati koriste li zaposlenici AI za javne tekstove, interne dokumente, komunikaciju s klijentima, analizu podataka ili donošenje odluka. Posebno je važno definirati smiju li se u AI alate unositi osobni podaci, povjerljivi poslovni podaci, podaci klijenata ili dokumenti koji nisu namijenjeni vanjskim sustavima.

EU AI Act uvodi pristup temeljen na riziku. Što je veći mogući utjecaj AI sustava na sigurnost, prava i životne odluke ljudi, to su veće obveze. Sustavi niskog ili minimalnog rizika imaju manje zahtjeva, dok visokorizični AI sustavi traže znatno strožu kontrolu, dokumentaciju, nadzor i odgovorno korištenje. Posebna pravila postoje i za opće AI modele, odnosno general-purpose AI modele, ali se ta pravila u najvećoj mjeri odnose na njihove providere, dakle organizacije koje takve modele razvijaju ili stavljaju na tržište.

Pitanje za male i srednje velike tvrtke nije: “Koristimo li ChatGPT?” Pravo pitanje je: “Za što ga koristimo, tko ga koristi, koje podatke unosimo i može li rezultat utjecati na druge ljude?”

Zbog toga je dobro imati barem osnovnu dokumentaciju: popis AI alata, opis načina korištenja, vrstu podataka koji se unose, osnovna pravila za zaposlenike i osobu odgovornu za nadzor korištenja.