Ko je odgovoran kada automatizovani sistem otkaže?

FMCG sektori i logistika preoblikuju se veštačkom inteligencijom (AI), mašinskim učenjem (ML), robotikom i automatizacijom. Istovremeno, oni uvode nova pravna pitanja: ko je odgovoran kada automatizovani sistem otkaže, kako treba obezbediti bezbednost, kako se mora postupati sa podacima i šta se dešava kada algoritmi proizvedu nepravedne ili štetne rezultate? I u Evropskoj uniji i u Ujedinjenom Kraljevstvu zakonodavci i regulatori sada prerađuju pravne okvire kako inovacije u lancu snabdevanja ne bi prevazišle odgovornost. Centralno pitanje je odgovornost kada AI i roboti prouzrokuju štetu. Prema sadašnjem zakonu, sami AI sistemi ne mogu biti tuženi; odgovornost pada na ljudske pravne subjekte kao što su proizvođači, uvoznici, operateri ili poslodavci. U praksi to znači da FMCG kompanija koja koristi magacinski robot vođen veštačkom inteligencijom, alat za rutiranje ili autonomno vozilo za isporuku, može biti odgovorna ako nešto pođe naopako, čak i ako je neposrednu „odluku“ doneo softver. **Zakonska pravila igre u Evropi** Evropska unija otišla je najdalje. Njen Zakon o veštačkoj inteligenciji, usvojen 2024. i postepeno uveden tokom narednih godina, prva je sveobuhvatna regulativa za veštačku inteligenciju. On primenjuje pristup zasnovan na riziku, klasifikujući upotrebu AI u kategorije od minimalnog do visokog rizika i namećući obaveze u skladu s tim. Mnoge primene u lancu snabdevanja verovatno će biti visokorizične, na primer AI koja se koristi kao bezbednosna komponenta u mašinama, AI koja kontroliše autonomna vozila u logistici ili AI sistemi koji se koriste za nadzor i upravljanje radnicima. Za ove sisteme, davaoci usluga i korisnici moraju da sprovedu formalno upravljanje rizikom, rigorozno testiranje, robusno upravljanje podacima radi izbegavanja pristrasnosti, obimnu tehničku dokumentaciju, mere transparentnosti i značajan ljudski nadzor. Paralelno, EU modernizuje svoj režim odgovornosti za proizvode. Revidirana Direktiva o odgovornosti za proizvode, dogovorena 2024, eksplicitno uključuje softver, veštačku inteligenciju i digitalne usluge u definiciju „proizvoda“. Ključno je to što zakon prihvata da se AI-jem omogućeni proizvodi mogu menjati nakon što se plasiraju na tržište. Revidirana pravila proširuju krug potencijalno odgovornih strana kako bi uključila uvoznike, distributere, pa čak i kompanije koje značajno modifikuju proizvode, kao što je instaliranje novog AI softvera na postojeći hardver. Ona, takođe, uvode pretpostavke i prava na pristup tehničkim dokazima koji pogoduju podnosiocima zahteva u složenim AI slučajevima, olakšavajući oštećenim stranama dokazivanje defekta i uzročno-posledične veze. **Zakonodavstvo u Velikoj Britaniji** Opšta uredba o zaštiti podataka (GDPR) i ekvivalentni režim Ujedinjenog Kraljevstva nameću stroge kontrole nad obradom ličnih podataka, što je ključno za mnoge alate za predviđanje i optimizaciju. AI sistemi visokog rizika, prema Zakonu o veštačkoj inteligenciji, već moraju biti dizajnirani uzimajući u obzir usklađenost sa GDPR-om. Direktiva NIS2 i predstojeći Zakon o sajber-otpornosti pooštravaju pravila sajber-bezbednosti, čineći bezbedan dizajn, održavanje i prijavljivanje incidenata zakonskom obavezom za mnoge operatere i dobavljače. Nova regulativa o mašinama, koja će se primenjivati od 2027, ažurira bezbednosne zahteve za mašine koje uključuju AI ili digitalnu kontrolu. Ujedinjeno Kraljevstvo nema direktan ekvivalent Zakonu o AI i umesto toga prati „proinovativni“ pristup koji daje prioritet fleksibilnosti. Vladina Bela knjiga o regulisanju AI iz marta 2023. utvrđuje međusektorske principe poput bezbednosti, transparentnosti i pravičnosti, ali sprovođenje u velikoj meri prepušta postojećim regulatorima. Kancelarija komesara nadgleda upotrebu ličnih podataka od AI prema britanskom GDPR-u i Zakonu o zaštiti podataka. Izvršna služba za zdravlje i bezbednost primenjuje dugogodišnje obaveze bezbednosti na radu na novu robotiku i automatizovane sisteme. Uprava za konkurenciju i tržišta razmatra cene vođene veštačkom inteligencijom i tržišno ponašanje prema Zakonu o konkurenciji. Sudovi i dalje rešavaju sporove prema opštoj nepažnji, ugovornom pravu i zakonu o proizvodima. Međutim, zakon u Ujedinjenom Kraljevstvu nije statičan. Pravila o odgovornosti za proizvode su u fazi revizije. Osnovni statut, Zakon o zaštiti potrošača iz 1987, zasniva se na EU Direktivi iz 1985. i ne obuhvata jasno samostalni softver ili čisto digitalne AI sisteme. Pravni komentatori i vlada priznali su da možda ne štiti adekvatno ljude oštećene AI-jem i drugim novim tehnologijama. Godine 2025, Komisija za pravo pokrenula je projekat za razmatranje reformi. Opcije uključuju eksplicitno definisanje softvera i AI kao „proizvoda“, razjašnjavanje ko se smatra proizvođačem u složenim AI lancima snabdevanja i uvođenje dokaznih pretpostavki kako bi se pomoglo podnosiocima zahteva u dokazivanju defekta i uzročno-posledične veze. Preporuke koje se očekuju da stupe na snagu 2026. mogle bi dovesti do značajnih zakonskih promena, približavajući odgovornost Ujedinjenog Kraljevstva ažuriranom modelu EU, a istovremeno je prilagođavajući domaćim preferencijama. Ujedinjeno Kraljevstvo, takođe, ažurira specifične oblasti, posebno autonomna vozila. Zakon o automatizovanim i električnim vozilima iz 2018. već čini osiguravajuće kompanije primarno odgovornima za nesreće izazvane kada se vozilo samo vozi. Ovo je direktno relevantno za logističke i FMCG firme koje mogu rasporediti samoupravljajuće kombije ili kamione za isporuku. Za dronove, magacinske robote i druge autonomne uređaje, Velika Britanija se trenutno oslanja na postojeće zakone o vazduhoplovstvu i zdravlju i bezbednosti. Zakon o bezbednosti na radu ostaje u potpunosti primenljiv u eri robota i automatizovanih magacina. Poslodavci moraju da procene i ublaže rizike koje stvaraju roboti i AI-kontrolisana oprema, da obezbede obuku i adekvatne fizičke i proceduralne zaštitne mere. Sajber-bezbednost je postala deo bezbednosti i usklađenosti proizvoda jer mrežni uređaji i AI kontrolori mogu biti kompromitovani; neuspeh da se poprave poznate ranjivosti ili zaštite kontrolni sistemi može dovesti do regulatornih sankcija i građanske odgovornosti. **Kako kompanije obezbeđuju investicije?** Kompanije, koje kupuju sisteme vođenje veštačkom inteligencijom, revidiraju ugovore kako bi uključile garancije usklađenosti sa svim relevantnim zakonima, garancije performansi, nivoe usluge za vreme rada, detaljne obaveze prijavljivanja incidenata i jasna ograničenja ili obeštećenja u vezi sa AI-povezanim defektima. One, takođe, traže prava na transparentnost ili pristup reviziji, posebno kada moraju da pokažu usklađenost sa regulativama. Nasuprot tome, dobavljači tehnologije usavršavaju svoje uslove kako bi upravljali sopstvenom izloženošću. U EU, ugovorni aranžmani moraju se uskladiti s raspodelom odgovornosti u Zakonu o AI; u Velikoj Britaniji oni popunjavaju prazninu koju ostavlja odsustvo jedinstvenog AI zakona. Za kompanije, iz sektora robe široke potrošnje i logistike, praktična poruka je jasna. Veštačka inteligencija i automatizacija mogu doneti značajne konkurentske prednosti, ali dolaze s proširenim setom zakonskih dužnosti. U EU, firme moraju tretirati upravljanje AI-jem kao osnovnu funkciju usklađenosti, zajedno sa zaštitom podataka i bezbednošću proizvoda, sprovodeći procene rizika, dokumentaciju, ljudski nadzor i praćenje nakon puštanja na tržište za visokorizične sisteme. U Velikoj Britaniji kompanije ne treba da zavara odsustvo Zakona o AI; regulatori će primenjivati postojeće zakone protiv nebezbednih, diskriminatornih ili privatnost-narušavajućih upotreba AI, a na vidiku su i reforme pravila o odgovornosti. U oba sistema, oni koji rano investiraju u robusno upravljanje AI-jem, jasne ugovore, obuku osoblja i odgovarajuće osiguranje biće u najboljoj poziciji da iskoriste automatizaciju, a pritom upravljaju pravnim rizikom. Oni koji prihvate AI bez razumevanja ovih evoluirajućih pravnih okvira, rizikuju da postanu rani test-slučajevi na sudovima.