YouTube reklamni spot za paket AI alata PixVideo - AI Video Maker povučen je nakon što ga je britanska Uprava za standarde oglašavanja (ASA) ocenila kao „seksistički, štetan i potencijalno nezakonit“. Oglas iz januara prikazivao je „pre“ i „posle“ snimak mlade žene, sa crvenom škrabotinom preko stomaka koja nestaje u drugom kadru, uz naslov „Obrišite bilo šta“ i emotikon sa srcima u očima.

Zašto je ASA intervenisala

Osam gledalaca podnelo je žalbe, navodeći da oglas „seksualno objektivizuje žene“ i da bi mogao podstaći stvaranje „deepfake“ golotinje bez pristanka. U svojoj odluci, ASA je upozorila da oglas „odobrava digitalnu izmenu i izlaganje ženskih tela bez njihovog pristanka“ i napomenula da on učvršćuje štetne rodne stereotipe koji bi verovatno izazvali ozbiljnu uvredu javnosti.

„Budući da je oglas sugerisao da korisnici mogu koristiti aplikaciju za uklanjanje ženske odeće, smatrali smo da on promoviše digitalnu izmenu i izlaganje ženskih tela bez njihovog pristanka“, naveo je regulator.

ASA nije potvrdila da li je osoba na snimku stvarna ili generisana veštačkom inteligencijom, uz napomenu da takva provera „nije bila deo istrage“. Ipak, naglašeno je da sama implikacija takve funkcije krši standarde oglašavanja.

Odgovor PixVideo-a i naredni koraci

Saeta Tech, matična kompanija PixVideo-a, izjavila je da „razume zašto je oglas izazvao negativne reakcije“ i istakla interna pravila koja zabranjuju generisanje nagosti ili seksualno eksplicitnog sadržaja. Kompanija tvrdi da koristi automatizovane alate za detekciju kako bi sprečila kreiranje takvih slika. Nakon presude, Saeta Tech je pristala da trajno povuče oglas i obustavi sve reklamne aktivnosti dok ne preispita svoje marketinške poruke.

„Imamo jasna pravila koja zabranjuju generisanje golotinje bez pristanka“, rekao je portparol Saeta Tech-a za BBC. „Prezentacija oglasa, a ne stvarna namena našeg proizvoda, dovela je do nesporazuma.“

Pravni kontekst: Novi talas zabrana AI golotinje

Ova kontroverza se pojavila u trenutku kada britanska vlada radi na kriminalizaciji „nudification“ alata. U saopštenju iz decembra, zvaničnici su naveli da će novi propisi zabraniti kreiranje ili distribuciju AI softvera koji može menjati slike radi uklanjanja odeće, čime se proširuju postojeći zakoni o zloupotrebi intimnih snimaka i deepfake pornografiji.

Slične zabrinutosti pojavile su se i u drugim delovima sveta. Ranije ove godine, AI chatbot Grok Elona Muska korišćen je za preplavljivanje platforme X seksualizovanim slikama, što je primoralo Muska da blokira tu funkciju u regionima gde je takav sadržaj nezakonit. Ovaj događaj je dodatno naglasio globalne napore da se suzbije AI generisana golotinja bez pristanka.

Šta ovo znači za AI kreatore i oglašivače

Regulatori pooštravaju kontrolu nad AI funkcijama koje bi mogle biti zloupotrebljene za seksualnu eksploataciju. Programeri sada moraju da razviju snažne sisteme za moderaciju sadržaja i budu potpuno jasni u vezi sa pravilima korišćenja. Oglašivači, s druge strane, moraju osigurati da njihove promocije ne sugerišu zabranjene funkcije, čak i ako ih sam proizvod tehnički onemogućava.

Dok Velika Britanija definiše svoj novi zakon, a drugi regioni pažljivo prate situaciju, slučaj PixVideo-a služi kao upozorenje: jedan nepromišljen slogan poput „Obrišite bilo šta“ može dovesti do javne osude i ozbiljnog pravnog nadzora.