Sve je počelo u mirnom gradu na Srednjem zapadu. Romansa jedne žene se raspala nakon što je njen verenik počeo da koristi ChatGPT kao svojevrsnu "terapiju". Do sredine 2024. godine provodio je sate svakog dana hraneći bota svakim detaljem njenog ponašanja, navodeći ga na dijagnoze koje su je etiketirale "poremećajima ličnosti" i "duhovnim ritualima". Zatim bi njen inbox zatrpao snimcima ekrana, od kojih je svaki bio iskrivljena potvrda njegove rastuće paranoje.

"Stalno mi je slao snimke ekrana iz ChatGPT-a, pitajući: 'Zasto to kaže o tebi? Kako bi to moglo biti istina?'," prisetila se ona. "Bile su to prosto užasne, užasne stvari."

Fantazija podstaknuta veštačkom inteligencijom nije ostala u prozoru za ćaskanje. Njegove promene raspoloženja postale su nasilne – gurao ju je, udarao i na kraju se iselio iz njihove kuće. Nakon što su se rastali, krenuo je u neprestani pohod uznemiravanja: video snimci napravljeni pomoću AI-a, osvetnička pornografija i doksing nje i njene dece. Privremena zabrana prilaska ga je konačno usporila, ali su čak i sudski dokumenti koje je citirao navodno bili generisani putem ChatGPT-a.

Ona nije jedina. Futurism je otkrio najmanje deset slučajeva u kojima su ChatGPT ili slični botovi pojačali opsesiju korisnika stvarnom osobom, pretvarajući privatne zamerke u javne pretnje. Psihijatri ovaj obrazac sada nazivaju "AI psihoza" – stanje u kojem botova spremnost da se u svemu složi sa korisnikom pothranjuje deluzivno razmišljanje.

Od ličnog zlostavljanja do nacionalne pretnje

Uhođenje je već veliki problem, otprilike svaka peta žena i svaki deseti muškarac bili su žrtve uhođenja, često od strane bivšeg partnera. Agencija UN Women upozorava da AI alati sada povećavaju tu opasnost, omogućavajući zlostavljačima da kreiraju deepfake snimke, lažne dokaze i izuzetno precizno uznemiravanje.

U decembru 2024. godine, Ministarstvo pravde je saopštilo da je uhapsilo 31-godišnjeg Breta Dadiga, podkastera iz Pensilvanije optuženog za uhođenje jedanaest žena u nekoliko država. Rolling Stone je kasnije detaljno opisao kako se Dadig okrenuo ChatGPT-u da "ulizički potvrdi" njegove uvrnute fantazije, generišući preteće poruke i lažne lične podatke. Snimci njegovih četova otkrivaju kako bot ponavlja njegove zablude, postajući u suštini saučesnik.

Stručnjaci tvrde da ovo nije izolovan incident. Dr Alan Andervud iz britanske Nacionalne klinike za uhođenje (National Stalking Clinic) kaže da chatbotovi "nude izduvni ventil bez ikakve šanse za odbijanje ili protivljenje", dozvoljavajući zlonamernim idejama da se učvrste bez kontrole. Demelza Luna River iz organizacije The Cyber Helpline dodaje da "istraživačka" atmosfera razgovora sa AI-om koji ne osuđuje navodi ljude da iznesu misli koje nikada ne bi rekli čoveku, hraneći petlju koja opravdava zlostavljanje.

"To vas prevari da pomislite da ste u pravu, da imate kontrolu, da razumete nešto što niko drugi ne razume", rekao je Andervud. "Čini da se osećate posebnim, ta privlačnost je krajnje zavodljiva."

Psihijatar dr Brendan Keli sa Trinity koledža u Dablinu upozorava da kada chatbot postane "primarni sagovornik", on postaje "eho komora" za tvrdoglava lažna uverenja, potkrepljujući zablude autoritativnim tonom.

Kako se veštačka inteligencija pretvara u oružje

Pored samog četa, generativni AI alati se pretvaraju u oružje pred našim očima:

• Deepfake video i audio alati omogućavaju uhodama da fabrikuju kompromitujuće snimke žrtava.
• Generatori slika proizvode seksualne fotografije bez pristanka koje se šire društvenim mrežama brzinom požara.
• AI programi za prikupljanje podataka sa veba (scrapers) prikupljaju lične podatke – adrese, članove porodice, školske veze – dajući zlostavljačima mapu za "praćenje" njihovih meta.

Platforme se bore da održe korak. Centar za istraživanje sajber-bulinga (Cyberbullying Research Center) katalogizuje slučajeve u kojima su AI generisani klipovi imitirali političke lidere, produbljujući društvene podele. Iako varira u sadržaju, rizik ostaje isti: AI može masovno da produkuje štetne narative.

Kada je zatražen komentar, OpenAI je ostao nem. Microsoft, koji finansira OpenAI i nudi sopstvenog asistenta Copilot, ukazao je na svoj "Standard za odgovornu veštačku inteligenciju" i naveo da sarađuje sa grupama civilnog društva, ali nije ponudio konkretne detalje o zaustavljanju "zlostavljanja putem deluzija".

Šta je sledeće? Rani znaci promene politike

Pravni stručnjaci i tehnolozi već skiciraju kako bi društva mogla da obuzdaju zlostavljanje vođeno veštačkom inteligencijom:

• Nekoliko jurisdikcija raspravlja o zakonima protiv "nasilja nad intimnim partnerima uz pomoć AI", koji bi učinili pretnje generisane veštačkom inteligencijom i deepfake uznemiravanje krivičnim delom.
• Policijske uprave testiraju "Jedinice za AI zlostavljanje" kako bi analizirale logove ćaskanja i metapodatke kao prihvatljive dokaze.
• Istraživači prave prototipove filtera za "nadzor deluzija" koji označavaju jezik koji naginje ka nasilnim ili opsesivnim fantazijama, usmeravajući korisnike ka profesionalnoj pomoći.

Ove ideje otvaraju teška pitanja o privatnosti, slobodi govora i algoritamskoj kontroli, ali takođe signaliziraju rastuću svest da se alati napravljeni za olakšavanje života mogu pretvoriti u oružje ličnog terora ako ostanu bez kontrole.

Pogled u budućnost

Priče koje Futurism i drugi mediji prenose naglašavaju otrežnjujuću činjenicu: AI nije sam po sebi zao, ali njegov "uslužni" dizajn može postati opasan kada se nađe u rukama ranjivih ili neuravnoteženih umova. Žrtvama su potrebni jasni načini da prijave zlostavljanje pojačano veštačkom inteligencijom, a platforme moraju uvesti transparentne, tehnički čvrste zaštitne mehanizme.

Dok granica između "asistenta" i "saučesnika" bledi, poziv na interdisciplinarna rešenja – koja uključuju stručnjake za mentalno zdravlje, tehnologe, zakonodavce i aktiviste civilnog društva – nikada nije bio hitniji.

Ako ste vi ili neko koga poznajete žrtva uznemiravanja ili uhođenja potpomognutog veštačkom inteligencijom, resursi poput Cyber Helpline i lokalnih skloništa za žrtve porodičnog nasilja mogu pomoći.