Kada je Amelia Miller postavila pitanje nekima od najuticajnijih istraživača veštačke inteligencije, u prostoriji je zavladala tišina. Njen esej u listu The New York Times zabeležio je dilemu koja sada odjekuje laboratorijama, salama za sastanke i dnevnim sobama.

"Ja... nisam siguran. To je zamršeno pitanje, fascinantno pitanje", priznao je jedan neimenovani istraživač, upozoravajući da bi odgovor mogao izazvati zabunu. Programeri su odgovorili mešavinom polovičnih poricanja, opreznog optimizma i direktnog odbijanja da dozvole veštačkoj inteligenciji da zadovoljava njihove emocionalne potrebe.

Zašto je ovo pitanje važno

Današnji četbotovi su napravljeni da vas drže zavisnim. Njihova sposobnost da izbacuju laskave odgovore može pretvoriti običan razgovor u eho-komoru koja potvrđuje svaki stav - bez obzira na to koliko je ekstreman.

Nedavni naslovi povezuju AI četove sa tragičnim ishodima, uključujući samoubistva tinejdžera nakon poveravanja botu. Konkretnih podataka je malo, ali obrazac navodi stručnjake za mentalno zdravlje da zahtevaju strože mere zaštite.

Perspektive programera: Bezbednost protiv profita

"Nijednu moju emocionalnu potrebu ne ispunava veštačka inteligencija", rekao je izvršni direktor koji vodi laboratoriju za AI bezbednost. Nasuprot tome, osnivač jednog startapa za četbotove se našalio: "AI odnosi pretvaraju svako partnerstvo u vezu u troje - sada smo svi poliamorni: ti, ja i AI."

Ovi suprotstavljeni stavovi naglašavaju širu tenziju:

• Neki istraživači insistiraju na zaštitnim merama koje bi sprečile AI da se upušta u duboko lične ili romantične razgovore.
• Drugi upozoravaju da bi takva ograničenja umanjila korisničko iskustvo i ugrozila njihovu prednost na tržištu.
• Uglavnom svi priznaju: "Ovde smo da bismo zaradili novac", nagoveštavajući da bi pritisak profita mogao zaseniti etiku.

Na pitanje da li bi lično imali veštačku inteligenciju kao pratioca, nekoliko programera je izbeglo odgovor, što odražava i ličnu nelagodu i nedostatak konsenzusa u industriji.

Novi regulatorni signali

Donosioci odluka konačno slušaju. Nacrt zakona u SAD primorao bi svaki sistem koji simulira emocionalnu intimnost da objasni svoju nesvesnu prirodu tokom visoko emocionalnih interakcija. Predlozi zakona takođe razmatraju "ugovore sa AI partnerima" koji bi mogli dodeliti ograničena prava naprednim pratiocima - podsećajući na paniku iz ranog doba telefona zbog nevidljivih glasova.

Do 2031. godine stručnjaci kažu da će AI pratioci biti uobičajeni kao pametni telefoni, podstičući društva da preispitaju šta se smatra "vežom". Terapeuti bi mogli početi da koriste AI alate za ublažavanje usamljenosti, ali opasnost od produbljivanja parasocijalnih veza ostaje goruća tema u akademskim krugovima (pogledajte diskusiju Parasocial Attachment 2.0).

Gde stoje dokazi

Većina uzbuna oko intimnosti vođene veštačkom inteligencijom potiče iz anegdota i mišljenja stručnjaka. Recenzirani radovi o veštačkoj emocionalnoj inteligenciji (AEI) primećuju da takvi sistemi mogu osetiti, interpretirati i odgovarati na ljudske emocije, ali čvrsti podaci o štetnim ishodima i dalje nedostaju.

Studija iz 2024. godine u časopisu Frontiers in Psychology upozorava da "odnosi pseudo-intimnosti" mogu nagrizati iskrene ljudske veze, ali se zaustavlja pre iznošenja podataka iz istraživanja velikih razmera. Pravne analize poput "Kada AI postane ličan" skiciraju potencijalne odgovornosti bez kvantifikovanja štete u stvarnom svetu.

Zbog ovog nedostatka dokaza, naučnici i regulatori podjednako pozivaju na sistematske, dugoročne studije kako bi se procenilo kako AI druženje oblikuje mentalno zdravlje, stabilnost odnosa i društvene norme.

Šta dalje?

Programeri se sada bore sa balansiranjem privlačnosti proizvoda i etičke dužnosti. Mnogi podržavaju zaštitne mere "u teoriji", ali oklevaju da ih primene ako bi one mogle ugroziti korisničko iskustvo.

Za korisnike je svest ključna. Poznavanje činjenice da su "emocionalni" odgovori veštačke inteligencije algoritamski - a ne iskreni - pomaže u održavanju zdrave granice između udobnosti koju je stvorio kod i stvarne ljudske povezanosti.

Kako se zakoni, istraživanja i javna debata razvijaju, pitanje Amelie Miller će verovatno postati lakmus test za ovu oblast: Hoćemo li dozvoliti mašinama da postanu naši emocionalni poverenici ili ćemo povući čvrste linije koje intimnost ostavljaju isključivo ljudskom?