AI i robotika

Šefica robotike u kompaniji OpenAI, Kejtlin Kalinovski, napušta kompaniju zbog ugovora sa Pentagonom.

TL;DR - Kratak sažetak

  • Rizik: Ubrzani ugovor kompanije OpenAI sa Pentagonom izaziva zabrinutost povodom upravljanja nadzorom i autonomnim oružjem, što je već dovelo do odlaska članova najvišeg rukovodstva.
  • Uticaj: Ostavka Kejtlin Kalinovski (Caitlin Kalinowski) ukazuje na unutrašnja neslaganja, a korisnici burno reaguju – broj deinstalacija aplikacije ChatGPT skočio je za 295%, dok mnogi prelaze na Anthropic-ov Claude.
  • Izgledi: OpenAI navodi da postavlja tehničke zaštite i „crvene linije“, ali bi ovaj događaj mogao podstaći aktivizam zaposlenih i pojačati pritisak javnosti na saradnju AI sektora i vojske.

Šefica robotike u kompaniji OpenAI podnela ostavku nakon ugovora sa Pentagonom

Kejtlin Kalinovski (Caitlin Kalinowski) objavila je u subotu da se povlači sa mesta šefice odeljenja za robotiku i potrošački hardver u kompaniji OpenAI, što je uzdrmalo debate o veštačkoj inteligenciji i nacionalnoj bezbednosti. Pre dolaska u OpenAI, radila je na razvoju naočara za proširenu stvarnost u kompaniji Meta, a timu se pridružila u novembru 2024. godine. Navela je da odlazi zbog „principa, a ne ljudi“.

„AI može pomoći u očuvanju bezbednosti zemlje, ali špijuniranje Amerikanaca bez sudskog naloga i prepuštanje oružju da deluje samostalno predstavljaju linije koje su zahtevale dublju debatu“, napisala je Kalinovski na društvenim mrežama.

Njen odlazak usledio je samo nekoliko dana nakon što je OpenAI potpisao kontroverzni ugovor sa Ministarstvom odbrane SAD. Ugovor omogućava modelima kompanije OpenAI rad unutar poverljivih vojnih sistema, ali kompanija tvrdi da je postavila „crvene linije“ koje zabranjuju domaći nadzor i potpuno autonomno oružje. Portparol kompanije OpenAI je dodao:

„Verujemo da naš sporazum sa Pentagonom stvara održiv put za odgovornu upotrebu veštačke inteligencije u svrhe nacionalne bezbednosti. Postavili smo jasne crvene linije: bez domaćeg nadzora i bez autonomnog oružja“, izjavio je portparol.

Kritičari – uključujući i samu Kalinovski – smatraju da je ugovor sklopljen ishitreno i da mu nedostaju tehničke i regulatorne zaštite neophodne za primenu u situacijama gde su ulozi ovako visoki. U naknadnoj objavi na mreži X, ona je istakla da je „objava bila ishitrena, bez definisanih zaštitnih mera“, definišući to prvenstveno kao problem upravljanja.

Ovaj potez kompanije OpenAI deo je šire borbe za prevlast u industriji. U martu su pregovori Pentagona sa kompanijom Anthropic propali, nakon čega je Ministarstvo odbrane označilo Anthropic kao „rizik za lanac snabdevanja“. Anthropic je najavio da će tu oznaku osporiti na sudu, dok cloud giganti – Microsoft, Google i Amazon – nastavljaju da nude Anthropic-ov model Claude civilnim korisnicima.

Posledice su već vidljive u podacima o korisnicima. Interna analitika koju citira TechCrunch pokazuje da je stopa deinstalacije ChatGPT-a skočila za 295% nakon što je ugovor sa Pentagonom postao javan. Istovremeno, Anthropic-ov Claude se popeo na vrh američkog App Store-a, potisnuvši ChatGPT na drugo mesto.

Rukovodstvo kompanije OpenAI navodi da će nastaviti razgovore sa zaposlenima, regulatorima, grupama civilnog društva i globalnom zajednicom kako bi se rešile ove nedoumice. Ostaje da se vidi da li će ti razgovori dovesti do stvarnih promena politike ili će se sve završiti na PR potezima.

Za sada, odlazak Kalinovski služi kao snažan podsetnik na to da su programeri AI sistema sve dublje uvučeni u etička pitanja vojnog angažmana. Druge firme pažljivo prate kako će se OpenAI nositi sa partnerstvom sa Pentagonom, a ovaj incident mogao bi oblikovati buduće korporativne odluke o vojnim ugovorima i unutrašnjim mehanizmima kontrole koji su neophodni da bi se takva saradnja držala u etičkim okvirima.

🔮 Predviđanja futuriste

Predviđanja za 2029. godinu:

  • OpenAI bi mogao da se suoči sa odlivom vrhunskih talenata ka nezavisnim laboratorijama ili nevladinim organizacijama, jer stručnjaci teže radnim okruženjima sa jasnijim etičkim okvirima, što bi moglo usporiti kompanijske planove za razvoj robotike.
  • Partnerstvo između Pentagona i kompanije OpenAI moglo bi podstaći stroži državni nadzor nad naoružanjem zasnovanim na veštačkoj inteligenciji, što bi potencijalno dovelo do novih regulativa koje ograničavaju brzu primenu autonomnih sistema u poverljivim okruženjima.
  • Ukoliko poverenje javnosti u AI rešenja namenjena potrošačima opadne, korisnici bi mogli preći na alternative poput Anthropic-ovog Claude-a, što bi potencijalno smanjilo upotrebu ChatGPT-a i preoblikovalo tržište generativnih AI usluga.