TL;DR - Kratak rezime

Rizik: Upotreba rojeva autonomnih dronova kontrolisanih glasom mogla bi da zamagli granicu između ljudskih odluka i smrtonosne veštačke inteligencije, što izaziva etičku, pravnu i bezbednosnu zabrinutost.
Uticaj: Ako SpaceX uspe u ovoj nameri, Pentagon bi mogao da ubrza uvođenje tehnologije rojeva, što bi moglo da preoblikuje borbene taktike i uzdrma tržište odbrambene tehnologije.
Izgledi: Pentagonov konkurs vredan 100 miliona dolara još uvek je u ranoj fazi; interesovanje kompanije SpaceX pokazuje jasnu nameru, ali konačni ishod i efekti na zvaničnu politiku ostaju neizvesni.

SpaceX se približava ugovoru sa Pentagonom za rojeve dronova, uprkos ranijem protivljenju veštačkoj inteligenciji

Novi konkurs Pentagona, vredan do 100 miliona dolara, privukao je pažnju kompanije SpaceX i njenog nedavno integrisanog AI ogranka, xAI. Izazov, koji su prošlog meseca pokrenuli Defense Autonomous Warfare Group (DAWG) i Defense Innovation Unit, zahteva od timova da razviju roj autonomnih dronova kontrolisan glasom, koji bi trenutno izvršavao usmene komande.

Portal Futurism napominje da cilj nije isključivo izviđanje. Izvori sugerišu da su dronovi namenjeni ofanzivnim misijama, pa bi interakcija čoveka i mašine mogla direktno da utiče na ubojitost i efikasnost na bojnom polju.

Od obećanja do ponude

Elon Musk se u prošlosti protivio smrtonosnom autonomnom oružju. On je 2017. godine potpisao otvoreno pismo pozivajući Ujedinjene nacije na zabranu takvog oružja, dok se 2018. godine, u okviru instituta Future of Life, obavezao da "odluka o oduzimanju ljudskog života nikada ne bi trebalo da bude poverena mašini". Ipak, čini se da je mogućnost dobijanja unosnog državnog ugovora promenila njegovu računicu.

Bloomberg navodi da se SpaceX i xAI — koji sada tesno sarađuju — nadmeću na Pentagonovom konkursu za rojeve dronova. Konkurs se odvija u pet faza, počev od softverskih prototipova pa do testiranja u realnim uslovima. Iako je koordinisano kretanje dronova već dokazana tehnologija, razvoj potpuno autonomnog roja koji reaguje na glas i može samostalno da napada ciljeve pokazao se kao "izuzetno težak" zadatak, navode izvori iz Pentagona.

Tehničke prepreke i zabrinutost oko AI-ja

Današnji veliki jezički modeli (LLM) i dalje su skloni "halucinacijama", odnosno davanju samouverenih, ali netačnih odgovora. Eksperti upozoravaju da bi oslanjanje na generativni AI za smrtonosne komande moglo da izazove nepredvidivo ponašanje, naročito u borbenim situacijama visokog rizika.

Pored toga, glasovne komande uvode dodatni nivo složenosti. Pretvaranje izgovorenih reči u precizne akcije dronova u deliću sekunde zahteva besprekornu obradu prirodnog jezika, veze sa ultra-niskim kašnjenjem i napredne sigurnosne mehanizme kako bi se sprečilo pogrešno tumačenje naređenja.

Poslovne implikacije

Učešće kompanije SpaceX označava zaokret u odnosu na njene uobičajene ugovore, koji su uglavnom fokusirani na usluge lansiranja i vojne satelitske sisteme. Iako firma već poseduje sertifikat za lansiranje vojnih tereta klase EELV u SAD, naoružavanje sopstvene tehnologije predstavljalo bi ulazak na potpuno novu i kontroverznu teritoriju.

U međuvremenu, xAI je sklopio ugovor vredan 200 miliona dolara sa američkom vojskom za svoj Grok chatbot, što ukazuje na širi plan integracije veštačke inteligencije u odbrambene platforme. Oba poteza se dešavaju usred glasina o inicijalnoj javnoj ponudi (IPO) kompanije SpaceX, čija bi vrednost mogla da premaši 1,25 biliona dolara.

Regulatorni i etički izgledi

Ako SpaceX osigura ovaj ugovor, to će naglasiti rastući trend: privatne vazduhoplovne firme sve agresivnije jure za odbrambenim budžetima namenjenim oružju koje pokreće AI. To otvara ozbiljna pitanja o odgovornosti, transparentnosti i tome da li trenutne međunarodne norme — koje je Musk nekada vatreno zagovarao — i dalje imaju ikakvu težinu.

Za sada, Pentagonov konkurs ostaje poverljiv, a konačne specifikacije roja dronova nisu dostupne javnosti. Ono što je jasno jeste da spoj glasovno kontrolisanog AI-ja i smrtonosne autonomije izaziva podjednako uzbuđenje i oprez, kako u odbrambenim, tako i u tehnološkim krugovima.

Predviđanja za 2029. godinu:

Ako SpaceX predstavi rojeve dronova kojima se upravlja glasom, mogli bismo očekivati talas regulatornih sporova, pa čak i nove međunarodne sporazume usmerene na dodatno pooštravanje ograničenja za smrtonosno autonomno oružje.
Ukoliko se ovi rojevi pokažu uspešnim, ratna doktrina bi se mogla promeniti preko noći – komandanti bi izdavali glasovne naredbe koje se pretvaraju u sinhronizovane napade, čime se smanjuje potreba za letelicama sa posadom i podstiču rivali da ubrzaju razvoj sopstvenih arsenala zasnovanih na AI tehnologiji.
Tržište bi se moglo brzo transformisati: milijarde iz odbrambenih ugovora mogle bi se sliti u kompanije koje spajaju raketnu ekspertizu sa generativnim AI rešenjima, što bi dovelo do naglog skoka vrednosti akcija u vazduhoplovno-kosmičkom sektoru i primoralo investitore da preispitaju etičke rizike ulaganja u oružje na AI pogon.

SpaceX menja stav i ulazi u trku za ugovor vredan 100 miliona dolara za rojeve dronova.