U utorak su Amazonovi inženjeri prisustvovali hitnom brifingu nakon niza zastoja koji su onesposobili kako onlajn prodavnicu, tako i AWS klaud platformu. U internom dopisu ovi incidenti su opisani kao događaji sa „velikim radijusom uticaja“, a mnogi od njih su povezani sa promenama koje su programeri uveli koristeći Amazonov sopstveni AI asistent zasnovan na generativnoj veštačkoj inteligenciji.

Prošle nedelje, šestočasovni prekid rada učinio je sajt i mobilnu aplikaciju nedostupnim, sprečivši kupce da završe kupovinu. Amazon je kasnije objasnio da je do kvara došlo usled neuspešne implementacije koda koji je delom generisala veštačka inteligencija. Dva problema u okviru AWS-a – na koja je ukazao Financial Times – povezana su sa istim internim AI alatom koji je obrisao čitava razvojna okruženja i ugasio aktivne servise.

Gde je nastao problem?

Na brifingu je rečeno da je osnovni uzrok „nova primena generativne veštačke inteligencije za koju još uvek nisu u potpunosti uspostavljene najbolje prakse i zaštitne mere“. Jednostavnije rečeno, inženjeri su testirali promene koda vođene veštačkom inteligencijom pre nego što je kompanija postavila čvrste okvire. Generativna veštačka inteligencija može da „halucinira“ kod, pogrešno protumači upite ili pokrene neželjene akcije – što su problemi koji postaju kritični kada dospeju u produkciju.

Viši potpredsednik Dejv Tredvel (Dave Treadwell), koji vodi Amazonove usluge e-trgovine, upozorio je svoj tim da „dostupnost sajta i pripadajuće infrastrukture u poslednje vreme nije na zadovoljavajućem nivou“. Naglasio je da problem nije u tome što AI radi samostalno, već u slaboj kontroli pristupa i nedostatku koraka za nadzor.

Nova pravila nadzora

Kao odgovor na ove događaje, Amazon pooštrava svoje interne protokole:

• Mlađi i inženjeri srednjeg nivoa sada moraju dobiti odobrenje seniora pre nego što bilo koji kod kreiran uz pomoć AI-a postane aktivan.
• Opcioni brifing o bezbednosti koji je vodio Tredvel postaće obavezan korak za sve buduće implementacije AI rešenja.
• Amazon će uložiti značajna sredstva u jačanje zaštitnih mehanizama i automatizovani nadzor kako bi se uočile neobične izmene generisane veštačkom inteligencijom pre nego što stignu do produkcije.

Kompanija ne odustaje od veštačke inteligencije u potpunosti; umesto toga, prelazi na hibridni model koji kombinuje brzinu AI podrške sa strožom ljudskom validacijom.

Kontekst: Otpuštanja i ciljevi za usvajanje AI-a

Pritisak za uvođenje strožih kontrola dolazi usred šire restrukturizacije. Amazon je nedavno najavio otpuštanja koja pogađaju 30.000 zaposlenih u korporativnom sektoru, dok je u klaud diviziji otpušteno još nekoliko stotina ljudi. Istovremeno, interni ciljevi nalažu agresivno usvajanje AI tehnologije: plan je da 80% programera koristi AI alate za programiranje barem jednom nedeljno.

Povećanje upotrebe veštačke inteligencije uz smanjenje broja programera pokreće pitanja o sposobnosti Amazona da održi pouzdanost sistema dok istovremeno teži automatizaciji radi uštede. Analitičari ističu da su uštede omogućene veštačkom inteligencijom već dovele do otpuštanja u drugim tehnološkim firmama, što ukazuje na širi trend gde generativni alati menjaju strukturu radne snage.

Šta to znači za korisnike?

Za kupce, kratkoročna korist ogledaće se u ređim zastojima zahvaljujući novim proverama. Ipak, osnovna tenzija ostaje: AI ubrzava razvoj, ali donosi i nove rizike po stabilnost sistema ako se njime loše upravlja. Slučaj Amazona služi kao upozorenje svim kompanijama koje žure da integrišu generativnu veštačku inteligenciju u svoje kritične sisteme.

Za programere, poruka je jasna – AI je moćan kopilot, ali će ljudsko odobrenje postati rutinski deo radnog procesa, posebno kada su u pitanju izmene u produkcionom okruženju.