Jemenski Hutisti koristili su Anthropicov AI model Claude u pokušaju razvoja naprednog raketnog oružja, uključujući balistički projektil planiranog dometa većeg od 2000 kilometara i sustav s hipersoničnim kliznim tijelom, piše Financial Times.
Anthropic u svom novom izvještaju Hutiste ne spominje imenom, nego navodi da je otkrio "ćeliju sa sjedištem u sjevernom Jemenu" koja je koristila Claude za razvoj oružja. Sjeverni Jemen uglavnom je pod kontrolom Hutista, a Financial Times i AP slučaj povezuju upravo s njima.
Radili na tri vrste oružja
Prema Anthropicovu izvještaju, Hutisti su radili na tri programa. Prvi je bila navođena raketa koja je koristila računalo usporedivo s onima u pametnim telefonima i sustav navođenja u završnoj fazi leta.
Drugi projekt bio je višestupanjski balistički projektil planiranog dometa većeg od 2000 kilometara, a treći obitelj projektila "R2000", među kojima je bila i varijanta s hipersoničnim kliznim tijelom. Hutisti su Claude Code koristili umjesto ljudskih softverskih inženjera za razvoj sustava navođenja, navigacije i upravljanja projektilima.
Istodobno su pokretali više instanci Claudea i davali im različite zadatke, kao da je riječ o malom inženjerskom timu. Jedna je pisala kod, druga istraživala, a treća provjeravala ono što je prva napravila. Claude im je pomagao i pri povezivanju open-source autopilota s računalom, pisanju softvera za upravljanje i određivanje položaja, podešavanju sustava te simuliranju leta.
Testirali raketu pa se vratili Claudeu
Anthropicovi sigurnosni sustavi blokirali su mnoge njihove zahtjeve, ali ne sve. Akteri su pokušavali zaobići zaštitu tako što su skrivali stvarnu svrhu projekta i dijelili posao na više razgovora kako ni iz jednog ne bi bila vidljiva cijela namjera.
Program nije ostao samo na simulacijama. Hutisti su u Jemenu testirali navođenu raketu. Pokus je, prema Anthropicovoj procjeni, propao. Samo nekoliko sati kasnije ponovno su se obratili Claudeu kako bi analizirali što je pošlo po zlu.
Anthropic navodi da nema dokaza da su uspjeli razviti operativno oružje. U grafikonu na 114. stranici izvještaja taj se terenski pokus navodi kao najozbiljniji dio programa navođene rakete. Podaci s testa vraćeni su Claudeu radi analize kvara.
Anthropic im ugasio račune
Anthropic je nakon otkrivanja aktivnosti ugasio račune povezane s ćelijom i informacije podijelio s partnerima iz javnog i privatnog sektora. Tvrtka je ipak utvrdila da su Hutisti već uspjeli napraviti vlastiti offline sustav za simulacije koji više nije ovisio o Claudeu ni drugim inženjerskim programima.
Hutisti već raspolažu balističkim i krstarećim projektilima te dronovima, a posljednjih su dana ponovno pojačali napade na Saudijsku Arabiju i napredovali uz jemensku obalu Crvenog mora.