U posljednjih nekoliko godina svijet umjetne inteligencije sve više se susreće s pitanjem kako je tehnologija može koristiti u vojnim i sigurnosnim kontekstima. Dok se neke velike tehnološke tvrtke okreću državnim ugovorima, Anthropic je odlučio slijediti drugačiji put – odbacivši izgradnju oružanih sustava i usmjeravajući se na sigurnost i etiku. Ova odluka otvorila je vrata u Ujedinjenom Kraljevstvu, gdje je politika usmjerena na razvoj odgovorne umjetne inteligencije.
Zašto je Ujedinjeno Kraljevstvo postalo magnet za sigurnosno orijentiranu umjetnu inteligenciju
Premijer Keir Starmer i njegova administracija već su dugo deklarirali Ujedinjeno Kraljevstvo globalnim centrom za odgovornu umjetnu inteligenciju. Uskoro je predstavljen Institut za sigurnost umjetne inteligencije (AIIS) i značajna ulaganja u nacionalne računalne resurse, što ukazuje na namjeru da se odmakne od militariziranog istraživanja. Anthropicova odluka da ne doprinosi razvoju autonomnih oružja savršeno se uklapa u ovu viziju.
Ključni elementi Anthropicove nove suradnje
- 500 milijuna funti za izgradnju istraživačkog i razvojnog centra u Londonu
- Partnerstvo s Nacionalnom zdravstvenom službom za implementaciju logističkih i informativnih alata koji nisu oružni
- Formalna suradnja s AIIS-om na protokolima „crvene ekipe“ za testiranje najnovijih modela
- Pristup ogromnom nacionalnom računalnom klasteru u sjevernom Engleskoj, posvećenom istraživanju s očuvanjem privatnosti
Ovi angažmani naglašavaju britansku strategiju: privući lidere u području umjetne inteligencije čija tehnologija odražava javne etičke vrijednosti, dok se odvajaju od američkih vojnog orijentiranih okvira poput Stargate inicijative.
Anthropicova „ustavna umjetna inteligencija“ – tehnička osnova etike
Za razliku od tradicionalnog učenja po pojačanju koje se oslanja na iterativni ljudski povratni signal, Anthropic koristi metodologiju nazvanu Ustavna umjetna inteligencija. Središnji elementi ove metode su:
- Ustavni dokument: Skup visokih principa – sličan deklaraciji ljudskih prava Ujedinjenih naroda – koji usmjeravaju ponašanje modela.
- Samokritika: Umjetna inteligencija procjenjuje vlastiti izlaz u odnosu na ustav i prilagođava ga kako bi ostala iskrena, korisna i sigurna.
- Redovita provjera: Tim stručnjaka provodi „crvenu ekipu“ testiranja kako bi identificirao i otklonio potencijalne pristranosti i rizike.
- Transparentnost: Otvoreni izvještaji o metodama i rezultatima omogućuju javnu provjeru i povjerenje.
Ovaj pristup osigurava da modeli ne samo da funkcioniraju, već i da djeluju u skladu s društvenim vrijednostima i zakonodavstvom.
Utjecaj na globalnu dinamiku AI militarizacije
Anthropicova odluka je postala simboličan signal u globalnoj zajednici. Dok se neke tvrtke nastavljaju razvijati sustave za vojne svrhe, druge se okreću sigurnosnim i društvenim aspektima. Ujedinjeno Kraljevstvo, s jasnim fokusom na etiku, postaje primjer kako se tehnologija može razvijati uz poštivanje ljudskih prava i sigurnosti.
Što to znači za budućnost?
- Veća transparentnost i odgovornost u razvoju AI.
- Poticanje