U svijetu umjetne inteligencije, gdje se tehnologija brzo razvija, sve više se postavlja pitanje kako će se njeni rezultati koristiti. Dok mnoge tvrtke prihvaćaju ugovore s odbrambenim sektorom, Anthropic, start-up iz San Francisca, odlučio je slijediti drugačiji put. Njihova odluka da ne dopuštaju upotrebu modela u smrtonosnim autonomnim sustavima ili drugim vojnim aplikacijama dovela je do značajnog pomaka – duboka suradnja s Ujedinjenim Kraljevstvom, zemljom koja stavlja sigurnost AI na prvo mjesto.
Zašto Anthropic odbija vojne primjene
Misija Anthropica temelji se na konceptu Ustavne umjetne inteligencije, koji uvodi etičke okvire izravno u proces donošenja odluka modela. U unutarnjem charteru tvrtke navedeno je tri nepromjenjive pravila: model ne smije uzrokovati fizičku štetu, ne smije olakšavati nezakonite aktivnosti i mora poštovati ljudsku dostojanstvo. Ova pravila rezultiraju strogoj zabranu bilo kakvih zahtjeva koji bi mogli omogućiti autonomno oružje, nadzor koji krši privatnost ili druge militarizirane upotrebe.
Osnivač Dario Amodei ističe da je odluka više od marketinške strategije; ona proizlazi iz uvjerenja da najmoćniji AI sustavi trebaju biti razvijeni s mentalitetom sigurnosti. Inženjeri Anthropica opisuju rigorozni proces „crvene ekipe“ koji simulira najgore scenarije, osiguravajući da izlazi modela ostanu unutar etičkih granica. Kada je američki odjel obrane pokrenuo program „Stargate“ i širi „Nacionalni okvir AI“, Anthropic je ljubazno odbio, navodeći svoje ustavne zaštite.
Strategija Ujedinjenog Kraljevstva za sigurnost AI
U Ujedinjenom Kraljevstvu, vlada je postavila sebe kao utočište za istraživanje AI koje stavlja sigurnost ispred militarizacije. Premijer Keir Starmer i njegova administracija razvili su nacionalnu politiku koja potiče razvoj AI sustava s jasnim etičkim smjernicama i transparentnim postupcima. Kroz inicijative poput AI Safety Hub i National AI Strategy, UK potiče suradnju između akademske zajednice, industrije i javnog sektora kako bi se osiguralo da se tehnologija razvija na način koji štiti građane i poštuje međunarodne standarde.
U tom kontekstu, Anthropic je pronašao partnera koji dijeli njegove vrijednosti. Suradnja s britanskim istraživačkim institutima i vladinim agencijama omogućila je tvrtki da proširi svoje operacije, istovremeno poštujući stroge sigurnosne protokole i etičke smjernice.
Ključni principi Anthropica – lista
- Ne uzrokuje fizičku štetu – model je dizajniran da izbjegava bilo kakvu upotrebu koja bi mogla rezultirati ozljedama ili smrtnim slučajevima.
- Ne olakšava nezakonite aktivnosti – sustav ne podržava planiranje ili izvršenje aktivnosti koje bi bile protivno zakonu ili etičkim standardima.
- Respektira ljudsku dostojanstvo – model je dizajniran da poštuje ljudske prava i dostojanstvo, bez diskriminacije ili kršenja ljudskih prava.
Anthropicova odluka da se fokusira na sigurnost AI umjesto oružja pokazuje da tvrtka stoji na čelu u razvoju etičkih AI sustava. Suradnja s Ujedinjenim Kraljevstvom omogućila je tvrtki da proširi svoje operacije i razvije