U svijetu umjetne inteligencije, generativne AI tehnologije su postavile visoke standarde za što očekujemo od tehnologije. Međutim, sljedeći korak naprijed neće dolaziti od većih modela u oblaku, već od smanjenja inteligencije na baterijske uređaje koje nosimo i nosimo. Google Research i Google DeepMind danas predstavljaju Coral NPU, potpunu, otvorenu neuralno-procesorsku platformu dizajniranu da pruži moćnu, uvijek aktivnu AI na milijotoni snage. Kroz rješavanje performansi, fragmentacije i privatnosti, Coral NPU daje dizajnerima hardvera i inženjerima ML-a jedinstveni put za gradnju ultra-efikasnih sustava na kraju koji čuvaju osobne podatke na uređaju.
Zašto AI na kraju treba novu osnovu
Prebacivanje AI s udaljenih centara podataka na pametne satove, slušalice i AR naočale znači rješavanje tri neprekidna problema:
- Razlika u performansi: Najbolji modeli zahtijevaju daleko više računanja, memorije i energije od što male baterije mogu pružiti.
- Djelomični porez na fragmentaciju: Svaki privatni akcelerator govori svojim jezikom, silom razvojnim inženjerima da održavaju više sustava i ostavljaju performanse na stranu.
- Deficit u povjerenju: Korisnici ne prihvaćaju osobnu AI koja pošilja njihove biometričke podatke u oblak.
Coral NPU je dizajniran zajednički od silicija do okvira da zatvori ove razlike jednom i za sve.
Silicijska arhitektura AI prvog reda
Umjesto prilagođavanja CPU-a AI stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnjim stražnj