Kada većina istraživačkih silosa ostaje zaštićena iza zatvorenih vrata, OpenAI je u kasnom siječnju iznenadio zajednicu s iznenađujuće transparentnim prikazom svog zastavnog programiranja agenta – Codex-a. U detaljnom članku, koji je napisao inženjer Michael Bolin, kompanija je objavila što izgleda kao najjasniji javni prikaz dotad arhitekture koja omogućuje velikom jezičnom modelu (LLM) ne samo da odgovara na pitanja, već i da piše, otklanja greške i pokreće stvarni softver.
Prikazuje se kako proces funkcionira od prvog upita korisnika, kroz unutarnju petlju odlučivanja, do trenutka kada AI konačno vraća gotovu funkciju ili korisno objašnjenje.
Agent petlja – srce Codex-ovog rada
U samom srcu Codex-a nalazi se „agent petlja”. Možete je zamisliti kao usku petlju koja se izmjenjuje između dva zadatka: 1) traženje velikog jezičnog modela (LLM) da predvidi odgovor i 2) vraćanje tog odgovora sustavu ako je pokrenuo vanjski alat. Petlja počinje kada agent gradi upit koji obuhvaća sve informacije koje ima u tom trenutku: instrukcije sustava, ograničenja programera, bilo kakav tekst koji je korisnik unio, okolne podatke o trenutnom kodu i popis alata koje može pozvati. Taj upit šalje se OpenAI-jevom API-ju za odgovore, gdje model obavlja zaključivanje.
Što čini upit?
- Instrukcije sustava – visoko-nivo direktive koje postavljaju opći ton i svrhu za sesiju.
- Ograničenja programera – pravila koja vode model, kao što su smjernice za stil koda ili ograničenja jezika.
- Poruke korisnika – stvarna pitanja, kodovi ili upiti za otklanjanje grešaka koje je programer napisao.
- Kontekst okoline – podaci o trenutnom radnom prostoru, kao što su nazivi datoteka, metapodaci projekta ili stanje repozitorija.
- Dostupni alati – katalog izvršnih datoteka koje agent može pozvati, od jednostavnih naredbi ljuske do specijaliziranijih alata.
Kada je upit sastavljen, šalje se na arhitektonski vrhunac: OpenAI-jev API za odgovore. Izlaz modela može biti poruka korisniku ili zahtjev za pozivanje jednog od navedenih alata. Ako odabere drugo, agent poziva alat i čeka na rezultat, koji zatim vraća korisniku ili koristi za daljnje poboljšanje koda.
Kako Codex koristi alate?
Kada model odluči pozvati alat, agent ga poziva i čeka na rezultat. Taj rezultat zatim vraća korisniku ili ga koristi za daljnje poboljšanje koda. Ovaj proces ponavlja se sve dok korisnik ne dobije konačni rezultat ili dok ne odluči prekinuti proces.
Codex je jedan od najnaprednijih alata za umjetnu inteligenciju na tržištu, a njegova transparentnost i detaljnost čine ga idealnim za programere i istraživače koji žele razumjeti kako funkcioniraju najsavremeniji alati za umjetnu inteligenciju.
FAQ
- Što je Codex? Codex je OpenAI-jev zastavni programski agent koji koristi umjetnu inteligenciju za pisanje, otklanjanje grešaka i pokretanje stvarnog softvera.
- Kako Codex funkcionira? Codex koristi agent petlju koja se izmjenjuje između predviđanja odgovora velikim jezičnim modelom i pozivanja vanjskih alata ako je potrebno