Iza kulisa drame o kojoj bruji svijet, spominje se projekt Q*: ‘Mogao bi ugroziti čovječanstvo!‘

Prije nego što je Upravni odbor istraživačke organizacije OpenAI 17. studenog s mjesta glavnog izvršnog direktora uklonio Sama Altmana te ga četiri dana poslije nakon pregovora na isto ponovno postavio, nekoliko je OpenAI-jevih istraživača Upravnom odboru organizacija poslalo pismo u kojem je stajalo da bi moćno otkriće na polju umjetne inteligencije moglo ugroziti čovječanstvo, piše Reuters.

Dva izvora koja su upoznata s pismom rekla su da su ono i algoritam za umjetnu inteligenciju ključni događaji koji su prethodili tjeranju Altmana iz OpenAI-a. Prije nego što se ovaj kasno u utorak vratio u organizaciju, više od 700 zaposlenika OpenAI-a reklo je da će dati otkaze te se iz solidarnosti s Altmanom, javnim licem generativne umjetne inteligencije, pridružiti tehnološkom gigantu Microsoftu, jednom od investitora u OpenAI.

Spomenuti izvori tvrde da je pismo bilo tek posljednji u nizu problema koji su doveli do otkaza koji je Uprava uručila Altmanu. Strahovalo se, naime, da OpenAI svoje proizvode i izume želi komercijalizirati prije nego što ih je u potpunosti shvatio.

Projekt Q*

Jedna je osoba rekla da je OpenAI, koji Reutersu nije htio dati izjavu o svim ovim događajima, zaposlenicima prije potresa u organizaciji koji je nastupio prošlog vikenda poslao pismo u kojemu je spomenuo projekt imena "Q*" i pismo Upravi. Glasnogovornik OpenAI-a rekao je da je to pismo, koje je poslala glavna direktorica za tehnologiju Mira Murati, osoblje organizacije obavijestilo o određenim medijskim napisima, ali da se Murati nije osvrnula na točnosti tih napisa.

Jedan je izvor Reutersu rekao da neki u OpenAI-u vjeruju da bi projekt "Q*" mogao biti prekretnica u potrazi za tzv. općom umjetnom inteligencijom (AGI). OpenAI AGI definira kao autonomne sustave koji u većini ekonomski vrijednih zadataka mogu nadići čovjeka. Novi je model zahvaljujući velikim računalnim resursima uspio riješiti određene matematičke probleme. Iako je model uspio riješiti matematičke zadatke koje rješavaju učenici osnovnih škola, izvor je rekao da su "petice" koje je model dobio na tim testovima istraživačima dali razloga da vjeruju da bio Q* u budućnosti mogao ostvariti još i veće kognitivne pothvate.

Istraživači smatraju da je matematika tzv. sveti gral razvoja generativne umjetne inteligencije. Ona trenutno može dobro pisati i prevoditi tako što na temelju statistike predviđa koja će sljedeća riječ uslijediti, a i na isto pitanje može dati prilično različite odgovore. Međutim, sposobnost rješavanja matematičkih zadataka, zadataka koji imaju samo jedan točan odgovor, implicira da umjetna inteligencija ima veće kapacitete rasuđivanja koji nalikuju ljudskoj inteligenciji. Istraživači vjeruju da bi se ta sposobnost mogla primijeniti na, primjerice, nova znanstvena istraživanja.

Za razliku od kalkulatora, koji može riješiti ograničeni broj operacija, AGI može generalizirati, učiti i shvaćati.

Opasnost za svijet

Istraživači su u pismu Upravi naveli da bi sposobnosti umjetne inteligencije mogle predstavljati opasnost. Dio znanstvenika već neko vrijeme raspravlja o tome bi li jako inteligentni strojevi u jednom trenutku mogli odlučiti bi im najbolje bilo da istrijebe čovjeka.

Istraživači su kao problem označili grupu stručnjaka koja nosi ime "Znanstvena umjetna inteligencija". Ona je oformljena spajanjem timova imena "Generativno kodiranje" i "Generativna matematika". Grupa je pokušavala optimizirati postojeće modele umjetne inteligencije kako bi mogli bolje rasuđivati te kasnije obavljati znanstveni rad.

Altman je radio na tome da ChatGPT postane najbrže rastuća aplikacija u povijesti. Microsoft je u OpenAI investirao kako bi se organizacija došla bliže AGI-ju.

Altman je prošlog tjedna ustvrdio da vjeruje da su velika ostvarenja na vidiku. Jedan dan nakon toga - dobio je otkaz.