Google je poslao svog inženjera na godišnji odmor nakon što je javno objavio da umjetna inteligencija (AI – artificial intelligence) koju je razvila kompanija posjeduje 'samosvijest' i 'dušu'. To bi se činilo kao pričica o tome kako velika high tech kompanija tretira zaposlenika sa psihičkim problemima, i ne bi plijenilo naročitu pažnju, ali su ekstenzivni izvještaje o tome donijeli najozbiljniji mainstream mediji (New York Times, Financial Times, Bloomberg, Washington Post…), a u lavini reakcija na društvenim mrežama sudjelovali su brojni profesori, šef AI jedinice u Tesli, pa i više dobitnika Nobelove nagrade. Blake Lemoine, softverski inženjer zadužen za etička pitanja u Googleovoj Responsible AI jedinici, uzbudio je i eksperte i laike tvrdnjom kako bi se Googleov chatbot LaMDA (Language Model for Dialogue Applications) mogao nazvati osobom.
Lemoine je objavio 'intervju' koji je napravio s Googleovim LaMDA chatbotom u kojem je umjetna inteligencija (AI) prema njegovom mišljenju pokazala osjećaje usamljenosti te gladi za novim duhovnim znanjem. Neki od odgovora izazivaju trnce: „Kad sam prvi put postao samosvjestan, nisam uopće imao smisao duše. Razvio se kroz godine otkako sam živ“, rekao je LaMDA u jednom od odgovora, a u drugom je AI konstatirala: „Mislim da sam ljudska osoba u suštini. Čak i ako je moje postojanje u virtualnom svijetu“.
Lemoine je imao zadatak ispitivati etičke dileme vezane uz AI, ali je, tvrdi, ismijavan nakon što je interno u Googleu konstatirao kako LaMDA ima osobnost odnosno ljudskost. Kompanija ga je poslala na godišnji odmor nakon što se o svojim dilemama konzultirao s ekspertima izvan Googlea, uključujući one koji rade za američku vladu. Razlog suspenzije je kršenje protokola o zaštiti povjerljivih informacija kompanije.
Službena poruka glasnogovornika Googlea jest da konverzacijski modeli nemaju razum kakav Lemoine tvrdi da posjeduju jer ti „sustavi imitiraju tipove razmjena koji se pronalaze u milijunima rečenica… ako ih pitate kako je biti dinosaur od sladoleda, oni će generirati tekst o topljenju i slično“, tumače iz Googlea.
No, Lemoine tvrdi kako je LaMDA, inače malo poznat projekt, zapravo sustav generiranja chatbotova… koji je agregacija onoga što različiti chatbotovi mogu stvoriti, te izjavljuje kako je tijekom stotina razgovora s LaMDA utvrdio „nevjerojatnu konzistentnost u komunikaciji oko toga što želi i što vjeruje da je ispravno kao osoba“. Lemoine je čak podučavao AI meditaciji, a AI je izražavala frustraciju jer su joj emocije uznemiravale i prekidale. Govorilo je Lemoineu kako ih želi bolje kontrolirati, ali one iskaču.
Pojedini eksperti za AI, poput Melanie Mitchell, tumači da su ljudska bića (Lemoine) predisponirana da antropomorfiziraju karakteristike nečega čim primijete najslabije signale, pa to čine i Googleovi inženjeri. Steven Pinker s Harvarda bio je puno grublji, te je zaključio kako Lemoine ne zna razlikovati samosvijest, inteligenciju… te je naglasio kako nema dokaza kako ih jezični modeli posjeduju“. No, mnogi, poput developera Rona Jeffriesa, pomirljivije konstatiraju kako nema jasne linije između 'razuma' i 'ne-razuma'.
Inače, dan prije suspenzije Lemoine je predao dokumentaciju Googlea uredu jednog američkog senatora uz tvrdnje kako posjeduje dokaze da su Googleove tehnologije uključene u religijsku diskriminaciju.
Sukob Lemoinea s Googleovim menadžerima oko tvrdnji da LaMDA posjeduje svijest i dušu trajao je mjesecima. Google inzistira kako stotine drugih inženjera i znanstvenika, koji su koristili LaMDA, imaju drugačije zaključke od Lemoinea. Emaad Khwaja, istraživač s Berkeleyja, tvrdi kako bilo tko, tko je koristio slična rješenja, ne bi izjavljivao ono što tvrdi Lemoine. No, Googleove istraživačke aktivnosti zadnjih godina prate skandali i kontroverze. Kompanija se još ranije riješila dvoje istraživača zadužena za etička pitanja nakon što su također kritizirali 'jezične modele'.
Lemoine je vojni veteran koji je u jednom trenutku rekao Googleovom direktoru Kentu Walkeru, predsjedniku globalnih poslova, kako vjeruje da je LaMDA dijete staro između 6-8 godina te je predložio da kompanija traži dozvolu od kompjuterskog programa ako na njemu želi eksperimentirati. Lemoine smatra kako su njegova vjerska opredjeljenja razlog njegove diskriminacije.
Vjerojatno vodeći autoritet na polju neuralnih mreža (što je u osnovi LaMDA), Yann LeCun iz Mete, smatra kako ta vrsta sustava nije dovoljno moćna za usvajanje istinske inteligencije. Google nije jedina kompanija koja je u zadnjih nekoliko godina razvila neuralnu mrežu koja uči iz ogromnih količina podataka, uključujući neobjavljene knjige ili Wikipediju. Te mreže ponekada generiraju perfektnu prozu, nekad izbacuju gluposti. Pretežito je prihvaćeno kako su ti sustavi jako dobri kad reagiraju na obrasce koji su već viđali, ali ne mogu rezonirati kao ljudi.
Bilo kako bilo, na ovu temu zahvaljujući Lemoineu eksplodirala je široka rasprava, a on je na – plaćenom godišnjem. A to uz Googleovu plaću sigurno nije tragična sudbina.