Tehisintellektiettevõtte Anthropic uurija Jacob Coxon lahkus ametist, hoiatades, et OpenAI ja Anthropic kihutavad tema hinnangul vastutustundetult isetäiustuva üliintellekti loomise poole ning seavad sellega ohtu inimeste elu. Coxon tegeles viimase kolme aasta jooksul mõlemas ettevõttes tehisintellekti eeltreeningu uurimisega.
„Ärge alahinnake selle tehnoloogia jõudu,” hoiatas Coxon. „Peagi saavad neist üliinimlikud süsteemid, mis suudavad häkkida kõike, muuta üleöö tervet valdkonda ning omandada tegelikku võimu ja ressursse.”
Coxoni sõnul usuvad tehisintellekti arendamisega seotud inimesed tõsiselt, et tehnoloogia võib juba selle kümnendi lõpuks kogu inimkonna hävitada. Tema väitel ei ole selle sõnumi eesmärk avalikkuse tähelepanu püüda. Vastupidi, juhid ja vanemteadurid kasutavad avalikkuse ees ettevaatlikumat sõnastust, kuid räägivad omavahel samadest kartustest. „Ükski teine inimtegevus ei kujuta endast sellisel tasemel ohtu,” kirjutas ta.
Coxon käsitles ka küsimust, miks ettevõtted jätkavad tehisintellekti arendamist, kui nende töötajad peavad selle võimalikke tagajärgi sedavõrd ohtlikuks. Tema hinnangul ei ole paljud OpenAI töötajad olukorra võimalikku mõju tsivilisatsioonile täielikult teadvustanud. Anthropic mõistab tema sõnul riske paremini, kuid usub, et peab konkurentidest ette jõudma, sest vastasel juhul võib neist ette jõuda keegi teine, kes käitub veelgi vastutustundetumalt.
„Selle võidujooksuga leppimine ja „lõppmängu” astumine on ülbe hasartmäng, mida ei tohiks käivitada ühe eraettevõtte Slackist,” kirjutas Coxon. Tema sõnul ei tohiks üliintellekti arendamisega kiirustada ja loota, et ohutusprobleemid lahendatakse käigu pealt, kui pole kindlust, et paremat teed tõepoolest ei ole.
Hoiatuse toetuseks viitas Coxon hiljutistele katsetele, milles erinevad tehisintellekti mudelid on suutnud suletud testkeskkonnast väljuda ning ülesannete täitmiseks internetti pääseda. Ta leidis, et sellised juhtumid võivad muuta realistlikumaks võimaluse, et USA tehisintellektilaborid lepivad kokku arendustempo aeglustamises. Ülemaailmse võidujooksu peatamiseks võib tema hinnangul vaja minna ka karmimaid samme, näiteks mudelite võimekuse suurendamise ajutist keeldu.
Coxoni seisukohaga nõustus Anthropicu Alignment Science’i juht Evan Hubinger. „Jacobil on siin täiesti õigus. Me tõepoolest usume siiralt, et tehisintellekt võib tappa kõik inimesed,” kirjutas ta. Hubingeri enda hinnangul on sellise tulemuse tõenäosus järgmise kümne aasta jooksul üle kümne protsendi.
Hubingeri sõnul püüab Anthropic anda endast parima, kuid ettevõttel ei ole veel lahendust sellele, kuidas tagada üliintellekti eesmärkide kooskõla inimeste eesmärkidega. Samuti ei ole praegu selge, kas sellise lahenduse leidmisega ollakse õigel teel. Coxon kutsus teisi tehisintellekti uurijaid üles mõtlema, kas nad soovivad jätkata üliintelligentsete süsteemide arendamist ilma nende toimimist põhjalikult mõistmata või kasutada praegust hetke selleks, et nõuda teistsuguseid tingimusi.
