Razvoj veštačke inteligencije postaje opasan za čovečanstvo
Jedan od istraživača koji je radio na razvoju najnaprednijih sistema veštačke inteligencije odlučio je da napusti kompaniju Anthropic uz ozbiljno upozorenje: tehnološka trka između vodećih AI laboratorija, prema njegovom mišljenju, postaje brža od razvoja mehanizama koji bi trebalo da je drže pod kontrolom.
Džejkob Kokson proveo je oko tri godine radeći na istraživanju obuke AI modela u kompanijama OpenAI i Anthropic. Prilikom odlaska iz Anthropica javno je optužio obe kompanije da se previše usredsređuju na trku za sve sposobnijim sistemima, a nedovoljno na pitanje šta bi se dogodilo kada bi takvi sistemi počeli da unapređuju sami sebe.
Suština njegovog upozorenja nije da današnji četbotovi mogu preko noći da unište čovečanstvo. Kokson govori o mogućoj budućoj samounapređujućoj superinteligenciji – sistemu koji bi mogao da učestvuje u razvoju sopstvenih naslednika i tako ubrzava napredak bez tempa koji ljudi mogu lako da prate.
Njegove tvrdnje privukle su dodatnu pažnju kada se oglasio Evan Hubinger, koji vodi istraživanja usklađivanja AI sistema u Anthropicu. Hubinger je naveo da lično procenjuje da je rizik da veoma napredna AI dovede do katastrofalnog ishoda u narednoj deceniji veći od deset odsto. Važno je, međutim, naglasiti da je to njegova lična procena, a ne utvrđena naučna verovatnoća niti zvanična prognoza kompanije.
Upravo tu počinje jedan od najvećih sporova u savremenoj tehnologiji. Jedna grupa istraživača smatra da napredovanje sposobnosti AI sistema može da postane toliko brzo da bezbednosne mere neće stići da ga prate. Drugi stručnjaci smatraju da su scenariji o nestanku čovečanstva previše spekulativni i upozoravaju da dramatične procene mogu skrenuti pažnju sa problema koji već postoje – zloupotrebe AI, dezinformacija, gubitka radnih mesta, sajber napada i koncentracije tehnološke moći.
Anthropic, kompanija koju je Kokson napustio, godinama upravo bezbednost predstavlja kao jedan od svojih glavnih prioriteta. Kompanija navodi da radi na razumevanju ponašanja naprednih modela i na sistemima kojima bi katastrofalni rizici trebalo da budu ograničeni. Kokson, međutim, smatra da ni to nije dovoljno ako istovremeno postoji snažan komercijalni i geopolitički pritisak da se što pre napravi moćniji model od konkurencije.
Zbog toga ova priča nije samo još jedno upozorenje da će „roboti preuzeti svet“. Mnogo konkretnije pitanje glasi: ko određuje granicu preko koje razvoj veštačke inteligencije ne bi trebalo da ide bez nezavisne kontrole?
Odgovor za sada ne postoji. Ali činjenica da se o tome javno spore ljudi koji upravo rade na najmoćnijim AI sistemima pokazuje da debata više nije ograničena na naučnu fantastiku.
Izvori: Associated Press, WIRED, TechCrunch
