Nobelovac upozorava: AI može da prekine rad banaka!
Jedan od najpoznatijih svetskih stručnjaka za veštačku inteligenciju, Džefri Hinton, izneo je zabrinjavajuće upozorenje o budućnosti tehnologije čijem je razvoju i sam dao nemerljiv doprinos.
On smatra da bi veštačka inteligencija već ove ili sledeće godine mogla da izazove ozbiljan incident, koji bi mogao da dovede do privremenog prekida rada važnih sistema, uključujući finansijski sektor ili elektroenergetsku mrežu.
Hinton, dobitnik Nobelove nagrade i jedan od pionira razvoja veštačkih neuronskih mreža, u razgovoru za britanski „Gardijan“ priznao je da se danas sve češće pita da li je čovečanstvo uopšte trebalo da razvije ovu tehnologiju.
Bolje bi nam bilo bez AI
„Možda bi bilo bolje da je nikada nismo ni razvili“, rekao je Hinton, uz napomenu da sebe ne smatra katastrofičarem kada je reč o veštačkoj inteligenciji.
On, međutim, ne zanemaruje ni ogromne mogućnosti koje ova tehnologija donosi. Naprotiv, smatra da bi AI mogla da otvori vrata izuzetno naprednoj i boljoj budućnosti, ali upozorava da njen ubrzani razvoj nosi rizike koje čovečanstvo još ne ume u potpunosti da kontroliše.
Posebnu zabrinutost izaziva mogućnost da sve napredniji sistemi veštačke inteligencije budu uključeni u funkcionisanje ključne infrastrukture, od banaka i finansijskih tržišta do elektroenergetskih sistema. U takvim okolnostima, eventualna greška, zloupotreba ili nepredviđeno ponašanje AI sistema moglo bi da ima posledice daleko šire od problema sa pojedinačnim tehnološkim servisima.
Može se oteti kontroli
Hintonovo upozorenje dobija dodatnu težinu upravo zbog njegove uloge u razvoju ove tehnologije. Naučnik, koji je decenijama radio na istraživanju neuronskih mreža, danas je jedan od najglasnijih kritičara, koji upozorava na moguće posledice nekontrolisanog razvoja veštačke inteligencije.
Njegova poruka otvara pitanje koje postaje sve važnije: da li će čovečanstvo uspeti da kontroliše tehnologiju koju razvija ili će napredak u jednom trenutku početi da predstavlja pretnju sistemima od kojih zavisi svakodnevni život?
