Naprosto bezohledné. ‚Kmotři‘ umělé inteligence varují před ignorováním bezpečnostních otázek
Mimořádně silné systémy umělé inteligence představují hrozbu společenské stabilitě a firmy musí být zodpovědné za škody, které jejich výtvory způsoby. K tomuto závěru došla skupina 23 expertů z oblasti IT, mezi které patří i dva „kmotři“ vývoje umělé inteligence, Geoffrey Hinton a Yoshua Bengio. Podpisem dokumentu vyjádřili obavy z nedostatečné regulace firem vyvíjících systémy umělé inteligence, píše britský deník The Guardian.
Signatáři uveřejnili dokument s několika požadavky určený vládám států a šéfům společností zabývajících se vývojem systémů AI, aby se zasloužili o regulace programů umělé inteligence v několika oblastech, píše deník.
Autoři například požadují vyčlenění třetiny vládních rozpočtů určených na výzkum a vývoj umělé inteligence na podporu bezpečného a etického používání systémů umělé inteligence.
Žádají také zavedení licenčního systému pro vytváření nových modelů a přijetí konkrétních bezpečnostních opatření, pokud se v jejich modelech objeví nebezpečné schopnosti.
„Je čas začít se vážně zabývat pokročilými systémy umělé inteligence. Pro obchody se sendviči existuje více předpisů než pro společnosti zabývající se AI,“ řekl Stuart Russell, profesor počítačové vědy na Kalifornské univerzitě v Berkeley.
„Nejsou to hračky. Navyšovat jejich schopnosti dříve, než pochopíme, jak je učinit bezpečnými, je naprosto bezohledné,“ dodal Russell.
Existenční riziko
Bengio a Hinton, dva ze tří „kmotrů“ vývoje umělé inteligence, získali za svůj přínos vědě v roce 2018 ACM Turingovu cenu – ekvivalent Nobelovy ceny v počítačových vědách.
Strašák jménem umělá inteligence? O práci vás nepřipraví, jen ji změní k lepšímu, tvrdí expert
Číst článek
Hinton letos odešel ze společnosti Google, aby varoval před tím, co nazval „existenčním rizikem“, které představují umělé inteligence.
Bengio, profesor počítačových věd na univerzitě v Montrealu, se v březnu připojil k Hintonovi a tisícům dalších odborníků, kteří podepsali dopis vyzývající k regulaci obřích experimentů s umělou inteligencí.
Oba patří mezi 100 hostů pozvaných na summit v Bletchley Parku, který se bude zabývat právě bezpečností v oblasti umělé inteligence.
Dokument dále podepsali například spisovatel a držitel Nobelovy ceny za ekonomii Daniel Kahneman či profesorka umělé inteligence Sheila McIlraithová.
