Umělá inteligence je riziková. Regulace je namístě, shodují se experti Koubský i Lesch
Generativní umělá inteligence se mezi širší zákaznickou skupinu dostala teprve před rokem. Jakým způsobem se dnes používá? Jaké regulační kroky se kolem ní chystají? O diskutovali Kateřina Lesch, expertka na umělou inteligenci z MFF Univerzity Karlovy, a redaktor Deníku N Petr Koubský.
Velký rozruch ve firmě OpenAI nedávno způsobilo odvolání jejího ředitele Sama Altmana, které ukázalo, že technologie je v rukou omezeného počtu lidí a že struktura firmy je možná křehčí.
Petra Koubského z Deníku N překvapilo, že se vývoj technologie zpomalil, touhle dobou už očekával novou verzi Microsoft Office, která v sobě bude mít i umělou inteligenci. Podle něj jsme se ještě nedostali do fáze, že by AI změnila náš způsob práce s internetem.
Už i v běžné administrativě
Podle Koubského se teď technologie využívá hlavně v programování, v produkci kódů, kde sice ještě nevypracuje hotový produkt, ale usnadní vývoj.
Dále se uplatňuje například v medicíně, při psaní zpráv, vyhodnocování rentgenových snímků. A v neposlední řadě mnoha lidem usnadňuje rutinní kancelářské práce, jako jsou třeba rešerše nebo vyřizování korespondence.
„Aby za nás dělala umělá inteligence náročnější tvořivou práci nebo hůř definovatelnou, to se zatím neděje. Věřím, že k tomu dojde poměrně brzy. Ale osobně ji uznám za plně použitelnou, až za mě začne psát články,“ uvažuje Koubský.
Učení umělé inteligence často trvá déle než to udělat ručně. Umí být ale užitečná, říká datař Kašpárek
Číst článek
Ve psaní článků podle něj brzy půjde spíš o nějaké právní a etické ukotvení než o to, co technologie dokáže.
Kateřina Lesch, expertka na umělou inteligenci z MFF UK a z poradenské společnosti Deloitte, vidí největší nárůst projektů pro umělou inteligenci (AI) v oblasti zákaznické podpory a komunikaci s klienty.
„Tím, že jsou neuronové sítě už na dobré úrovni, umějí velice dobře přepsat řeč na text a nad ním dělat analytiku a vyhodnocování, třeba v reálném čase. Všude tam, kde to vyžaduje například sumarizaci: o čem telefonický hovor byl, co zákazník chtěl a pak na základě podkladů odeslání nějakého e-mailu. To jsou typické úlohy, které často řešíme a kde se opravdu šetří hodně času, hodně úvazků,“ popisuje Lesch.
Ale i rizika
S rozmachem AI se blíží nebezpečí rozšíření takzvaného phishingu, kybernetických útoků, které šíří dezinformace a předstírají, že pochází z jiných zdrojů, jako jsou třeba banky, sociální sítě celebrit nebo úřady státní správy.
„S nástupem generativní AI se dezinformace rozmáhají, na druhou stranu tady vždy byly. Teď je fotka generovaná, předtím byla vytržená z kontextu a člověk nevěděl, jestli je to zrovna tato strana válečného konfliktu a kteří lidé zachraňují někoho. Prostě se to jen přerámovalo. Spíš jde o kontext a o to, že si na pravdu nikdy nesáhneme,“ říká Lesch.
Umělá inteligence a důvěryhodnost médií
Číst článek
Spolehlivý nástroj na rozpoznání takových podvodů zatím neexistuje a úspěšnost nástrojů, které se o to snaží, je poměrně nízká. Ve forenzní lingvistice se pracuje například s koherencí textu, kdy generované texty bývají až příliš dobré.
„Když budu chtít, aby to bylo záměrně chaos, tak by se to asi taky dalo vygenerovat,“ vysvětluje Lesch.
Regulace umělé inteligence?
V nedávné době se začalo mluvit i o regulaci umělé inteligence, o etice a o jejím právním ukotvení. Podle Kateřiny Lesch i Petra Koubského je nějaká alespoň základní regulace namístě.
„Mně přijde smysluplné, jak je to odstupňované. Jsou tam omezení v rámci kritické infrastruktury a zákaz social scoringu. Je sice otázka, jestli se to stejně neděje, jen jinými cestami, ale přece jen je asi dobré se nad tím zamýšlet a dát tomu legislativní rámec,“ říká Lesch.
Zakazovat umělou inteligenci podle Lesch nemá cenu, protože už se mezi širokou veřejnost dostala, a tak není možné její používání bez následků zastavit.
„Jsou regulovány všechny jaderné technologie, například velmi intenzivně regulován je i farmaceutický průmysl, od vývoje přes testování po použití léků. A našlo by se toho víc. Jsou to vesměs věci, které jsou rizikové, které mohou způsobit velké škody, když bychom tomu nechali volný průběh. Já myslím, že AI do této škatulky patří. A je dobře, že se regulace chystá,“ komentuje Koubský.
Poslechněte si celý rozhovor nahoře v článku.
