Umělá inteligence je riziková. Regulace je na místě, shodují se experti Koubský i Lesch

Velký rozruch ve firmě OpenAI nedávno způsobilo odvolání jejího ředitele Sama Altmana, které ukázalo, že technologie je v rukou omezeného počtu lidí a že struktura firmy je možná křehčí.

Petra Koubského z Deníku N překvapilo, že se vývoj technologie zpomalil, touhle dobou už očekával novou verzi Microsoft Office, která v sobě bude mít i umělou inteligenci. Podle něj jsme se ještě nedostali do fáze, že by AI změnila náš způsob práce s internetem.

Už i v běžné administrativě

Podle Koubského se teď technologie využívá hlavně v programování, v produkci kódů, kde sice ještě nevypracuje hotový produkt, ale usnadní vývoj.

Dále se uplatňuje například v medicíně, při psaní zpráv, vyhodnocování rentgenových snímků. A v neposlední řadě mnoha lidem usnadňuje rutinní kancelářské práce jako jsou třeba rešerše nebo vyřizování korespondence.

Čtěte také

Sam Altman je zpět ve vedení firmy OpenAI. „Tahle telenovela musela otřást důvěrou spousty lidí,“ komentuje to Koubský

„Aby za nás dělal umělá inteligence náročnější tvořivou práci nebo hůř definovatelnou, to se zatím neděje. Věřím, že k tomu dojde poměrně brzy. Ale osobně ji uznám za plně použitelnou, až za mě začne psát články,“ uvažuje Koubský.

Ve psaní článků podle něj brzy půjde spíš o nějaké právní a etické ukotvení než o to, co technologie dokáže.

Kateřina Lesch, expertka na umělou inteligenci z MFF UK a z poradenské společnosti Deloitte, vidí největší nárůst projektů pro AI v oblasti zákaznické podpory a komunikaci s klienty.

„Tím, že jsou neuronové sítě už na dobré úrovni, umějí velice dobře přepsat řeč na text a nad ním dělat analytiku a vyhodnocování, třeba v reálném čase. Všude tam, kde to vyžaduje například sumarizaci: o čem telefonický hovor byl, co zákazník chtěl a pak na základě podkladů odeslání nějakého e-mailu. To jsou typické úlohy, které často řešíme a kde se opravdu šetří hodně času, hodně úvazků,“ popisuje Lesch.

Ale i rizika

S rozmachem AI se blíží nebezpečí rozšíření takzvaného phishingu, kybernetických útoků, které šíří dezinformace a předstírají, že pochází z jiných zdrojů, jako jsou třeba banky, sociální sítě celebrit nebo úřady státní správy.

Čtěte také

Rok s ChatGPT: Jaké změny, pozitiva a negativa nám vzestup AI přinesl

„S nástupem generativní AI se dezinformace rozmáhají, na druhou stranu tady vždy byly. Teď je fotka generovaná, předtím byla vytržená z kontextu a člověk nevěděl, jestli je to zrovna tato strana válečného konfliktu a kteří lidé zachraňují někoho. Prostě se to jen přerámovalo. Spíš jde o kontext a o to, že se na to pravdu nikdy nesáhneme,“ říká Lesch.

Spolehlivý nástroj na rozpoznání takových podvodů zatím neexistuje a úspěšnost nástrojů, které se o to snaží, je poměrně nízká. Ve forenzní lingvistice se pracuje například s koherencí textu, kdy generované texty bývají až příliš dobré.

„Když budu chtít, aby to bylo záměrně chaos, tak by se to asi taky dalo vygenerovat,“ vysvětluje Lesch.

Regulace umělé inteligence?

V nedávné době se začalo mluvit i o regulaci umělé inteligence, o etice a o jejím právním ukotvení. Podle Kateřiny Lesch i  Petra Koubského je nějaká alespoň základní regulace na místě.

„Mně přijde smysluplné, jak je to odstupňované. Jsou tam omezení v rámci kritické infrastruktury a zákaz social scoringu. Je sice otázka, jestli se to stejně neděje, jen jinými cestami, ale přece jen je asi dobré se nad tím zamýšlet a dát tomu legislativní rámec,“ říká Lesch.

Čtěte také

Podvodná reklama je od té skutečné k nerozeznání. Na YouTube se šíří lavinovou rychlostí

Zakazovat umělou inteligenci podle Lesch nemá cenu, protože už se mezi širokou veřejnost dostala, a tak není možné její používání bez následků zastavit.

„Jsou regulovány všechny jaderné technologie, například velmi intenzivně regulován je i farmaceutický průmysl: od vývoje přes testování po použití léků. A našlo by se toho víc. Jsou to vesměs věci, které jsou rizikové, které mohou způsobit velké škody, když bychom tomu nechali volný průběh. Já myslím, že AI do této škatulky patří. A je dobře, že se regulace chystá,“ komentuje Koubský.

Jaké výzvy budou čekat na novináře ve spojení s umělou inteligencí? A jak se bude podle Kateřiny Lesch AI v nejbližší době vyvíjet? Poslechněte si Online Plus. Moderuje David Slížek.