SPOLEČNÝ DOPIS ASOCIACÍ K TRANSPARENTNOSTI A OZNAČOVÁNÍ V OBLASTI AI
Společný dopis asociací k transparentnosti a označování v oblasti AI směřovaný k rukám výkonné místopředsedkyně Evropské komise Henny Virkkunen.
Vážená paní výkonná místopředsedkyně,
obracíme se na Vás jménem asociací zastupujících audio a audiovizuální mediální komunitu v Evropě. Naši členové vytvářejí a distribuují důvěryhodný mediální obsah napříč EU, významně přispívají k mediálnímu pluralismu a představují věrohodnou protiváhu k dezinformacím.
Vítáme úsilí Komise poskytnout jasnější výklad povinností v oblasti transparentnosti podle článku 50 aktu o umělé inteligenci. Máme však vážné obavy ohledně několika aspektů návrhu pokynů, které mohou přinést nepřiměřené, technicky neproveditelné a v konečném důsledku kontraproduktivní výsledky.
Obáváme se především toho, že výklad ustanovení článku 50 odst. 4 a 5 a článku 3 bodu 60 je v návrhu pokynů příliš široký. Proto naléhavě žádáme o následující úpravy pokynů:
- Zúžit a vyjasnit definici deep fake obsahu (odstavce 107–109): Omezit ji na obsah, který představuje skutečné riziko klamání, namísto jejího rozšíření na pouhý „realistický“ obsah. Výslovně vyloučit fiktivní, neklamavý obsah, jakož i drobné obsahové nebo technické úpravy.
- Vyjasnit načasování zveřejnění informace, aby se předešlo trvalému označování (odstavec 132): Vyhnout se povinnostem průběžného nebo trvalého označování napříč obsahem, které by narušovalo zapojení publika.
- Zajistit přiměřené a technicky proveditelné standardy označování, které zohlední limity lidského vnímání a zabrání efektu „bannerové slepoty“.
V současném znění by pokyny vedly k nadměrnému a neudržitelnému označování široké škály profesionálního mediálního obsahu. Splnění všech požadavků by fakticky znamenalo, že by muselo být neustále zobrazováno označení, a to i v prostředích s nízkým rizikem. Takový výsledek by znamenal nejen značnou technickou a provozní zátěž, ale hlavně by podkopal důvěru publika v média tím, že by prostřednictvím vizuálního zahlcení vytvářel dojem nespolehlivosti, místo aby upozorňoval na skutečné riziko. To je obzvlášť problematické vzhledem k tomu, že poskytovatelé mediálních služeb již působí v rámci přísných standardů, které zajišťují regulační dohled a lidskou redakční odpovědnost.
Zaprvé, definice deep fake obsahu v návrhu pokynů výrazně přesahuje rámec předpokládaný aktem o umělé inteligenci. Tím, že se kritérium „existujícího“ obsahu ztotožňuje s širším pojmem „realistického“ obsahu, se pokyny významně odchylují od znění a účelu článku 3 bodu 60. Obdobně tím, že se dopad na publikum posuzuje z pohledu nejsnáze oklamatelného diváka namísto průměrného příjemce, návrh snižuje standard výrazně pod úroveň uplatňovanou v článku 50 odst. 1 a v ustálené praxi Komise.
Dohromady by tyto volby rozšířily povinnost označování na obsah, který je zjevně fiktivní nebo neklamavý, čímž by vznikla právní nejistota, byl by oslaben rizikově orientovaný přístup aktu o umělé inteligenci a docházelo by k systémovému nadměrnému označování. Definice a související povinnosti by se neměly vztahovat na obsah, který je zjevně fiktivní nebo nerealistický a nevytváří skutečné nejasnosti ohledně autenticity. Z pojmu deep fake by dále měly být vyloučeny nejen drobné technické, ale také drobné obsahové úpravy.
Zadruhé, pokyny nesprávně vykládají pravidlo načasování stanovené v aktu o umělé inteligenci. Článek 50 odst. 5 stanoví nejzazší okamžik pro zveřejnění informace. Nevytváří průběžnou povinnost. Výklad uvedený v odstavci 132, podle něhož musí být deep fake obsah označován trvale nebo v pozdějších fázích živého vysílání, je proto nepřiměřený a nemá oporu v právním předpisu. To se týká jak audiovizuálního, tak audio obsahu, u něhož je trvalé nebo opakované upozorňování obzvláště nepraktické a hrozí narušení poslechového zážitku. Samotné pokyny uznávají riziko „bannerové slepoty“: označování velkého množství neklamavého obsahu povede ke znecitlivění publika a oslabí cíl transparentnosti právě v případech, kdy je nejdůležitější.
Vzniká riziko, že pokyny v navrženém znění dosáhnou opačného výsledku, než je jejich deklarovaný cíl: místo budování důvěry publika v transparentnost umělé inteligence by diváky zaplavily označeními u neklamavého obsahu, čímž by oslabily význam samotného signálu, který mají tato označení zprostředkovat. Cílené úpravy definice deep fake obsahu, požadavků na implementaci a označování, jakož i rozdělení odpovědnosti jsou nezbytné k tomu, aby byly pokyny právně nezávadné i prakticky proveditelné.
Uvítali bychom možnost společně tuto záležitost projednat a dále ji s Vámi a Vaším týmem rozpracovat v termínu, který Vám bude vyhovovat.
S pozdravem
Signatáři v abecedním pořadí:
- Arbeitsgemeinschaft Privater Rundfunk (APR)
- Asociace komerčních televizí (AKTV)
- Association of Commercial Television and Video on Demand Services in Europe (ACT)
- Association of European Radios (AER)
- European Association of Television and Radio Sales Houses (egta)
- European Broadcasting Union (EBU)
- Verband Österreichischer Privatsender (VÖP)
- Verband Privater Medien (VAUNET)
