CO JE AI?
Umělou inteligencí rozumíme technický systém schopný výstupů na základě adaptability, učení se, kreativity a autonomního chování.[i] Umělá inteligence ve smyslu předchozí věty se označuje též jako „AI“, což je zkratkou pojmů „Artificial intelligence“. Wikipedia tento pojem definuje jako inteligenci strojů nebo softwaru na rozdíl od inteligence jiných živých bytostí, především lidí. Jedná se o obor informatiky, který se zabývá vývojem a studiem inteligentních strojů. Takové stroje se mohou nazývat umělou inteligencí[ii].
První právně závaznou definici by měl zavést tzv. AI akt (právní předpis EU), a to jak definici „AI modelu“, tak i „AI systému“.
Obecně lze problematiku vztahu umělé inteligence a práv duševního vlastnictví rozdělit do následujících oblastí:
- ochrana práv k produktům umělé inteligence: a) ochrana patentů, tedy právo na ochranu vlastních technických zpracovatelských postupů a metod, b) autorské právo, tj. ochrana výstupů poskytnutých umělou inteligencí,
- ochrana práv, do nichž umělá inteligence zasáhne zpracováním či vytěžováním chráněných obsahů (zejména bez souhlasu autorů). Systémy umělé inteligence lze v tomto ohledu rozdělit mezi a) specializované softwary zaměřené na individuální cíl a b) platformy generující výtvory ve spolupráci s uživateli.
Z hlediska autorství, je možné vycházet z těchto základních variant:
- autorem díla je programátor modelu AI,
- autorem díla je nositel práv k dílům, na nichž AI „trénovala“,
- autorem díla je AI, tedy ta fyzická osoba, která má vlastnická či obdobná práva k danému modelu AI,
- autorem díla je uživatel AI.
Vzhledem k různé míře autonomie AI a tím determinovanému „přispění“ projevu člověka je možné jednotlivé modely AI různě kategorizovat, resp. otázku autorství posuzovat dle konkrétních okolností případu. „Odborná i laická veřejnost v poslední době přemítá zejména nad portrétem Edmonda Belamyho, který se prodal v aukčním domě za bezmála půl milionu dolarů. Portrét byl vytvořen s pomocí umělé inteligence, která pomocí algoritmu a definovaného rámce vytvářela požadovaný portrét. Obdobný mechanismus byl přitom aplikován v případě dalšího známého portrétu v rámci projektu Next Rembrandt. Od těchto specializovaných softwarů zacílených na jediný výtvor je však potřeba odlišit platformy v určitém rozsahu pracující s umělou inteligencí jako „hnací silou“. Příkladem takových platforem může být Humtap či Amper generující hudební skladby, Shelley generující hororové příběhy, DeepBeat generující texty či DeepArt generující vizuální výtvory. (…) Dané odlišení od specializovaného softwaru je podstatné zejména z důvodu odlišného tvůrčího procesu a s ohledem na rozsah personálního aparátu. Zatímco specializovaný software tvoří cíleně daný portrét či skladbu a jeho výstupy jsou v průběhu tvorby paralelně modifikovány samotnými autory umělé inteligence (popř. samotnou umělou inteligencí v případě sítí GAN), čímž je postupně tvůrčí proces usměrňován, v případě platformy je tvůrčí proces obohacen o roli uživatele a jeho dat, přičemž je naopak eliminováno primární zacílení na konkrétní výstup.“[iii]
KDO JE AUTOREM VÝSTUPU, KDO NESE ODPOVĚDNOST ZA ŠKODY ZPŮSOBENÉ VÝSTUPEM Z AI
Dle českého autorského zákona je chráněno autorské dílo, tj. dílo literární a jiné dílo umělecké a dílo vědecké, které je jedinečným výsledkem tvůrčí činnosti autora a je vyjádřeno v jakékoli objektivně vnímatelné podobě včetně podoby elektronické, trvale nebo dočasně, bez ohledu na jeho rozsah, účel nebo význam (§ 2 odst. 1 AZ). Dílem podle tohoto zákona není zejména námět díla sám o sobě, denní zpráva nebo jiný údaj sám o sobě, myšlenka, postup, princip, metoda, objev, vědecká teorie, matematický a obdobný vzorec, statistický graf a podobný předmět sám o sobě (§ 2 odst. 6 AZ).
K této otázce se již vyjádřil Městský soud v Praze, a to ve svém rozsudku č.j. 10 C 13/2023-16, v němž uvedl, že: „…soud konstatuje, že obrázek vytvořený umělou inteligencí nepředstavuje autorské dílo podle § 2 AZ, neboť nesplňuje pojmové znaky autorského díla. Neboť se nejedná o jedinečný výsledek tvůrčí činnosti fyzické osoby – autora. (…) co se týče samotného zadání, které údajně mělo být podkladem pro následný obrázek vytvořený umělou inteligencí, lze hovořit o námětu díla či eventuálně myšlence, které však samy o sobě nejsou autorským dílem dle § 2 odst. 6 autorského zákona. Autorské právo je právem absolutním příslušející individuálně určené osobě, pokud předmětný obrázek nevytvořil žalobce osobně, ale byl ztvárněn umělou inteligencí, nemůže se již z podstaty věci jednat o autorské dílo. Soud má tedy za to, že uvedený obrázek není autorským dílem, natož autorským dílem žalobce.“
Přístup tuzemského zákonodárce však není jediným, který by připadal do úvahy. Např. britská právní úprava, konkrétně čl. 9 odst. 3 zákona o autorském právu, užitných vzorech a patentech (1988!), stanoví že v případě literárních, dramatických, hudebních nebo uměleckých děl „vygenerovaných počítačem“ je za autora považována osoba, která vykonala činnosti nezbytné ke vzniku daného díla. Toto ustanovení se v britském zákoně objevilo poté, co bylo vydáno rozhodnutí z roku 1985 „Express Newspapers plc v. Liverpool Daily Post & Echo“, v němž bylo rozhodováno o otázce autorství tabulky náhodně generovaných čísel publikované v novinách jako loterie – zda je autorem tabulky počítač, a proto nejde o autorské dílo, anebo je jejím autorem programátor, a tedy je jeho autorským dílem. Soud tehdy dovodil, že počítač byl pouhým nástrojem a o jeho autorství nemůže být řeč.
VÝZNAMNÁ SOUDNÍ ROZHODNUTÍ RELEVANTNÍ Z POHLEDU AUTORSKÝCH PRÁV A AI
Po rozhodnutí „Express Newspapers plc v. Liverpool Daily Post & Echo“, z roku 1985, které jsme shrnuli zde … je dalším zajímavým rozhodnutím z oblasti AI rozsudek v případu Nova Productions Ltd v. Mazooma Games Ltd & Ors z roku 2007 který se týkal obvinění z porušení autorských práv v oblasti počítačových her. Společnost Nova Productions, výrobce arkádových videoher, tvrdila, že její hra „Pocket Money“ byla neoprávněně zkopírována hrami „Trick Shot“ a „Jackpot Pool“ od společností Mazooma Games a Bell-Fruit Games. Nova Productions zejména tvrdila, že hry „Trick Shot“ a „Jackpot Pool“ porušují její autorská práva tím, že kopírují vizuální prvky a herní mechaniky z „Pocket Money“. Nešlo o kopírování zdrojového kódu, ale o podobnost ve vzhledu a chování her. Soud prvního stupně dospěl k závěru, že i když existují určité podobnosti mezi hrami, tyto jsou obecné a vyplývají z běžných prvků her na téma kulečníku. Soud konstatoval, že nebyla prokázána dostatečná míra kopírování chráněných prvků, která by představovala porušení autorských práv. Nova Productions se proti rozhodnutí odvolala, ale odvolací soud potvrdil původní rozsudek. Soud zdůraznil, že autorské právo chrání konkrétní vyjádření myšlenek, nikoli samotné myšlenky nebo koncepty. Případ Nova Productions v. Mazooma Games tedy zdůrazňuje důležitost rozlišování mezi chráněným vyjádřením a nechráněnými myšlenkami či koncepty v oblasti autorského práva. Soudy dospěly k závěru, že obecné podobnosti mezi hrami na téma kulečníku nejsou dostatečné pro prokázání porušení autorských práv.
Zásadní a velmi praxi ovlivňující rozhodnutí soudu bylo vyhlášeno ve sporu mezi Football Association Premier League Ltd a další vs. QC Leisure a další (C-403/08) a Karen Murphy vs. Media Protection Services Ltd (C-429/08) (2011), v němž soud posuzoval celou řadu zásadních právních otázek, mimo jiné vztah pravidel hry fotbalového zápasu a otázku autorství hry realizované na základě těchto pravidel. Soud konstatoval, že autorovi pravidel není možné přiznat autorství individuálního fotbalového utkání, jelikož do něj svou tvůrčí osobnost nevtiskl. Soud uvedl, že pravidla hry a jejich aplikace v praxi (tj. organizace a průběh zápasů) nejsou výsledkem tvůrčí činnosti ve smyslu směrnice o autorském právu (2001/29/ES). Pravidla fotbalu jsou považována za obecné principy a myšlenky, které nepodléhají ochraně autorským právem, protože nejsou originálními díly.
Otázka autorství byla řešena rovněž ve spor Naruto v. Slater (2018), v němž soud rozhodoval, zda může zvíře (živá bytost odlišná od člověka) mít autorské právo k fotografii, kterou samo vytvořilo. Organizace People for the Ethical Treatment of Animals (PETA) podala žalobu jménem makaka Naruta, která se opírala o tvrzení, že autorské právo k fotografii pořízené Narutem prostřednictvím fotoaparátu pana Davida Slatera náleží jemu. Soud zamítl žalobu a rozhodl, že autorské právo k selfie patří Davidu Slaterovi, neboť vlastnil fotoaparát a vytvořil podmínky pro vznik fotografie, i když samotné stisknutí spouště provedl makak. Soud nicméně konstatoval, že podle platného autorského práva USA může být autorem a držitelem autorského práva pouze fyzická osoba (člověk).
Zcela zásadní význam pro další vývoj judikatury z oblasti AI a autorských práv představuje rozhodnutí Zemského soudu v Hamburku ze dne 27. září 2024 ve sporu Kneschke v. LAION, tj. mezi autorem-fotografem a neziskovou organizací LAION, jejímž cílem je podporovat výzkum v oblasti umělé inteligence poskytováním otevřených datových sad pro účely školení.
Organizace LAION zařadila obrázek žalobce do svých tréninkových dat, ačkoli internetové stránka, na níž se obrázek nacházel výslovně uváděla, že obrázek nesmí být použit pro „automatizovaní programy“. Organizace LAION však argumentovala, že jejich činnost je legální na základě výjimek v německém autorském zákoně, konkrétně § 44b, který umožňuje textové a datové dolování („text and data mining“, dále jen TDM) pro vědecké účely, pokud jsou díla legálně přístupná a autor výslovně nevyjádřil nesouhlas.
Soud dovodil, že se jedná o přípustný zásah do autorských práv, neboť dle názoru soudu organizace LAION mohla využít omezení autorského práva podle § 60d německého autorského zákona a čl. 3 směrnice EU 2019/790, o autorském právu na jednotném digitálním trhu. Soud zejména konstatoval, že vytvoření souboru dat jako základu pro trénink systémů AI lze považovat za vědecký výzkum, neboť se jedná o zásadní krok zaměřený na využití souboru dat pro budoucí generování znalostí. Komerční využití obrázku ze strany LAION soud odmítl a komerční využití souboru dat ze strany třetích osob označil za irelevantní. Soud zdůraznil, že LAION použil data výhradně k analýze korelací mezi obrazem a textem, nikoliv k přímému tréninku umělé inteligence (AI). Náhledy obrázků v nízkém rozlišení zveřejněné na internetu mohou být legálně použity, pokud je splněna výjimka pro TDM v rámci vědeckého výzkumu.
V rámci obiter dictum pak soud uvedl, že rozhodnutí se týká pouze kroku vytvoření datového souboru (krok 1) a nikoliv následného tréninku AI (krok 2) nebo jejího použití (krok 3). Tyto kroky by vyžadovaly samostatné posouzení práv a výjimek.
Shrnutí prvního tuzemského rozhodnutí ohledně autorství k výstupu AI je dostupné zde…
A co říkají licenční podmínky? Např. licenční podmínky chatu GPT uvádí, že výstup je majetkem toho, kdo chat GPT používá. Co je důvodem? S velkou pravděpodobností je důvodem obava z eventuální odpovědnosti za způsobenou škodu, k níž dojde v příčinné souvislosti s výstupem z chatu.
Více k autorskému právu v rozhodovací praxi tuzemských i zahraničních soudů zde…
PRÁVNÍ ÚPRAVA EU
Prvním dokumentem, který vznikl na půdě EU je sdělení Komise z dubna 2018 s názvem Umělá inteligence pro Evropu. V tomto dokumentu je především vyjádřeno, že spolu se vznikem umělé inteligence[iv] a jejím zaváděním do praxe se sci-fi realitou a zároveň příležitostí pro enormní rozvoj v mnoha oblastech lidské činnosti včetně lékařství nebo ochrany klimatu. Proto je vyžadován jednotný celoevropský přístup k této problematice.
Na tento dokument navazuje Bílá kniha o umělé inteligenci: evropský přístup k excelenci a důvěře z února 2020. V něm je konstatován vzestup a význam umělé inteligence a potřeba jednotného evropského přístupu k této otázce, resp. otázkám ve vztahu k občanům, podnikům a služeb veřejného zájmu (vzdělávání, energetika, bezpečnost atd.). Hlavními stavebními kameny této bílé knihy jsou a) politický rámec, který stanoví opatření pro sladění úsilí na evropské, vnitrostátní a regionální úrovni. Cílem rámce je za spolupráce soukromého a veřejného sektoru mobilizovat zdroje k dosažení „ekosystému excelence“ (pozn. zřejmě ve smyslu priority) v celém hodnotovém řetězci, počínaje výzkumem a inovacemi, a vytvořit správné pobídky k rychlejšímu příjímání řešení založených na umělé inteligenci, a to i v malých a středních podnicích, a dále b) klíčové prvky budoucího regulačního rámce pro umělou inteligenci v Evropě, který vytvoří jedinečný „ekosystém důvěry“. Vytvoření ekosystému důvěry je samo o sobě politickým cílem a mělo by občanům poskytnout důvěru v zavádění aplikací umělé inteligence a podnikům a veřejným organizacím právní jistotu pro inovace zahrnující umělou inteligenci. Komise důrazně podporuje přístup zaměřený na člověka a rovněž zohlední poznatky získané během pilotní fáze etických pokynů, které vypracovala odborná skupina pro umělou inteligenci.
Za zmínku nepochybně stojí také Usnesení Evropského parlamentu o právech duševního vlastnictví při vývoji technologií umělé inteligence z října 2020, neboť se jedná o jednu z mála „metodik“ zabývajících se touto tématikou. Usnesení ve svém úvodu zdůrazňuje ambici EU stát se lídrem v oblasti AI, kterou považuje za nutný předpoklad udržení konkurenceschopnosti a rozvoje EU. Usnesení konstatuje, že je třeba vyřešit vztah AI k autorským právům (jejich vysoká úroveň ochrany má být i nadále zajištěna) a patentové ochraně.
Na jednu stranu Evropský parlament v usnesení konstatuje, že předmětem ochrany může být jen dílo originálně vytvořené člověkem, nicméně považuje za potřebné poskytnout ochranu také produktům AI, jakožto předpokladu dalšího rozvoje technologií, poznání a ekonomiky založené na datech. Klade proto důraz na odstraňování zbytečných právních překážek a považuje za důležité vytvořit funkční a plně harmonizovaný regulační rámec v oblasti AI, přičemž preferuje nařízení spíše než směrnici.
Evropský parlament dále v textu svého usnesení doporučuje, aby byly dopady technologií umělé inteligence na práva duševního vlastnictví přednostně posuzovány podle odvětví a typů; domnívá se, že v rámci tohoto přístupu by mělo být např. přihlíženo k míře lidského zásahu, autonomii umělé inteligence, významu úlohy a původu použitých údajů a materiálu chráněného autorskými právy a k případnému vlivu jiných relevantních faktorů; připomíná, že každý přístup musí nalézt správnou rovnováhu mezi potřebou chránit investice, jak v podobě zdrojů, tak úsilí, a potřebou stimulovat tvorbu a sdílení. Zdůrazňuje, že je nezbytné, aby Komise usilovala o vyváženou a inovativní ochranu duševního vlastnictví ve prospěch evropských vývojářů technologií umělé inteligence.
Na internetových stránkách Evropské komise vznikla samostatná „záložka“ k rozvoji umělé inteligence jakožto součásti digitální budoucnosti[v]
Komise svůj postoj k AI vyjadřuje zcela jasně, když uvádí, že: „Způsob, jakým přistupujeme k umělé inteligenci, bude určovat svět, ve kterém budeme v budoucnu žít. Abychom pomohli vybudovat odolnou Evropu pro digitální desetiletí, měli by mít lidé a podniky možnost využívat výhod umělé inteligence a zároveň se cítit bezpečně a chráněni.“
V dubnu 2021 Komise představila svůj balíček týkající se AI, který obsahuje mimo jiné své sdělení o podpoře evropského přístupu k AI, přezkum koordinovaného plánu v oblasti umělé inteligence (s členskými státy EU), svůj návrh regulačního rámce pro umělou inteligenci a příslušné posouzení dopadů.
Dne 18. ledna 2024 Komise publikovala Sdělení o umělé inteligenci v Evropské komisi (AI@EC), v němž „nastiňuje strategickou vizi Evropské komise, jejímž cílem je podpořit interní vývoj a používání zákonných, bezpečných a důvěryhodných systémů umělé inteligence. Komise tím předjímá a interně se připravuje na provádění Aktu EU o umělé inteligenci, prvního komplexního zákona o umělé inteligenci na světě. Zahrnuje konkrétní opatření o tom, jak Komise ve své práci vybuduje institucionální a provozní kapacitu k zajištění bezpečného, transparentního a na člověka zaměřeného využívání AI. Komise se rovněž připravuje na spolupráci s orgány veřejné správy EU při přijímání a využívání AI a s inovativními startupy a GovTech společnostmi.“
AI ACT
Akt o umělé inteligenci (AI Act) byl na úrovni Evropské unie schválen a vstoupil v platnost. Evropský parlament jej přijal 13. března 2024, následně Rada Evropské unie schválila 21. května 2024. Nařízení bylo publikováno v Úředním věstníku EU 12. července 2024 jako nařízení Evropského parlamentu a Rady (EU) 2024/1689 a nabylo účinnosti 1. srpna 2024.
AI Act (formálně Nařízení Evropského parlamentu a Rady (EU) 2024/1689) je legislativní akt Evropské unie, který stanovuje harmonizovaná pravidla pro vývoj, uvádění na trh a používání systémů umělé inteligence (AI) v EU. Jeho cílem je zajistit bezpečnost, transparentnost a ochranu základních práv při využívání AI technologií. Klíčové prvky AI Actu zahrnují:
Kategorizace systémů AI podle rizika
AI Act zavádí rizikově orientovaný přístup, který rozděluje AI systémy do následujících kategorií:
- Zakázané systémy AI: Systémy, které představují nepřijatelné riziko, jako je sociální skórování nebo manipulativní techniky ovlivňující lidské chování.
- Vysoce rizikové systémy AI: Systémy, které mohou významně ovlivnit zdraví, bezpečnost nebo základní práva osob, například v oblastech zdravotnictví, vzdělávání, zaměstnanosti, kritické infrastruktury, vymáhání práva nebo spravedlnosti. Tyto systémy podléhají přísným požadavkům na posouzení shody, transparentnost a monitorování.
- Systémy s omezeným rizikem: Systémy, které vyžadují určitou míru transparentnosti, například chatboti, kde musí být uživatel informován, že komunikuje s AI systémem.
- Systémy s minimálním rizikem: Systémy, které nepředstavují významné riziko a na které se nevztahují specifické požadavky AI Actu.
Požadavky na vysoce rizikové systémy AI
Pro vysoce rizikové systémy AI AI Act stanovuje následující povinnosti:
- Řízení rizik: Implementace procesů pro identifikaci, hodnocení a minimalizaci rizik spojených s AI systémem.
- Transparentnost a poskytování informací: Zajištění, aby uživatelé byli informováni o fungování systému a jeho účelu.
- Lidský dohled: Zajištění, že nad rozhodováním AI systému je vykonáván adekvátní lidský dohled.
- Bezpečnost, robustnost a přesnost: Zajištění, že AI systém je bezpečný, spolehlivý a přesný v souladu s jeho určením.
Zákazy a omezení
AI Act výslovně zakazuje:
- Sociální skórování: Hodnocení jednotlivců na základě jejich chování, socioekonomického statusu nebo osobních charakteristik veřejnými nebo soukromými subjekty.
- Manipulativní techniky: Používání technik, které mohou podvědomě ovlivňovat chování lidí způsobem, který může způsobit fyzickou nebo psychickou újmu.
- Reálné biometrické sledování na dálku: Používání systémů pro reálné sledování osob na veřejných místech pomocí biometrických údajů, s výjimkou specifických situací, jako je prevence závažných trestných činů.
Povinnosti poskytovatelů a uživatelů AI systémů
- Poskytovatelé: Musí zajistit, že jejich AI systémy splňují požadavky AI Actu před uvedením na trh, včetně provedení posouzení shody a zajištění odpovídající dokumentace.
- Uživatelé: Musí používat AI systémy v souladu s pokyny poskytovatele a zajistit, že jsou systémy používány k určenému účelu.
Dohled a sankce
- Národní orgány: Členské státy EU musí určit národní orgány odpovědné za dohled nad dodržováním AI Actu a za provádění tržního dohledu.
- Sankce: Za porušení AI Actu mohou být uloženy pokuty až do výše 30 milionů eur nebo 6 % celosvětového ročního obratu společnosti, podle toho, která částka je vyšší.
Cílem AI Actu je vytvořit jednotný právní rámec pro AI v EU, který podporuje inovace a zároveň chrání občany před potenciálními riziky spojenými s používáním umělé inteligence.
Směrnice o odpovědnosti za umělou inteligenci
Evropská unie v roce 2024 přijala Směrnici o odpovědnosti za umělou inteligenci, která byla zveřejněna v Úředním věstníku Evropské unie L 210 ze dne 7. srpna 2024
Po přijetí směrnice mají členské státy obvykle dvě až tři roky na její transpozici do svých národních právních řádů. Národní legislativy musí být v souladu s pravidly stanovenými směrnicí, ale mají určitou flexibilitu v jejich provedení.
Tato směrnice byla navržena s cílem přizpůsobit pravidla mimosmluvní občanskoprávní odpovědnosti specifikům umělé inteligence a zajistit, aby oběti újmy způsobené AI měly stejný přístup k nápravě jako v jiných situacích.
Směrnice zavádí dvě hlavní opatření:
- Usnadnění důkazního břemene: V případech, kdy je obtížné prokázat zavinění nebo příčinnou souvislost mezi jednáním a vzniklou újmou způsobenou AI, směrnice umožňuje soudům uplatnit domněnku zavinění nebo příčinné souvislosti za určitých podmínek.
- Přístup k důkazům: Směrnice poskytuje poškozeným právo požadovat od poskytovatelů nebo uživatelů vysoce rizikových AI systémů informace a důkazy potřebné k prokázání jejich nároku na náhradu škody.
Tato směrnice doplňuje stávající právní rámec, včetně revidované směrnice o odpovědnosti za vadné výrobky, a společně s Aktem o umělé inteligenci tvoří komplexní přístup EU k regulaci a odpovědnosti v oblasti AI.
[i] https://www.europarl.europa.eu/news/en/headlines/society/20200827STO85804/what-is-artificial-intelligence-and-how-is-it-used
[ii] The intelligence of machines or software, as opposed to the intelligence of other living beings, primarily of humans. It is a field of study in computer science that develops and studies intelligent machines. Such machines may be called Ais“
[iii] ZIBNER, Jan, MYŠKA, Matěj. Umělá inteligence – výzva autorství. Iurium Scriptum, 2019, č. 1, s. 49-60
[iv] „Za umělou inteligenci s považují systémy vykazující inteligentní chování v podobě vyhodnocování svého okolí a následného rozhodování či vykonávání kroků – s určitou mírou autonomie – k dosažení konkrétních cílů. Systémy využívající technologii umělé inteligence mohou být čistě softwarové, které působí jen ve virtuálním světě (např. hlasoví asistenti, program na analýzu snímků, vyhledávače, systémy rozpoznávání hlasu a obličeje), nebo mohou být zabudovány do technického vybavení (např. pokročilé roboty, autonomní vozidla, drony a různé formy využití internetu věcí.“
[v] https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence