Obecně platí, že osoba, která použije cizí autorské dílo ve svém díle, musí přinejmenším citovat autora tohoto díla.[1] Nicméně obsah vytvořený AI nemůže být dle českého práva autorským dílem.[2]

To však neznamená, že by uživatel AI nikdy nemohl mít povinnost informovat o tom, že při přípravě díla použil generativní AI. Mohou to totiž vyžadovat obchodní podmínky příslušné generativní AI.

Například obchodní podmínky snad nejpopulárnější generativní AI ChatGPT[3] vyžadují, aby uživatelé, pokud chtějí zveřejnit své dílo a použili ChatGPT k editaci, revizi, přípravě draftu jejich díla, uvedli, že dané dílo nebylo vytvořeno výhradně člověkem. Autoři by tak měli jejich díla správně opatřit např. touto doložkou: Autor vytvořil tento text částečně za pomoci GPT-4, velkého jazykového modelu OpenAi. Po vytvoření návrhu díla jej autor zkontroloval, upravil dle svého uvážení a přebírá plnou zodpovědnost za obsah tohoto díla.[4]

Naopak obchodní podmínky generativní AI Claude AI vyžadují,[5] aby uživatel informoval své klienty o použití AI – avšak pouze v některých „rizikových oblastech.“ To zahrnuje například automatické generování článků žurnalisty či médii, poskytování doporučení s potenciálními právními důsledky, poskytování finančního poradenství, vyhodnocování solventnosti osoby, vyhodnocování jazykových a profesních zkoušek, diagnóza pacienta, ale i používání AI při vyhodnocování životopisů potenciálních zaměstnanců a mnohé další.

Obchodní podmínky některých generativních AI ale označení nevyžadují vůbec. Například generativní AI GEMINI umožňuje volné sdílení a publikování děl vytvořených za pomoci Gemini bez jakéhokoli označení.[6]

Povinnost označování obsahu generovaného AI tedy zatím upravují zejména obchodní podmínky použité generativní AI. Ale už od 2. srpna 2026 bude plně účinné nařízení evropského parlamentu a rady (EU) 2024/1689, tzv. akt o umělé inteligenci („AI Act“).[7]

Podle AI Act budou mít až na výjimky povinnost označování obsahu generovaného nebo upraveného AI pouze poskytovatelé (například OpenAI), tj. subjekty uvádějící na trh/ do provozu systém AI (například gpt 4.0).[8] Toto označení bude muset být strojově čitelné a zároveň být účinné v souladu s nejnovějším stavem technologií tedy např. za pomoci metadat. Označení nebude zapotřebí, pouze pokud příslušný systém AI bude plnit pouze asistenční funkci a provádět pouze standardní editaci, případně nijak podstatně nebude měnit vstupní údaje nebo jejich sémantiku.

Vzhledem k výši sankcí, které budou poskytovatelům hrozit (až 3 % z celosvětového ročního obratu), lze očekávat, že budou spíše opatrní. Například ChatGPT již dnes připojuje metadata k obrázkům vygenerovaným prostřednictvím systému AI DALL·E 3.[9] Ověřit tvůrce obrázku na základě uložených metadat je možné například zde.

Speciální povinnosti se budou vztahovat na poskytovatele „chatbota.“ Poskytovatel bude muset informovat své zákazníky o tom, že komunikují s AI, pokud tato skutečnost už nebude zřejmá z kontextu.  

Uživatel, který používá systém AI, který vytváří tzv. „deepfakes“[10], bude muset zveřejnit informaci o tom, že obsah byl uměle vytvořen anebo manipulován. Stejnou povinnost bude mít uživatel, který AI používá při přípravě nebo úpravě textu informujícího o skutečnosti ve veřejném zájmu. Tyto povinnosti se však nevztahují na osobu, která používá AI pouze pro svou osobní neprofesionální činnost.

Dále budou muset provozovatelé chat botů zajistit, aby fyzické osoby byly informovány o tom, že komunikují se systémem AI.

Připojujeme též odkaz na formulář (v angličtině) k otestování vlivu AI Act na vaši společnost ZDE.

Závěr

Označování obsahu vygenerovaného AI účinná právní úprava nevyžaduje. AI Act rovněž nezavádí obecnou povinnost uživatelů označovat obsah vytvořený AI. Přesto je důležité vždy důkladně ověřit podmínky pro sdílení obsahu vytvořeného nebo spoluvytvořeného příslušným systémem AI. Zároveň to, že uživatel nemá povinnost uvést, že použil AI neznamená, že tato informace nemůže být už součástí vygenerovaného obsahu.

[1] § 31 odst. 1 autorského zákona

[2] § 2 odst. 1 autorského zákona

[3] Sharing & publication policy | OpenAI

[4] Volně přeložen a upraven vzorový disclaimer Open AI, dostupný zde

[5]Usage Policy \ Anthropic

[6] Doplňkové smluvní podmínky pro Gemini API  |  Google AI for Developers

[7] L_202401689CS.000101.fmx.xml (europa.eu)

[8] „poskytovatelem“ fyzická nebo právnická osoba, veřejný orgán, agentura nebo jiný subjekt, který vyvíjí systém AI či obecný model AI nebo nechává vyvíjet systém AI či obecný model AI a uvádějí je na trh nebo které uvádějí systém AI do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou, ať už za úplatu, nebo zdarma;

[9] C2PA in DALL·E 3 | OpenAI Help Center, POZN. C2PA je označení pro technický standard používaný mj. CHATGPT pro připojení metadat k souboru

[10] „deep fake“ obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí, který se podobá existujícím osobám, objektům, místům subjektům či událostem a který by se dané osobě mohl nepravdivě jevit jako autentický nebo pravdivý;