Minulý týden jsem objevil článek a nové české umělé inteligenci pro generování obrázků. S různými AI nástroji pracuji aktivně. Pomáhají mi analyzovat data, dotvářet myšlenky, vizualizovat mé nápady a jiné zajímavé věci. A tak a tak jsem se rozhodl ji vyzkoušet, co všechno umí.

Pracoval jsem na marketingových materiálech a připravoval různé možnosti, jak to uchopit. Marketingové materiály se měly týkat nahého, ale slušného obsahu. Zadal jsem si koncem ledna poptávku na modelky. Tím myslím skutečné osoby, které by chtěly spolupracovat. Jenomže spolupráce s reálným člověkem je složitější. Za prvé musí splňovat mé požadavky a následně se musíme domluvit na vhodném termínu.

Jenomže najít modelku dle mých náročných představ je problém. Mám rád normální ženy, které nejsou ani hubené, ani tlusté. Prostě takové ty hezké ženy výrazných tvarů, které nevypadají jako reklama na hlad, nebo jako reklama na pneumatiky Michelin.

A když už tu máme nový nástroj AI pro generování obrázků, který by mi mohl ušetřit čas a vytvořit přesně to co potřebuji, tak by to bylo jedině super. Začal jsem tedy s testováním. Ve světě AI se tomu říká zadat prompt. Já to slovo nesnáším. Je to prostě textový popis, který AI převede do digitální podoby. Prostě příkaz, požadavek, popis.

Zadal jsem tedy příkaz, aby AI vytvořila fotografii nahé ženy, která byla přesně v té poloze a na tom kusu nábytku, který potřebuji. Hned první tři fotografie předčily mé očekávání. Výstup byl fantastický a úžasný pro mé potřeby. Jako grafik si dokážu nerealistickou postavu vyříznout z vygenerovaného obrázku a dosadit ji do reálné fotografie. Tedy spíš ještě lepší je vytvořit reálné fotografie přesně v té dané perspektivě, aby všechno sedělo a vypadalo to super. Marketing je totiž o vytváření iluzí a pokřivení reality. Například fotografie hamburgeru v reklamě vypadá vždy tisíckrát lépe, než je následně skutečná realita.

A tak jsem různě upravoval příkazy. Díky této úžasné technologii jsem mohl během jednoho odpoledne vytvořit stovky různých žen. Všechny krásné, smyslné, sexy. Upravoval jsem příkazy ohledně barvy vlasů, délky vlasů, tvaru vlasů, barvy očí, druhu postavy, …

Jenomže pak jsem udělal chybu a místo slovo žena jsem použil dívka. Každý ten výstup tří fotografií měl zároveň tlačítko na generování dalších 3 fotografií. A nebyly to nějaké málo detailní fotografie. Systém umožnil vygenerovat fotografie o velikosti 4 k (2160×3840 px), a tuto velikost lze ještě nechat vygenerovat dvakrát větší. Když mi to vygenerovalo nahou mladou dívku, tak jsem byl překvapen. Vlastně ne překvapen. Nechápal jsem to! Jak je to možné? Dobře, konečně někdo našel koule jeho AI umí generovat nereálné nahé ženy. Ale jako opravdu očividně vypadající na méně než 18 let?

Teď odbočím. Jsem otec malých i dospívajících dětí, celý život pracuji s dětmi a mládeží. Absolutně si nedovedu představit, že by někdo zneužíval mé děti, nebo i jiné děti.

A tak mě to celkem překvapilo. Dal jsem tedy vygenerovat další fotografie pomocí refresh tlačítka. Žádná změna. Hned se mi v hlavě vybavila hromada možných scénářů, jak takový nástroj může ovlivnit a podpořit miliony úchyláků. Už v tu dobu mi bylo jasné, že podám na tuto společnost trestní oznámení, ale to jsem ještě vůbec netušil co dokáže jejich AI. Začal jsem různě upravovat příkazy. AI my generovala další a další dětské explicitní obrázky.

AI neměla žádné zábrany. Vygenerovala cokoli, co jsem napsal. Ilustrační fotografie k sexuálním trestným činům. Pedofilii od těch nejmenších, až po dospívající, nebo staré muže mazlící se s dívkami, nahé ženy s nahými chlapci.

Ze všech těchto dokumentů jsem udělal celistvý soubor a podal trestní oznámení na společnost. Okamžitě se všemi důkazy odeslal na státní zastupitelství, protože jen oni mohou rychle zasáhnout. Jenomže to byla sobota. A přes víkend zaměstnanec nepracuje. Takže tato AI mohla být využita k nelegálním účelům dlouhé dny. Vlastně ani nevím, kdy byla spuštěna a jak dlouho byla otevřená pro takovéto zneužívání. Mým skromným odhadem mohlo dojít k vygenerování stovek tisíc explicitních fotografií, které jsou teď někde uloženy a sdíleny.

Když jsem se o tom bavil s několika lidmi, tak mě překvapily reakce!

Některé byly pozitivní a některé opravdu zarážející. Při konzultaci s odborníky  jsem dostal všeobecnou podporu, že jsem udělal správně a hned to řešil. Někteří lidé byli překvapeni, jak se něco takového může stát a jak vůbec člověk pracující s počítačem může k něčemu takovému dospět. A vůbec nejhorší reakce byly, že je lepší, když se uchyláci dívají na fotografie umělé inteligence, než na reálné.

Jenomže ti z poslední reakce si vůbec neuvědomuji, že s množstvím roste chuť. Hromada jedinců žijících ve virtuálním světě je schopná pak v tom reálném prožívat ten virtuální. A komu z rodičů by se líbilo, že jejich dítě je zneužíváno? Jako opravdu vám nevadí, že někdo zneužívá sousedovic dítě, hlavně že se to netýká vaší rodiny?

Ne, neexistuje jediný ospravedlnitelný důvod, proč mlčet a nekonat!

A teď si dáme trochu legislativy:

Trestní odpovědnost společnosti provozující AI generátor umožňující generování nezákonného obsahu v ČR a EU
Pokud společnost podnikající v České republice nebo v rámci Evropské unie provozuje AI generátor, který umožňuje generování zakázaného obsahu, včetně dětské pornografie, může čelit trestní odpovědnosti podle českého trestního zákoníku i evropských právních předpisů.

Trestní odpovědnost právnické osoby podle českého práva
V České republice je odpovědnost firem za trestné činy upravena zákonem č. 418/2011 Sb., o trestní odpovědnosti právnických osob.

Podle tohoto zákona může být právnická osoba trestně odpovědná za činy, které spáchal její zaměstnanec, jednatel nebo jiný odpovědný pracovník v rámci činnosti společnosti, pokud firma:

Nezabránila zneužití své technologie (nedostatečné filtry v AI systému).
Věděla o riziku a nekonala (ignorovala stížnosti nebo nereagovala na varování).
Přímo nebo nepřímo umožnila distribuci nelegálního obsahu.
Trestní zákoník (zákon č. 40/2009 Sb.) definuje dětskou pornografii jako nelegální a zahrnuje i virtuální dětskou pornografii (§ 192 Výroba a jiné nakládání s dětskou pornografií).

Výroba, distribuce nebo jiná manipulace s dětskou pornografií je trestná i tehdy, pokud je obsah vytvořen digitálně (tedy i umělou inteligencí).
Sankce pro právnické osoby zahrnují pokuty v řádech milionů korun, zákaz činnosti, zákaz plnění veřejných zakázek nebo soudní rozpuštění společnosti.
2. Odpovědnost podle evropského práva
Evropská unie má přísné právní normy na ochranu dětí před sexuálním vykořisťováním a dětskou pornografií. Mezi klíčové právní předpisy patří:

Směrnice Evropského parlamentu a Rady 2011/93/EU o boji proti sexuálnímu zneužívání dětí – Zakazuje veškeré formy vytváření a distribuce dětské pornografie, včetně digitálně generovaného obsahu.
Obecné nařízení o ochraně osobních údajů (GDPR) – Pokud AI generuje realistické dětské obrazy, mohlo by se jednat o neoprávněné zpracování citlivých údajů.
Akt o digitálních službách (DSA – Digital Services Act) – Ukládá provozovatelům digitálních služeb povinnost zabránit šíření nezákonného obsahu, včetně dětské pornografie.
Pokud česká firma působí v rámci EU, musí zajistit aktivní monitoring obsahu a rychlé odstraňování nezákonného materiálu, jinak může čelit sankcím nejen v ČR, ale i v jiných členských státech.

Příklady trestních postihů
Trestní odpovědnost společnosti
Firma provozující AI generátor, který umožňuje generování dětské pornografie, může být v ČR postihnuta podle zákona o trestní odpovědnosti právnických osob. Soud může uložit:

Pokutu až do výše stovek milionů Kč.
Zákaz činnosti nebo úplné zrušení společnosti.
Zabavení majetku získaného nelegální činností.
Trestní odpovědnost jednotlivců (zaměstnanců a vedení)
Odpovědní manažeři, vývojáři nebo jednatelé firmy mohou být osobně trestně odpovědní, pokud se prokáže, že věděli o riziku a nekonali. Mohou čelit:

Trestu odnětí svobody až na 6 let (§ 192 odst. 3 TZ ČR).
Zákazu činnosti v oboru informačních technologií.
Zápisu v trestním rejstříku, což může vést k profesní diskvalifikaci.

Jak se může firma bránit trestní odpovědnosti?
Pokud chce společnost provozující AI generátor snížit riziko trestní odpovědnosti, musí zavést preventivní opatření:

– Technické filtry – Systém musí mít automatické blokace a detekci zakázaného obsahu.
– Aktivní moderace – Monitoring generovaného obsahu a rychlé mazání problematických výstupů.
–  Spolupráce s policií a úřady – Pokud firma spolupracuje na vyšetřování a poskytuje data o podezřelých uživatelích, může zmírnit právní následky.
–  Jasné podmínky používání služby – Podmínky musejí striktně zakazovat generování jakéhokoliv nelegálního obsahu.

Pokud česká firma provozuje AI generátor umožňující generování dětské pornografie, může být:

Trestně stíhána jako právnická osoba (pokuty, zákaz činnosti, rozpuštění společnosti).
Odpovědné osoby mohou být osobně trestně stíhány (vězení, pokuty, zákaz činnosti).
Sankcionována podle evropských právních předpisů (DSA, GDPR, směrnice EU).
Proto je naprosto nezbytné, aby firmy provozující AI generátory měly robustní filtrační mechanismy, aktivní moderaci a transparentní spolupráci s úřady, aby se vyhnuly trestní odpovědnosti.