Európska únia prikáže označovať obsah umelej inteligencie. Zasiahne chatboty, deepfake videá aj médiá

Od 2. augusta 2026 sa v Európskej únii začnú uplatňovať pravidlá transparentnosti podľa článku 50 nariadenia AI Act. Ľudia majú vedieť, keď komunikujú s chatbotom, a niektoré texty, obrázky, zvuky či videá vytvorené alebo upravené umelou inteligenciou budú musieť byť označené. Pravidlá budú platiť aj na Slovensku a dotknú sa médií, firiem, e-shopov, škôl, influencerov aj používateľov sociálnych sietí.

Nariadenie AI Act vstúpilo do účinnosti 1. augusta 2024, no jeho pravidlá sa zapínajú postupne. Európska komisia na stránke Shaping Europe’s digital future uvádza, že plná uplatniteľnosť nariadenia je nastavená na 2. august 2026, s viacerými výnimkami a prechodnými obdobiami.

Pre bežného používateľa bude najviditeľnejšia práve časť o transparentnosti. Podľa AI Act Service Desk, oficiálnej informačnej platformy Európskej komisie, musí byť človek informovaný, keď priamo komunikuje so systémom umelej inteligencie, ak to nie je zjavné z okolností. V praxi to znamená, že zákaznícka podpora, poradenský chatbot alebo automatizovaný asistent by nemali vystupovať tak, aby používateľ nadobudol dojem, že píše s človekom.

Druhá viditeľná zmena sa týka obsahu. Poskytovatelia systémov, ktoré generujú syntetický text, obraz, zvuk alebo video, majú podľa článku 50 zabezpečiť, aby boli výstupy označené v strojovo čitateľnom formáte a rozpoznateľné ako umelo vytvorené alebo manipulované. Takéto označenie môže fungovať cez metadáta, technické značky alebo iné riešenia, ktoré si nevšimne každý používateľ, no dokážu s nimi pracovať platformy, redakčné systémy alebo overovacie nástroje.

Európska komisia 10. júna 2026 zverejnila finálny dobrovoľný kódex dobrej praxe pre označovanie AI-generovaného obsahu. Kódex sám o sebe nenahrádza právne povinnosti z AI Actu, má však firmám, vydavateľom a platformám pomôcť, aby označenia používali jednotnejšie. Komisia zverejnila aj sadu ikon, ktoré môžu nasadzovatelia generatívnych systémov využiť pri označovaní vybraného obsahu.

Pre čitateľa je dôležitý rozdiel medzi technickým označením a viditeľným upozornením. Technická značka môže byť ukrytá v súbore, zatiaľ čo viditeľné označenie je nápis pri článku, videu, obrázku alebo príspevku na sociálnej sieti. Pri deepfake obsahu, teda pri obraze, zvuku alebo videu, ktoré realisticky napodobňujú osoby, udalosti alebo výroky, budú musieť nasadzovatelia systémov zverejniť, že materiál bol umelo vytvorený alebo manipulovaný.

Pri textoch je režim užší. AI Act Service Desk uvádza, že pri texte publikovanom s cieľom informovať verejnosť o veciach verejného záujmu vzniká povinnosť zverejniť, že bol umelo vytvorený alebo manipulovaný, ak neprešiel ľudskou revíziou a ak zaň neexistuje redakčná zodpovednosť. Pre médiá to znamená, že samotné použitie umelej inteligencie pri príprave článku nemusí automaticky znamenať povinnosť výrazného označenia, ak text kontroluje redakcia a nesie zaň zodpovednosť.

Výnimku majú aj umelecké, kreatívne, satirické a fikčné diela. Pri nich má byť podľa článku 50 upozornenie primerané a nemá zbytočne narušiť zážitok z diela. Film, reklama alebo satirické video tak môžu používať syntetické prvky, no používateľ by mal mať primeranú možnosť zistiť, že časť obsahu vznikla alebo bola upravená umelou inteligenciou.

Pre slovenské e-shopy a firmy bude najpraktickejšia zmena pri zákazníckej komunikácii. Ak obchod používa chatbota na vybavovanie reklamácií, odporúčanie produktov alebo odpovede na otázky, používateľ má dostať jasnú informáciu, že komunikuje so systémom umelej inteligencie. Nestačí, aby sa to skrývalo v dlhých obchodných podmienkach, ak rozhranie pôsobí ako rozhovor so zamestnancom.

Marketingové agentúry, influenceri a firemné profily budú musieť venovať pozornosť najmä videám, hlasovým nahrávkam a realistickým obrázkom. Ak kampaň použije synteticky vytvorenú podobu človeka alebo upraví video tak, že môže pôsobiť ako skutočný záznam, označenie bude podstatné. Pri politickej reklame, verejných témach alebo krízovej komunikácii bude riziko ešte vyššie, pretože manipulatívny obsah môže vyvolať škodu skôr, ako ho platforma alebo úrad preverí.

Školy a univerzity sa s pravidlami stretnú najmä cez nástroje, ktoré používajú študenti a učitelia. AI Act už od 2. februára 2025 uplatňuje aj povinnosti v oblasti gramotnosti v umelej inteligencii, čo podľa Európskej komisie znamená potrebu rozumieť možnostiam a rizikám týchto systémov. Označenie výstupu preto nevyrieši otázku, či je odovzdaná práca pôvodná, či obsahuje chyby alebo či žiak rozumie tomu, čo odovzdal.

Samotné označenie obsahu nebude zárukou pravdivosti. Text označený ako vytvorený umelou inteligenciou môže byť vecne správny, neoznačený text môže byť zavádzajúci a označené video môže stále slúžiť na manipuláciu. Pravidlá majú zlepšiť rozpoznateľnosť pôvodu obsahu, no používateľ si bude musieť ďalej overovať zdroj, kontext a dôkazy.

Pri podozrivom obrázku má zmysel pozrieť sa najprv na pôvodný účet alebo web, ktorý ho zverejnil. Ak ide o údajnú fotografiu verejnej osoby, nehody alebo protestu, pomáha porovnať ju so správami dôveryhodných médií, oficiálnymi účtami inštitúcií a dátumom prvého výskytu. Spätné vyhľadávanie obrázkov cez bežné vyhľadávače môže ukázať, či rovnaký záber koloval už pri staršej udalosti alebo v inom štáte.

Pri videu je dôležité sledovať nielen tvár, ale aj zvuk, strih a zdroj. Deepfake môže mať neprirodzený pohyb pier, rozpadnuté detaily pri rýchlom pohybe alebo hlas bez bežnej intonácie, no moderné nástroje tieto chyby zmenšujú. Bezpečnejší postup je hľadať originálny záznam, preveriť, či ho publikovala dotknutá osoba alebo inštitúcia, a nešíriť video iba preto, že vyzerá presvedčivo.

Pri chatovacej komunikácii by mal používateľ spozornieť, ak ho systém tlačí do rýchleho rozhodnutia, pýta si platobné údaje, prihlasovacie meno, heslo alebo kódy z SMS. Označenie chatbota ešte neznamená, že ide o bezpečnú službu, a neoznačený automatizovaný účet môže byť súčasťou podvodu. Pri bankách, doručovacích firmách a štátnych službách treba radšej prejsť priamo na oficiálnu stránku namiesto kliknutia na odkaz v správe.

AI Act zavádza aj sankcie. Podľa článku 99 sa pokuty počítajú ako pevná suma alebo percento z celosvetového ročného obratu, podľa toho, čo je vyššie. Pri najzávažnejších porušeniach môže ísť až o 35 miliónov eur alebo 7 percent globálneho ročného obratu, hoci konkrétna výška závisí od typu porušenia a okolností prípadu.

Na Slovensku zostáva otvorené, ktorý národný orgán bude tieto transparentnostné povinnosti v praxi koordinovať a ako budú vyzerať slovenské verzie označení pre weby, videá, podcasty a sociálne siete. Ďalším sporom bude dokazovanie, kedy AI text prešiel dostatočnou ľudskou kontrolou a kedy sa vydavateľ alebo firma môže oprieť o redakčnú zodpovednosť.