Obsah vytvořený pomocí AI může vypadat tak realisticky, že je někdy těžké rozpoznat, co je skutečné a co fikce. Aby k tomu na YouTube nedocházelo, oznámil Google nová pravidla pro tvůrce, podle kterých by měl být obsah generovaný umělou inteligencí ve videu jasně označen pomocí speciální značky.
Boj proti dezinformacím na YouTube začal
Boj proti dezinformacím oznámila společnost Google již loni a nyní přešla od slov k činům. Nová pravidla se týkají tvůrců obsahu, kteří, jak je uvedeno na oficiálním blogu YouTube, budou muset odhalit „změněný a syntetický obsah“, tedy ta videa, která vypadají jako skutečná, ale jsou vygenerována umělou inteligencí.
Tvůrci obsahu tak budou muset označit obsah, kde je skutečná tvář nahrazena jinou tváří nebo je ve videu použit synteticky generovaný lidský hlas. Týká se to zejména deepfake fotografií a videí, u kterých musí být každému jasné, že nejsou skutečné, ale jsou výsledkem technologie.
Musí být také označeno, pokud se používají a upravují obrázky a videa skutečných událostí nebo míst, například když video ukazuje požár ve slavné budově a bylo vytvořeno pomocí nástrojů umělé inteligence.
Je to stejné jako při vytváření realistických scén k vytvoření některých fiktivních událostí.
YouTube uvedl příklad tornáda přibližujícího se ke skutečnému městu. Pokud takové video není označeno jako uměle generovaný obsah, mohou si lidé myslet, že reálně hrozí tornádo, které by nakonec mohlo vést k velké panice.
Samozřejmě ne každý takto uměle vytvořený obsah by měl být označen jako pozměněný obsah. Týká se to, jak se na YouTube říká, „zjevně nereálného obsahu“, stejně jako některých speciálních efektů, jako je rozostření pozadí, filtry či jiná vizuální vylepšení, i když je při jejich tvorbě použita umělá inteligence.
V případě, že tvůrci neuvedou, že jejich obsah, který vypadá realisticky, byl vytvořen pomocí umělé inteligence, může YouTube proti kanálu podniknout určité kroky. Těm, kteří tato pravidla nebudou respektovat, tedy hrozí odstranění obsahu, smazání videí a také pozastavení účasti v partnerském programu, ve kterém mohou uživatelé svými videi vydělávat.
Příznak pozměněného a syntetického obsahu by se měl brzy objevit na počítačích, mobilních zařízeních a televizích. Můžeme jej očekávat i v mobilní aplikaci YouTube.
„Tvůrci jsou srdcem YouTube a budou i nadále hrát neuvěřitelně důležitou roli při pomoci svému publiku pochopit, přijmout a přizpůsobit se světu generativní umělé inteligence. Bude to neustále se vyvíjející proces a my na YouTube se budeme i nadále zlepšovat, jak se budeme učit. Doufáme, že tato zvýšená transparentnost nám všem pomůže lépe ocenit způsoby, jak umělá inteligence nadále posiluje lidskou kreativitu,“ uvedla společnost Google na svém blogu.
Autor: Jan Votruba.
