Jsou vaše modely AI pro video v souladu s předpisy?

Před několika týdny jsme se připravovali na spuštění našeho pracovního postupu pro tvorbu videa ze scénáře. Hlavním smyslem je konzistence postav: své herce definujete jednou a oni zůstávají stejní v každé scéně. Abychom toho dosáhli, odesíláme referenční snímky těchto herců do našeho video modelu při každém generování.

A každý z těchto požadavků se začal vracet zamítnutý.

Model, který jsme v té době používali pro vysoce kvalitní video, byl Seedance od čínské společnosti ByteDance (stejná společnost, která vlastní TikTok). Ukázalo se, že Seedance provádí kontrolu detekce obličeje u každého nahraného obrázku předtím, než vůbec přečte váš prompt, a tvrdě blokuje jakýkoli obrázek s rozpoznatelným lidským obličejem. Naši herci byli hlavní součástí celé funkce a model je odmítal zpracovat. To je dobře zdokumentováno: tvůrci neustále narážejí na stejnou překážku a dokonce i poskytovatelé API třetích stran varují, že „obrázky se skutečnými lidskými tvářemi jsou blokovány pravidly obsahu společnosti ByteDance“. Žádné přepsání promptu to nevyřeší, protože problém nikdy není v promptu: obrázek je zamítnut ve fázi samostatného skenování ještě předtím, než je prompt přečten.

Mohli jsme zkusit řešení obejít. Místo toho jsme celou úroveň služeb přesunuli mimo Seedance. A ukázalo se, že načasování bylo mnohem důležitější, než jsme čekali.

Tohle nikdy nebyl jen náš problém

Zatímco jsme se potýkali s filtrem obsahu, Washington byl zaměstnán tím, že z otázky „jaký AI model používáte“ udělal otázku dodržování předpisů.

Vláda USA zpřísňuje dvě související, ale odlišné sady pravidel týkajících se AI.

První z nich je již zákonem. Program pro zabezpečení dat Ministerstva spravedlnosti omezuje určité transakce, které poskytují Číně a dalším „zemím, které jsou předmětem zájmu“, přístup k hromadným citlivým osobním údajům občanů USA nebo údajům souvisejícím s vládou. Byl vydán na základě exekutivního příkazu 14117, v vstoupil v platnost 8. dubna 2025 a k aktivnímu vymáhání přešel 8. července 2025. Čína, včetně Hongkongu a Macaa, je jednou ze šesti určených zemí, které jsou předmětem zájmu. Zahrnuté kategorie zahrnují biometrické identifikátory, přesnou geolokaci, osobní zdravotní údaje, osobní finanční údaje, genomická data a určité osobní identifikátory. Nejedná se o plošný zákaz posílání jakýchkoli dat mimo území Spojených států: použitelnost závisí na typu a objemu dat, transakci, poskytovateli a vlastnictví či jurisdikci poskytovatele. Viz také konečné znění pravidel ve Federálním registru.Druhá sada pravidel je novější a rychle se vyvíjí. Právě tento týden ministr financí Scott Bessent pohrozil sankcemi vůči čínským společnostem v oblasti AI kvůli krádeži duševního vlastnictví a Bílý dům obvinil společnost Moonshot AI z destilace modelu Fable od Anthropicu, přičemž zařazení na seznam subjektů (Entity List) je „na stole“. Zprávy z Tom's Hardware a MLQ popisují širší snahu (omezení veřejných zakázek, bezpečnostní poradenství a pravidla odpovědnosti), která sice není formálním zákazem, ale vytváří značné překážky pro každou americkou firmu postavenou na čínském modelu.

Nejde jen o jeden model nebo jednu zemi

Ponaučení, které jsme si vzali, nezní „Seedance je špatný“. Zní tak, že každý model, na kterém stavíte, přichází s pravidly, jurisdikcí a oknem dostupnosti, které neovládáte, a jakákoli z těchto věcí se může přes noc změnit.

• Čínské modely pro generování videa jsou nejvíce zjevně ohroženy. ByteDance Seedance, Kling Kling od Kuaishou a Hailuo od MiniMaxu kombinují agresivní, neprůhledné obsahové filtry s regulačním terčem na zádech.
• Kimi od Moonshot AI, svým tvůrcem označovaný za největší model s otevřenými vahami na světě a natolik populární, že jej Microsoft údajně testoval pro Copilot a Azure, je nyní v centru sankčního boje. Týmy, které na něm standardizovaly, mohou náhle potřebovat plán úniku.
• I západní poskytovatelé přinášejí překvapení. ElevenLabs, přední (nečínská) společnost zabývající se hlasovou technologií, tichou cestou zakazuje vládním subjektům používat svou službu bez předchozího písemného souhlasu ve svých Zásadách zakázaného užití. Pokud prodáváte do veřejného sektoru, tato klauzule vás může zablokovat stejně tvrdě jako ta geopolitická.Nejde o to, abyste jednou vybrali „dobré“ poskytovatele a měli hotovo. Množina přijatelných modelů se neustále mění, a to z důvodů, které s vaším produktem vůbec nesouvisí.

Jak to VideoGen řeší

Nemyslíme si, že byste museli toto všechno sledovat, jen abyste vytvořili video.

VideoGen je modelová vrstva pro AI video. Náš modelový směrovač (router) stojí mezi vaším workflow a základními poskytovateli a rozhoduje, který model provede každou generaci na základě kvality, dostupnosti a vhodnosti, nikoliv podle toho, jaké logo je zrovna v kurzu.

Konkrétně, po epizodě se Seedance jsme přesunuli vysoce kvalitní generování videa na Google Omni model s automatickým zálohováním na další prověřené poskytovatele mimo Čínu. Pokud model požadavek zamítne, vypadne nebo se stane nevyhovujícím, směrovač jej pro daný požadavek transparentně obejde, aniž byste museli cokoli přepisovat. Naši aktéři nyní generují čistě a o stav dodržování předpisů celého zásobníku se staráme my, takže vy nemusíte.

Průběžně hodnotíme modely a poskytovatele dostupné prostřednictvím VideoGen, včetně:

• Kde jsou zpracovávána zákaznická data
• Která společnost provozuje jednotlivé modely
• Zda jsou data uchovávána nebo používána k trénování
• Které modely lze použít pro konkrétní zákazníky nebo regiony
• Jak nahradit omezený model, aniž by se přerušilo workflow

Toto není právní záruka, že vaše společnost splňuje předpisy. Soulad s předpisy závisí na vašich datech, vašich zákaznících a vašem právním poradenství. Co můžeme provozně podložit, je vhodnost modelů, kontrola směrování dat a záložní řešení, která udrží vaše workflow v chodu, i když se model stane nevyhovujícím.

Hlavní myšlenka

Pokud integrujete AI video do produktu nebo interního workflow, to nejdůležitější, co můžete udělat, je přestat svůj zásobník „natvrdo“ propojovat s konkrétním modelem. Udělejte si inventuru toho, co váš zásobník skutečně volá (včetně volání přes agregátory), ptejte se, kde jsou vstupy zpracovávány a uchovávány, a dejte přednost platformě, která dokáže vyměnit modely, aniž byste museli nasazovat změny v kódu.

To je celá premisa VideoGen. Stavějte na vrstvě modelů a nikdy se nebudete muset ptát, zda je dnešní model ten správný a vyhovující – to je totiž naše práce, ne vaše.

Začněte tvořit s VideoGen nebo nás kontaktujte ohledně vhodnosti modelů pro enterprise nebo regulované použití.