Jsou vaše modely AI pro video v souladu s předpisy?

Storyboard pro video závisí na konzistenci postav. Herce definujete jednou a udržujete je rozpoznatelné v každé scéně. Abychom toho dosáhli, posíláme referenční obrázky těchto herců do video modelu při každé generaci.

Naše cesta pro vysoce kvalitní video využívala Seedance od společnosti ByteDance (mateřská společnost TikToku). Seedance provádí u každého nahraného obrázku kontrolu detekce obličeje ještě předtím, než načte prompt, a tvrdě blokuje jakýkoli obrázek s rozpoznatelným lidským obličejem. Herců se tato funkce dotýká přímo a model tyto vstupy odmítal. To se projevuje všude. Tvůrci neustále narážejí na stejnou zeď a poskytovatelé API třetích stran varují, že „obrázky se skutečnými lidskými tvářemi jsou blokovány pravidly obsahu společnosti ByteDance“. Přepsání promptu nepomáhá. Problém nikdy není v promptu. Obrázek je odmítnut v samostatné fázi skenování předtím, než je prompt přečten.

Mohli jsme implementovat náhradní řešení. Místo toho jsme však naši úroveň vysoce kvalitního videa přesunuli mimo Seedance. Tato volba nabyla na důležitosti ve chvíli, kdy se výběr modelu stal také otázkou souladu s předpisy.

Výběr modelu se stává otázkou dodržování předpisů

Vláda USA zpřísňuje dvě související sady pravidel týkajících se AI.

První z nich je již zákonem. Program pro zabezpečení dat Ministerstva spravedlnosti omezuje určité transakce, které Číně a dalším „zemím, které vyvolávají obavy“, poskytují přístup k velkým objemům citlivých osobních údajů občanů USA nebo údajům souvisejícím s vládou. Byl vydán na základě exekutivního příkazu 14117, vstoupil v platnost 8. dubna 2025 a 8. července 2025 přešel do fáze aktivního vymáhání. Čína, včetně Hongkongu a Macaa, je jednou ze šesti určených zemí vyvolávajících obavy. Zahrnuté kategorie zahrnují biometrické identifikátory, přesnou geolokaci, osobní zdravotní údaje, osobní finanční údaje, genomické údaje a určité osobní identifikátory. Nejedná se o plošný zákaz odesílání jakýchkoli dat mimo území Spojených států. Použitelnost závisí na typu a objemu dat, transakci, poskytovateli a vlastnictví či jurisdikci poskytovatele. Viz také konečné pravidlo Federálního registru.Druhá sada je novější a stále se mění. Ministr financí Scott Bessent pohrozil sankcemi proti čínským společnostem v oblasti AI kvůli krádežím duševního vlastnictví a Bílý dům obvinil společnost Moonshot AI z destilace modelu Fable od společnosti Anthropic, přičemž zařazení na seznam subjektů (Entity List) je „na stole“. Zpravodajství z Tom's Hardware a MLQ popisuje širší úsilí (omezení veřejných zakázek, bezpečnostní doporučení a pravidla odpovědnosti), které sice nepředstavuje formální zákaz, ale vytváří skutečné tření pro jakoukoli firmu v USA postavenou na čínském modelu.

Nejde jen o jeden model nebo jednu zemi

Pointa není v tom, že Seedance je výjimečně špatný. Každý model, na kterém stavíte, má zásady, jurisdikci a okno dostupnosti, které nemáte pod kontrolou. Kterákoli z těchto věcí se může bez varování změnit.

• Čínské video modely jsou dnes nejvíce ohrožené. Seedance od ByteDance, Kling AI od společnosti Kuaishou Kling a Hailuo od společnosti MiniMax kombinují agresivní, neprůhledné obsahové filtry se zvyšujícím se regulačním rizikem.
• Kimi od Moonshot AI, svým tvůrcem propagovaný jako největší model s otevřenými vahami na světě a natolik populární, že jej podle zpráv testoval Microsoft pro Copilot a Azure, je nyní v centru sankčního boje. Týmy, které na něm standardizovaly, možná budou potřebovat ústupový plán.
• Poskytovatelé z USA a Evropy mají také svá překvapení. ElevenLabs zakazuje vládním subjektům používat svou službu bez předchozího písemného souhlasu. Pokud prodáváte do veřejného sektoru, tato klauzule vás může zablokovat stejně účinně jako ta geopolitická.

Sada přijatelných modelů se neustále mění, a to z důvodů, které nemají nic společného s vaším produktovým plánem.

Co s tím dělá VideoGenVideoGen stojí mezi vaším workflow a základními poskytovateli. Směrovač modelů vybírá, který model spustí každou generaci na základě kvality, dostupnosti a způsobilosti.

Po Seedance jsme přesunuli generování vysoce kvalitního videa na model Omni od Googlu s automatickým zálohováním na další prověřené poskytovatele mimo Čínu. Pokud model požadavek odmítne, vypadne nebo se stane nevhodným, směrovač jej pro daný požadavek obejde. Nemusíte přepisovat workflow. Odkazy na aktéry se čistě generují na aktuální cestě a my spravujeme způsobilost modelů jako součást provozu stacku.

Průběžně hodnotíme modely a poskytovatele dostupné prostřednictvím VideoGen, včetně:

• Kde jsou požadavky zpracovávány
• Která společnost každý model provozuje
• Zda jsou data uchovávána nebo používána pro trénování
• Které modely lze použít pro konkrétní zákazníky nebo regiony
• Jak nahradit omezený model, aniž by došlo k narušení workflow

Toto není právní záruka, že vaše společnost je v souladu s předpisy. Dodržování předpisů závisí na vašich datech, vašich zákaznících a vašem právním poradci. Co můžeme provozně doložit, je způsobilost modelu, kontrola směrování dat a záložní řešení, která udrží váš workflow v chodu, když se model stane nevhodným.

Hlavní poznatek

Pokud integrujete AI video do produktu nebo interního workflow, vyhněte se pevnému propojení vašeho stacku s konkrétním modelem. Udělejte si inventuru toho, co váš stack skutečně volá (včetně volání přes agregátory). Zeptejte se, kde jsou vstupy zpracovávány a uchovávány. Upřednostněte platformu, která dokáže vyměnit modely bez změny kódu.

Tak je VideoGen postaven. Způsobilost a směrování zůstávají provozní záležitostí, takže váš produkt nemusí absorbovat každou změnu zásad poskytovatele.

Začněte tvořit s VideoGen nebo si s námi promluvte o způsobilosti modelů pro podnikové nebo regulované použití.