Jesu li vaši AI video modeli usklađeni s propisima?

Prije nekoliko tjedana pripremali smo se za objavljivanje našeg tijeka rada od scenarija do videozapisa. Cijela poanta toga je dosljednost likova: definirate svoje glumce jednom i oni ostaju isti u svakoj sceni. Kako bismo to učinili, šaljemo referentne slike tih glumaca u video model pri svakoj generaciji.

I svaki od tih zahtjeva počeo se vraćati odbijen.

Model koji smo u to vrijeme koristili za visokokvalitetni video bio je Seedance, kineske tvrtke ByteDance (iste tvrtke koja posjeduje TikTok). Ispostavilo se da Seedance provodi prolaz detekcije lica na svakoj prenesenoj slici prije nego što uopće pročita vaš upit, i čvrsto blokira svaku sliku s prepoznatljivim ljudskim licem. Naši su glumci bili cijela značajka, a model ih je odbijao pogledati. Ovo je dobro dokumentirano: kreatori stalno udaraju u isti zid, pa čak i pružatelji API-ja trećih strana upozoravaju da "ByteDance pravila o sadržaju blokiraju slike sa stvarnim ljudskim licima." Nijedno prepisivanje upita to ne popravlja, jer upit nikada nije problem: slika se odbacuje u zasebnoj fazi skeniranja prije nego što se upit pročita.

Mogli smo isporučiti privremeno rješenje. Umjesto toga, cijelu smo razinu prebacili sa Seedancea. A tajming se pokazao puno važnijim nego što smo očekivali.

Ovo nikada nije bio samo naš problem

Dok smo se bavili filtrom sadržaja, Washington je bio zauzet pretvaranjem pitanja "koji AI model koristite" u pitanje usklađenosti.

Američka vlada pooštrava dva povezana, ali različita skupa pravila o AI-ju.

Prvo je već zakon. Program za sigurnost podataka Ministarstva pravosuđa ograničava određene transakcije koje Kini i drugim "zemljama od interesa" daju pristup skupnim osjetljivim osobnim podacima iz SAD-a ili podacima vezanim uz vladu. Izdano je prema Izvršnoj naredbi 14117, stupilo je na snagu 8. travnja 2025., a aktivna provedba započela je 8. srpnja 2025.. Kina, uključujući Hong Kong i Makao, jedna je od šest označenih zemalja od interesa. Obuhvaćene kategorije uključuju biometrijske identifikatore, preciznu geolokaciju, osobne zdravstvene podatke, osobne financijske podatke, genomske podatke i određene osobne identifikatore. To nije potpuna zabrana slanja bilo kakvih podataka izvan Sjedinjenih Država: primjenjivost ovisi o vrsti i količini podataka, transakciji, pružatelju usluga te vlasništvu ili nadležnosti pružatelja usluga. Pogledajte i konačno pravilo Saveznog registra.Drugi set pravila je noviji i brzo se razvija. Upravo ovog tjedna, ministar financija Scott Bessent zaprijetio je sankcijama kineskim tvrtkama za umjetnu inteligenciju zbog krađe intelektualnog vlasništva, a Bijela kuća optužila je Moonshot AI za destiliranje Anthropicovog modela Fable, uz napomenu da su imenovanja na Popis entiteta "na stolu". Izvještaji s portala Tom's Hardware i MLQ opisuju širi pritisak (ograničenja nabave, sigurnosne savjete i pravila odgovornosti) koji možda ne predstavlja formalnu zabranu, ali stvara stvarne prepreke za bilo koju tvrtku u SAD-u koja se oslanja na kineski model.

Nije riječ samo o jednom modelu ili jednoj zemlji

Lekcija koju smo izvukli nije bila "Seedance je loš". Bila je ta da svaki model na kojem gradite dolazi s politikom, jurisdikcijom i vremenskim prozorom dostupnosti koje ne kontrolirate, a bilo što od toga može se preko noći promijeniti na vašu štetu.

• Kineski video modeli su najočitije izloženi. ByteDanceov Seedance, Kuaishouov Kling, i MiniMaxov Hailuo kombiniraju agresivne, netransparentne filtre sadržaja s regulatornom metom na leđima.
• Moonshot AI-jev Kimi, kojeg je proizvođač reklamirao kao najveći model otvorenih težina na svijetu i koji je toliko popularan da ga Microsoft navodno testira za Copilot i Azure, sada je u središtu borbe oko sankcija. Timovi koji su standardizirali svoje poslovanje na njemu možda će iznenada trebati plan za izlaz.
• Čak i zapadni pružatelji usluga donose iznenađenja. ElevenLabs, vodeća tvrtka za glasovne tehnologije (koja nije iz Kine), tiho zabranjuje državnim tijelima korištenje svoje usluge bez prethodnog pisanog odobrenja u svojem Pravilniku o zabranjenoj upotrebi. Ako prodajete svoje proizvode javnom sektoru, ta klauzula vas može blokirati jednako snažno kao i ona geopolitička.Ovdje se ne radi o tome da jednom odaberete "dobre" pružatelje usluga i na tome stanete. Skup prihvatljivih modela je pokretna meta koja se mijenja iz razloga koji nemaju nikakve veze s vašim proizvodom.

Što VideoGen poduzima po tom pitanju

Smatramo da ne biste trebali pratiti ništa od navedenog kako biste izradili videozapis.

VideoGen je modelni sloj za AI videozapise. Naš usmjerivač modela nalazi se između vašeg tijeka rada i temeljnih pružatelja usluga te odlučuje koji će se model pokrenuti za svaku generaciju na temelju kvalitete, dostupnosti i prihvatljivosti, a ne na temelju toga čiji je logotip trenutačno popularan.

Konkretno, nakon epizode sa Seedanceom, prebacili smo generiranje videozapisa visoke kvalitete na Googleov Omni model, uz automatsku pričuvu na druge provjerene pružatelje usluga koji nisu iz Kine. Ako model odbije zahtjev, padne ili postane neprikladan, usmjerivač zaobilazi taj problem pri svakom zahtjevu, transparentno i bez potrebe da išta prepravljate. Naši glumci sada generiraju ispravno, a sigurnosni status cjelokupnog sustava mi održavamo kako vi ne biste morali.

Kontinuirano procjenjujemo modele i pružatelje usluga dostupne putem VideoGena, uključujući:

• Gdje se obrađuju korisnički podaci
• Koja tvrtka upravlja svakim modelom
• Zadržavaju li se podaci ili se koriste za obuku
• Koji se modeli mogu koristiti za određene korisnike ili regije
• Kako zamijeniti ograničeni model bez prekidanja tijeka rada

Ovo nije pravno jamstvo da je vaša tvrtka usklađena s propisima. Usklađenost ovisi o vašim podacima, vašim klijentima i vašim pravnim savjetnicima. Ono što možemo operativno potvrditi jest prihvatljivost modela, kontrole usmjeravanja podataka i pričuvne mehanizme koji održavaju tijek vašeg rada kada model postane neprikladan.

Zaključak

Ako ugrađujete AI videozapise u proizvod ili interni tijek rada, najvrjednije što možete učiniti jest prestati trajno povezivati svoj sustav s određenim modelom. Napravite inventuru onoga što vaš sustav zapravo poziva (uključujući i putem agregatora), pitajte gdje se podaci obrađuju i zadržavaju, te dajte prednost platformi koja može zamijeniti modele bez potrebe da vi mijenjate kod.

To je cijela premisa VideoGena. Gradite na modelnom sloju i nikada se ne morate pitati je li današnji model usklađen s propisima, jer to je naš posao, a ne vaš.

Počnite stvarati uz VideoGen ili razgovarajte s nama o prihvatljivosti modela za poduzeća ili reguliranu upotrebu.