Adakah model video AI anda mematuhi peraturan?

Beberapa minggu yang lalu, kami sedang bersiap untuk menghantar aliran kerja papan cerita ke video kami. Tujuan keseluruhannya adalah konsistensi watak: anda mentakrifkan pelakon anda sekali, dan mereka kekal sebagai diri mereka sendiri dalam setiap babak. Untuk melakukan itu, kami menghantar imej rujukan pelakon tersebut ke dalam model video pada setiap penjanaan.

Dan setiap satu daripada permintaan tersebut mula kembali ditolak.

Model yang kami gunakan untuk video berkualiti tinggi pada masa itu ialah Seedance, daripada syarikat China ByteDance (syarikat yang sama yang memiliki TikTok). Ternyata Seedance menjalankan pemeriksaan pengesanan wajah pada setiap imej yang dimuat naik sebelum ia membaca arahan anda, dan ia menyekat sebarang imej dengan wajah manusia yang boleh dikenali. Pelakon kami adalah keseluruhan ciri tersebut, dan model itu enggan melihat mereka. Perkara ini didokumenkan dengan jelas: pencipta sering menghadapi halangan yang sama secara berterusan, malah penyedia API pihak ketiga memberi amaran bahawa "imej dengan wajah manusia sebenar disekat oleh dasar kandungan ByteDance." Tiada penulisan semula arahan yang dapat membaikinya, kerana arahan bukanlah masalahnya: imej tersebut ditolak pada peringkat imbasan berasingan sebelum arahan dibaca.

Kami boleh sahaja menghantar penyelesaian sementara. Sebaliknya, kami memindahkan keseluruhan peringkat itu daripada Seedance. Dan masa ternyata lebih penting daripada yang kami jangkakan.

Ini bukan sekadar masalah kami sahaja

Semasa kami berurusan dengan penapis kandungan, Washington sibuk mengubah "model AI yang manakah anda gunakan" menjadi soalan pematuhan.

Kerajaan A.S. sedang mengetatkan dua set peraturan yang berkaitan tetapi berbeza mengenai AI.

Pertama sudah menjadi undang-undang. Program Keselamatan Data Jabatan Kehakiman menyekat transaksi tertentu yang memberi akses kepada China dan "negara yang membimbangkan" lain terhadap data sensitif pukal A.S. atau data yang berkaitan dengan kerajaan. Ia dikeluarkan di bawah Perintah Eksekutif 14117, berkuat kuasa pada 8 April 2025, dan bergerak ke penguatkuasaan aktif pada 8 Julai 2025. China, termasuk Hong Kong dan Macau, adalah salah satu daripada enam negara yang ditetapkan sebagai membimbangkan. Kategori yang diliputi termasuk pengecam biometrik, lokasi geografi yang tepat, data kesihatan peribadi, data kewangan peribadi, data genomik, dan pengecam peribadi tertentu. Ia bukan larangan menyeluruh untuk menghantar sebarang data ke luar Amerika Syarikat: kebolehgunaan bergantung pada jenis dan jumlah data, transaksi, penyedia, dan pemilikan atau bidang kuasa penyedia. Lihat juga peraturan akhir Daftar Persekutuan.Set peraturan kedua adalah lebih baharu dan berkembang dengan pantas. Minggu ini sahaja, Setiausaha Perbendaharaan Scott Bessent mengancam sekatan terhadap syarikat AI China berhubung kecurian harta intelek, dan Rumah Putih mendakwa Moonshot AI menyuling model Fable milik Anthropic, dengan penetapan Senarai Entiti "dipertimbangkan." Laporan daripada Tom's Hardware dan MLQ menggambarkan usaha yang lebih meluas (sekatan perolehan, nasihat keselamatan, dan peraturan liabiliti) yang tidak mencapai tahap larangan rasmi tetapi mewujudkan geseran sebenar bagi mana-mana perniagaan A.S. yang dibina berasaskan model China.

Ia bukan hanya mengenai satu model, atau satu negara

Pelajaran yang kami perolehi bukanlah "Seedance buruk." Sebaliknya, setiap model yang anda gunakan disertakan dengan polisi, bidang kuasa, dan tetingkap ketersediaan yang anda tidak kawal, dan mana-mana daripadanya boleh berubah sewaktu anda sedang menggunakannya.

• Model video China adalah yang paling jelas terdedah. Seedance milik ByteDance, Kling milik Kuaishou, dan Hailuo milik MiniMax masing-masing menggabungkan penapis kandungan yang agresif dan legap dengan sasaran kawal selia yang membayangi mereka.
• Kimi milik Moonshot AI, yang diuar-uarkan oleh pembuatnya sebagai model berat terbuka terbesar di dunia dan cukup popular sehingga Microsoft dilaporkan telah mengujinya untuk Copilot dan Azure, kini berada di pusat perjuangan sekatan. Pasukan yang telah menyeragamkannya mungkin tiba-tiba memerlukan pelan keluar.
• Malah penyedia Barat juga membawa kejutan. ElevenLabs, syarikat suara terkemuka (bukan China), secara senyap melarang entiti kerajaan daripada menggunakan perkhidmatannya tanpa kebenaran bertulis terlebih dahulu dalam Polisi Penggunaan Terlarang mereka. Jika anda menjual kepada sektor awam, klausa itu boleh menyekat anda sama kuatnya dengan sekatan geopolitik.Tiada satu pun daripada ini mengenai memilih pembekal yang "baik" sekali sahaja kemudian beralih arah. Set model yang boleh diterima merupakan sasaran yang sentiasa berubah, dan ia berubah atas sebab yang tiada kaitan dengan produk anda.

Apa yang VideoGen lakukan mengenainya

Kami rasa anda tidak sepatutnya perlu menjejaki semua ini untuk menghasilkan video.

VideoGen ialah lapisan model untuk video AI. Penghala model kami berada di antara aliran kerja anda dan pembekal asas, dan ia memutuskan model mana yang menjalankan setiap penjanaan berdasarkan kualiti, ketersediaan, dan kelayakan, bukan berdasarkan logo yang kebetulan menjadi tumpuan.

Secara konkrit, selepas episod Seedance, kami memindahkan penjanaan video berkualiti tinggi ke model Omni Google, dengan sandaran automatik kepada pembekal lain yang disemak dan bukan dari China. Jika sesuatu model menolak permintaan, tidak berfungsi, atau menjadi tidak sesuai, penghala akan melencongkan permintaan tersebut, secara telus, tanpa anda perlu menulis semula apa-apa. Pelakon kami menjana dengan bersih sekarang, dan kedudukan pematuhan bagi tindanan tersebut adalah sesuatu yang kami uruskan supaya anda tidak perlu melakukannya.

Kami sentiasa menilai model dan pembekal yang tersedia melalui VideoGen, termasuk:

• Di mana data pelanggan diproses
• Syarikat mana yang mengendalikan setiap model
• Sama ada data disimpan atau digunakan untuk latihan
• Model mana yang boleh digunakan untuk pelanggan atau wilayah tertentu
• Cara menggantikan model yang dihadkan tanpa menjejaskan aliran kerja

Ini bukanlah jaminan undang-undang bahawa syarikat anda mematuhi peraturan. Pematuhan bergantung pada data anda, pelanggan anda, dan peguam anda. Apa yang boleh kami buktikan secara operasi ialah kelayakan model, kawalan penghalaan data, dan sandaran yang memastikan aliran kerja anda terus berjalan apabila sesuatu model menjadi tidak sesuai.

Kesimpulannya

Jika anda sedang membina video AI ke dalam produk atau aliran kerja dalaman, perkara paling berharga yang boleh anda lakukan ialah berhenti menyambungkan tindanan anda secara tetap kepada model tertentu. Senaraikan apa yang sebenarnya dipanggil oleh tindanan anda (termasuk melalui pengagregat), tanya di mana input diproses dan disimpan, dan utamakan platform yang boleh menukar model tanpa anda perlu menghantar perubahan kod.

Itulah keseluruhan premis VideoGen. Bina di atas lapisan model, dan anda tidak perlu tertanya-tanya sama ada model hari ini adalah yang mematuhi peraturan, kerana itu adalah tugas kami, bukan tugas anda.

Mula mencipta dengan VideoGen, atau berbincang dengan kami mengenai kelayakan model untuk kegunaan perusahaan atau terkawal.