Apakah model video AI Anda sudah sesuai (compliant)?

Beberapa minggu yang lalu, kami bersiap untuk meluncurkan alur kerja papan cerita (storyboard) ke video kami. Inti dari alur kerja ini adalah konsistensi karakter: Anda menentukan aktor Anda sekali, dan mereka tetap menjadi diri mereka sendiri di setiap adegan. Untuk melakukannya, kami mengirimkan gambar referensi aktor tersebut ke model video pada setiap pembuatan.

Dan setiap permintaan tersebut mulai kembali dengan penolakan.

Model yang kami gunakan untuk video berkualitas tinggi pada saat itu adalah Seedance, dari perusahaan Tiongkok ByteDance (perusahaan yang sama yang memiliki TikTok). Ternyata, Seedance menjalankan pemeriksaan deteksi wajah pada setiap gambar yang diunggah sebelum ia membaca prompt Anda, dan memblokir keras gambar apa pun dengan wajah manusia yang dapat dikenali. Aktor kami adalah fitur utamanya, dan model tersebut menolak untuk melihat mereka. Hal ini terdokumentasi dengan baik: para kreator terus-menerus menghadapi rintangan yang sama, dan bahkan penyedia API pihak ketiga memperingatkan bahwa "gambar dengan wajah manusia asli diblokir oleh kebijakan konten ByteDance." Tidak ada penulisan ulang prompt yang dapat memperbaikinya, karena prompt bukan masalahnya: gambar tersebut ditolak pada tahap pemindaian terpisah sebelum prompt dibaca.

Kami bisa saja merilis solusi sementara. Sebaliknya, kami memindahkan seluruh tingkatan dari Seedance. Dan waktu kejadian ini ternyata jauh lebih penting daripada yang kami perkirakan.

Ini bukan hanya masalah kami

Saat kami berurusan dengan filter konten, pemerintah Washington sibuk mengubah "model AI mana yang Anda gunakan" menjadi pertanyaan kepatuhan.

Pemerintah A.S. sedang memperketat dua rangkaian aturan yang terkait namun berbeda seputar AI.

Yang pertama sudah menjadi undang-undang. Program Keamanan Data Departemen Kehakiman membatasi transaksi tertentu yang memberikan akses kepada Tiongkok dan "negara-negara yang menjadi perhatian" lainnya terhadap data pribadi sensitif AS dalam jumlah besar atau data yang terkait dengan pemerintah. Aturan ini diterbitkan berdasarkan Perintah Eksekutif 14117, mulai berlaku pada 8 April 2025, dan mulai ditegakkan secara aktif pada 8 Juli 2025. Tiongkok, termasuk Hong Kong dan Makau, adalah salah satu dari enam negara yang ditetapkan sebagai negara yang menjadi perhatian. Kategori yang dicakup mencakup pengidentifikasi biometrik, geolokasi yang tepat, data kesehatan pribadi, data keuangan pribadi, data genomik, dan pengidentifikasi pribadi tertentu. Ini bukan larangan menyeluruh untuk mengirim data apa pun ke luar Amerika Serikat: penerapannya bergantung pada jenis dan volume data, transaksi, penyedia, serta kepemilikan atau yurisdiksi penyedia. Lihat juga aturan akhir Federal Register.Set aturan kedua lebih baru dan berkembang pesat. Minggu ini saja, Menteri Keuangan Scott Bessent mengancam sanksi terhadap perusahaan AI Tiongkok karena pencurian kekayaan intelektual, dan Gedung Putih menuduh Moonshot AI menyuling model Fable milik Anthropic, dengan penetapan Daftar Entitas "sedang dipertimbangkan." Laporan dari Tom's Hardware dan MLQ menggambarkan dorongan yang lebih luas (pembatasan pengadaan, nasihat keamanan, dan aturan kewajiban) yang tidak sampai pada larangan resmi namun menciptakan hambatan nyata bagi bisnis AS mana pun yang dibangun di atas model Tiongkok.

Ini bukan hanya tentang satu model, atau satu negara

Pelajaran yang kami petik bukanlah "Seedance buruk." Pelajarannya adalah bahwa setiap model yang Anda gunakan untuk membangun sesuatu dilengkapi dengan kebijakan, yurisdiksi, dan jendela ketersediaan yang tidak Anda kendalikan, dan salah satunya bisa berubah sewaktu-waktu tanpa sepengetahuan Anda.

• Model video Tiongkok adalah yang paling jelas terpapar. Seedance milik ByteDance, Kling dari Kuaishou, dan Hailuo dari MiniMax masing-masing menggabungkan filter konten yang agresif dan buram dengan target regulasi di punggung mereka.
• Kimi dari Moonshot AI, yang disebut oleh pembuatnya sebagai model open-weight terbesar di dunia dan cukup populer sehingga Microsoft kabarnya telah mengujinya untuk Copilot dan Azure, kini berada di pusat pertarungan sanksi. Tim yang telah menstandarisasi penggunaannya mungkin tiba-tiba memerlukan rencana keluar.
• Bahkan penyedia layanan Barat pun memiliki kejutan. ElevenLabs, perusahaan suara terkemuka (non-Tiongkok), secara diam-diam melarang entitas pemerintah menggunakan layanannya tanpa izin tertulis sebelumnya dalam Kebijakan Penggunaan Terlarang. Jika Anda berjualan ke sektor publik, klausul tersebut dapat menghambat Anda sama kerasnya dengan alasan geopolitik.Ini bukan tentang memilih penyedia "bagus" sekali saja lalu selesai. Kumpulan model yang dapat diterima adalah target yang terus bergerak, dan itu bergerak karena alasan yang tidak ada hubungannya dengan produk Anda.

Apa yang dilakukan VideoGen untuk mengatasinya

Kami tidak berpikir Anda harus memantau semua ini hanya untuk membuat video.

VideoGen adalah lapisan model untuk video AI. Router model kami berada di antara alur kerja Anda dan penyedia yang mendasarinya, dan router tersebut memutuskan model mana yang menjalankan setiap pembuatan berdasarkan kualitas, ketersediaan, dan kelayakan, bukan berdasarkan logo mana yang kebetulan sedang tren.

Secara konkret, setelah episode Seedance, kami memindahkan pembuatan video berkualitas tinggi ke model Omni milik Google, dengan cadangan otomatis ke penyedia lain yang telah diperiksa dan bukan berasal dari Tiongkok. Jika suatu model menolak permintaan, tidak aktif, atau menjadi tidak sesuai, router akan mengalihkan rute di sekitarnya pada permintaan tersebut, secara transparan, tanpa Anda harus menulis ulang apa pun. Aktor kami sekarang menghasilkan secara bersih, dan postur kepatuhan dari tumpukan teknologi tersebut adalah sesuatu yang kami kelola agar Anda tidak perlu melakukannya.

Kami terus mengevaluasi model dan penyedia yang tersedia melalui VideoGen, termasuk:

• Di mana data pelanggan diproses
• Perusahaan mana yang mengoperasikan setiap model
• Apakah data disimpan atau digunakan untuk pelatihan
• Model mana yang dapat digunakan untuk pelanggan atau wilayah tertentu
• Cara mengganti model yang dibatasi tanpa merusak alur kerja

Ini bukan jaminan hukum bahwa perusahaan Anda patuh. Kepatuhan bergantung pada data Anda, pelanggan Anda, dan penasihat hukum Anda. Apa yang dapat kami buktikan secara operasional adalah kelayakan model, kontrol perutean data, dan cadangan yang menjaga alur kerja Anda tetap berjalan saat sebuah model menjadi tidak sesuai.

Intinya

Jika Anda membangun video AI ke dalam produk atau alur kerja internal, hal paling berharga yang dapat Anda lakukan adalah berhenti menghubungkan tumpukan teknologi Anda secara permanen ke model tertentu. Inventarisasikan apa yang sebenarnya dipanggil oleh tumpukan teknologi Anda (termasuk melalui agregator), tanyakan di mana input diproses dan disimpan, serta pilih platform yang dapat menukar model tanpa Anda harus mengirimkan perubahan kode.

Itu adalah premis utama VideoGen. Bangunlah di lapisan model, dan Anda tidak perlu bertanya-tanya apakah model hari ini adalah model yang patuh, karena itu adalah tugas kami, bukan tugas Anda.

Mulai berkreasi dengan VideoGen, atau bicaralah dengan kami tentang kelayakan model untuk penggunaan perusahaan atau penggunaan yang diatur.