あなたの利用しているAI動画モデルはコンプライアンスに準拠していますか？

数週間前、私たちはストーリーボードから動画へのワークフローをリリースする準備をしていました。その核心となるのはキャラクターの一貫性です。一度俳優を定義すれば、すべてのシーンでその俳優が維持されるという仕組みです。これを実現するために、生成のたびに、それら俳優の参照画像をビデオモデルに送信しています。

ところが、そのリクエストのすべてが拒否されて戻ってくるようになりました。

当時、高品質な動画生成のために使用していたモデルは、中国企業であるByteDance（TikTokの親会社です）によるSeedanceでした。判明したことですが、Seedanceはプロンプトを読み込む前であっても、アップロードされたすべての画像に対して顔検出パスを実行しており、認識可能な人間の顔が含まれる画像をすべて強制的にブロックしていたのです。私たちの機能にとって俳優は肝心要であったにもかかわらず、モデルはそれを見ることを拒否しました。これはよく知られた問題で、クリエイターたちは常に同じ壁にぶつかっており、サードパーティのAPIプロバイダーでさえ「実際の人の顔が含まれる画像は、ByteDanceのコンテンツポリシーによってブロックされます」と警告しています。プロンプトを書き換えても解決しません。なぜなら問題はプロンプトではないからです。画像は、プロンプトが読み込まれる前の別のスキャン段階で拒否されているのです。

私たちは代替案を実装することもできましたが、代わりにSeedanceを使用していた層全体を別のモデルへ移行させました。そしてそのタイミングが、私たちが予想していたよりもはるかに重要であることが判明しました。

これは決して私たちだけの問題ではなかった

私たちがコンテンツフィルターに対処している間、ワシントンでは「どのAIモデルを使用しているか」がコンプライアンス上の問いへと変わりつつありました。

米国政府は、AIに関する関連しつつも異なる2つの規制セットを強化しています。

第一のセットはすでに法律となっています。司法省のデータセキュリティプログラムは、中国およびその他の「懸念国」に対して、米国人の機密性の高いバルクデータや政府関連データへのアクセスを与える特定の取引を制限するものです。これは大統領令14117の下で発行され、2025年4月8日に発効し、2025年7月8日から積極的な執行体制に移行しました。香港とマカオを含む中国は、指定された6つの懸念国の1つです。対象となるカテゴリには、生体識別情報、正確な地理位置情報、個人の健康データ、個人の金融データ、ゲノムデータ、および特定の個人識別情報が含まれます。これは米国からデータを国外へ送信することを全面的に禁止するものではありません。適用範囲は、データの種類と量、取引内容、プロバイダー、およびプロバイダーの所有権や管轄権によって異なります。詳細は連邦官報の最終規則を参照してください。2番目のルールセットはより新しく、急速に動いています。今週だけで、スコット・ベサント財務長官は知的財産権の窃盗を理由に中国のAI企業に対する制裁を示唆し、ホワイトハウスはMoonshot AIがAnthropicのFableモデルを蒸留（distilling）したと非難しました。エンティティリストへの指定も「検討のテーブルに載っている」状態です。Tom's HardwareおよびMLQの報道によると、正式な禁止にまでは至らないものの、調達制限、セキュリティ勧告、責任ルールなどを通じて中国製モデルに依存する米国のあらゆるビジネスに深刻な摩擦を生じさせる、より広範な推進策が検討されています。

単なる一つのモデル、一つの国の問題ではない

私たちが得た教訓は「Seedanceが悪い」ということではありません。私たちが構築するあらゆるモデルには、私たちが制御できないポリシー、管轄権、提供期間が伴い、それらのいずれかが一夜にして変わる可能性があるということです。

• 中国の動画モデルは最も明らかにリスクにさらされています。 ByteDanceのSeedance、KuaishouのKling、そしてMiniMaxのHailuoは、いずれも攻撃的で不透明なコンテンツフィルタリングを導入しており、規制の対象となっています。
• Moonshot AIのKimiは、開発元によって世界最大のオープンウェイトモデルであると称され、MicrosoftがCopilotやAzureでの利用をテストしていると報じられるほど人気がありましたが、現在は制裁争いの中心にあります。このモデルを標準化していたチームは、突然出口戦略が必要になるかもしれません。
• 西側のプロバイダーであっても驚きはあります。 大手（非中国系）音声企業であるElevenLabsは、禁止利用ポリシーにおいて、事前の書面による許可なしに政府機関が同社のサービスを利用することをひっそりと禁じています。公共部門に向けた販売を行っている場合、その条項は地政学的な問題と同じくらい強力なブロック要因となり得ます。これらはすべて、「良い」プロバイダーを一度選んで終わり、という話ではありません。受け入れ可能なモデルの基準は常に変動するものであり、しかもそれは貴社のプロダクトとは無関係な理由で変化します。

VideoGenの取り組み

動画を生成するために、こうした状況をすべて把握する必要があるべきではないと私たちは考えています。

VideoGenはAI動画のためのモデルレイヤーです。当社のモデルルーターは、貴社のワークフローと基盤となるプロバイダーの間に立ち、その時々のトレンドではなく、品質、可用性、適合性に基づいて、各生成にどのモデルを使用するかを判断します。

具体的には、Seedanceの一件の後、当社は高品質な動画生成をGoogleのOmniモデルへと移行させ、同時に他の審査済みである中国以外のプロバイダーへ自動的にフォールバックするようにしました。もしあるモデルがリクエストを拒否したり、ダウンしたり、不適切になったりした場合、ルーターがそのリクエストを自動的に迂回させるため、貴社がコードを書き直す必要はありません。現在、当社のアクティング生成はクリーンに行われており、スタックのコンプライアンス維持は私たちが管理するため、貴社が気にする必要はありません。

私たちはVideoGenを通じて利用可能なモデルとプロバイダーを継続的に評価しており、その項目は以下の通りです。

• 顧客データがどこで処理されるか
• 各モデルをどの企業が運営しているか
• データが保持されるか、または学習に使用されるか
• 特定の顧客や地域に対してどのモデルが使用可能か
• ワークフローを中断させずに制限されたモデルをどのように置き換えるか

これは、貴社がコンプライアンスを遵守していることを法的に保証するものではありません。コンプライアンスは、貴社のデータ、顧客、および顧問弁護士によって判断されるべきものです。私たちが運用レベルで保証できるのは、モデルの適合性、データルーティングの制御、そしてモデルが不適切になった際にワークフローを継続させるためのフォールバック機能です。

まとめ

AI動画機能をプロダクトや社内ワークフローに組み込む場合、最も重要なことは、特定のモデルにスタックをハードコーディングするのをやめることです。実際にスタックから何を呼び出しているか（アグリゲーター経由のものも含めて）を棚卸しし、入力データがどこで処理・保持されているかを確認し、コードの変更なしにモデルを切り替えられるプラットフォームを優先してください。

それこそが、VideoGenの前提条件です。モデルレイヤーの上に構築すれば、今日のモデルがコンプライアンスに適合しているかどうかを心配する必要はありません。それは貴社の仕事ではなく、私たちの仕事だからです。

VideoGenで作成を始める、またはエンタープライズや規制対象となる利用におけるモデルの適合性についてお問い合わせください。