사용 중인 AI 비디오 모델이 규정을 준수하나요?

몇 주 전, 저희는 스토리보드-투-비디오(storyboard-to-video) 워크플로우 출시를 준비하고 있었습니다. 이 기능의 핵심은 캐릭터 일관성입니다. 배우를 한 번 정의하면 모든 장면에서 동일한 모습이 유지되는 것이죠. 이를 위해 저희는 매 생성 시마다 해당 배우들의 참조 이미지를 비디오 모델로 전달합니다.

그런데 그 모든 요청이 거부되어 돌아오기 시작했습니다.

당시 저희가 고화질 비디오를 위해 사용하던 모델은 틱톡(TikTok)의 모회사이기도 한 중국 기업 바이트댄스(ByteDance)의 Seedance였습니다. 알고 보니 Seedance는 프롬프트를 읽기도 전에 업로드된 모든 이미지에 대해 얼굴 감지 과정을 실행하며, 사람의 얼굴을 인식할 수 있는 모든 이미지를 강력하게 차단하고 있었습니다. 저희의 핵심 기능은 배우들이었는데, 모델이 그들을 보는 것조차 거부한 것입니다. 이는 잘 알려진 문제입니다. 창작자들은 끊임없이 같은 벽에 부딪히고 있으며, 타사 API 제공업체들조차 "실제 사람의 얼굴이 포함된 이미지는 바이트댄스의 콘텐츠 정책에 의해 차단된다"고 경고합니다. 프롬프트는 문제가 아니기에 프롬프트를 다시 작성해도 해결되지 않습니다. 이미지는 프롬프트가 읽히기 전 별도의 스캔 단계에서 거부되기 때문입니다.

저희는 우회 방법을 출시할 수도 있었습니다. 대신 저희는 해당 티어 전체를 Seedance에서 이전했습니다. 그리고 그 타이밍은 저희가 예상했던 것보다 훨씬 더 큰 의미가 있었습니다.

이것은 결코 저희만의 문제가 아니었습니다

저희가 콘텐츠 필터 문제를 다루는 동안, 워싱턴 정가는 "어떤 AI 모델을 사용하는가"라는 질문을 규제 준수 여부를 묻는 질문으로 바꾸느라 분주했습니다.

미국 정부는 AI와 관련하여 서로 관련은 있지만 별개인 두 가지 규정을 강화하고 있습니다.

첫 번째는 이미 법으로 시행 중입니다. 법무부의 데이터 보안 프로그램(Data Security Program)은 중국 및 기타 "우려 국가"가 미국의 민감한 개인 데이터나 정부 관련 데이터에 대량으로 접근할 수 있게 하는 특정 거래를 제한합니다. 이는 행정 명령 14117호에 따라 발행되어 2025년 4월 8일에 발효되었으며, 2025년 7월 8일부터 본격적인 단속이 시작되었습니다. 홍콩과 마카오를 포함한 중국은 지정된 6개 우려 국가 중 하나입니다. 적용 대상 범주에는 생체 식별자, 정밀 위치 정보, 개인 건강 데이터, 개인 금융 데이터, 유전체 데이터, 특정 개인 식별자가 포함됩니다. 이는 미국 외부로 데이터를 보내는 행위를 모두 금지하는 것은 아니며, 적용 여부는 데이터의 유형과 양, 거래의 성격, 제공업체, 그리고 제공업체의 소유권 또는 관할권에 따라 달라집니다. 연방 관보 최종 규칙도 참조하십시오.두 번째 규칙 세트는 더 최신이며 빠르게 변화하고 있습니다. 바로 이번 주, 스콧 베센트 재무장관은 지적 재산권 도용을 이유로 중국 AI 기업들에 대한 제재를 위협했으며, 백악관은 문샷 AI가 앤스로픽의 페이블(Fable) 모델을 증류(distilling)했다고 비난하면서 엔티티 리스트(Entity List) 지정을 "검토 중"이라고 밝혔습니다. 톰스 하드웨어와 MLQ의 보도에 따르면 공식적인 금지 조치까지는 아니더라도 조달 제한, 보안 권고, 책임 규정 등을 통해 중국 모델 기반의 미국 비즈니스에 실질적인 마찰을 일으키려는 더 광범위한 움직임이 있다고 합니다.

단순한 단일 모델이나 국가의 문제가 아닙니다

우리가 얻은 교훈은 "시댄스(Seedance)가 나쁘다"가 아니었습니다. 우리가 구축하는 모든 모델에는 우리가 통제할 수 없는 정책, 관할권, 가용성 범위가 따르며, 이 중 어느 하나라도 하루아침에 바뀔 수 있다는 점입니다.

• 중국 비디오 모델들이 가장 눈에 띄게 노출되어 있습니다. 바이트댄스의 시댄스, 콰이쇼우의 Kling, 그리고 미니맥스의 하이루오(Hailuo)는 각각 공격적이고 불투명한 콘텐츠 필터와 동시에 규제 당국의 표적이 되고 있습니다.
• **문샷 AI의 키미(Kimi)**는 제작사에 의해 세계 최대의 오픈 웨이트 모델으로 홍보되었으며, 마이크로소프트가 코파일럿 및 애저(Azure)를 위해 테스트하고 있다고 보고될 정도로 인기가 많았으나, 현재 제재 논쟁의 중심에 서게 되었습니다. 이를 표준으로 삼았던 팀들은 갑작스럽게 출구 전략이 필요할 수도 있습니다.
• 서구권 제공업체들조차 뜻밖의 상황을 초래할 수 있습니다. 비중국권 최고의 음성 합성 기업인 일레븐랩스(ElevenLabs)는 사용 금지 정책(Prohibited Use Policy)을 통해 정부 기관이 사전 서면 허가 없이 자사 서비스를 사용하는 것을 조용히 금지하고 있습니다. 공공 부문에 제품을 판매하는 중이라면, 이러한 조항이 지정학적 문제만큼이나 큰 장애물이 될 수 있습니다.이 모든 과정은 한 번 '좋은' 제공업체를 선택하고 끝나는 문제가 아닙니다. 허용 가능한 모델 세트는 끊임없이 변하며, 이는 귀하의 제품과는 아무런 관련이 없는 이유로 발생합니다.

VideoGen의 대응 방안

저희는 고객이 비디오를 제작하기 위해 이런 모든 사항을 추적할 필요가 없어야 한다고 생각합니다.

VideoGen은 AI 비디오를 위한 모델 계층입니다. 저희의 모델 라우터는 귀하의 워크플로우와 기본 제공업체 사이에 위치하며, 단순히 어떤 로고가 유행하는지가 아니라 품질, 가용성, 적합성에 따라 각 생성 작업을 수행할 모델을 결정합니다.

구체적으로, Seedance 사태 이후 저희는 고품질 비디오 생성을 Google의 Omni 모델로 전환했으며, 검증된 비중국계 제공업체로 자동 전환되는 기능을 갖췄습니다. 특정 모델이 요청을 거부하거나, 중단되거나, 부적합해지는 경우, 라우터는 귀하가 코드를 수정할 필요 없이 해당 요청을 즉시 다른 경로로 투명하게 전환합니다. 이제 저희의 액터는 깔끔하게 생성되며, 스택의 규정 준수 상태는 귀하가 신경 쓸 필요 없도록 저희가 직접 관리합니다.

저희는 VideoGen을 통해 제공되는 모델과 제공업체를 지속적으로 평가합니다. 평가 항목은 다음과 같습니다:

• 고객 데이터 처리 위치
• 각 모델의 운영 기업
• 데이터 보존 또는 학습 사용 여부
• 특정 고객 또는 지역에 사용 가능한 모델
• 워크플로우 중단 없이 제한된 모델을 대체하는 방법

본 내용은 귀사가 규정을 준수한다는 법적 보증이 아닙니다. 규정 준수는 귀하의 데이터, 고객, 그리고 법률 자문에 따라 달라집니다. 저희가 운영상 입증할 수 있는 것은 모델 적합성, 데이터 라우팅 제어, 그리고 모델이 부적합해졌을 때 워크플로우가 중단되지 않도록 하는 폴백(fallback) 기능입니다.

결론

만약 제품이나 내부 워크플로우에 AI 비디오를 도입하고 있다면, 가장 중요한 것은 특정 모델에 스택을 하드코딩하지 않는 것입니다. 현재 스택이 무엇을 호출하는지(애그리게이터를 통한 호출 포함) 파악하고, 입력 데이터가 어디서 처리되고 보존되는지 확인하며, 코드 변경 없이 모델을 교체할 수 있는 플랫폼을 선택하십시오.

이것이 바로 VideoGen이 존재하는 이유입니다. 모델 계층 위에서 구축하십시오. 오늘 사용하는 모델이 규정을 준수하는지 고민할 필요가 없습니다. 그것은 귀하가 아닌 저희의 업무이기 때문입니다.

VideoGen으로 시작하기 또는 엔터프라이즈 및 규제 산업용 모델 적합성에 관해 저희에게 문의하세요.