카카오가 구글 딥마인드와 협력해 AI 생성 콘텐츠의 투명성과 신뢰성 강화에 나선다.

카카오

카카오는 5월 20일 구글 딥마인드와 AI 생성 콘텐츠의 투명성 확보를 위한 기술 파트너십을 체결했다고 밝혔다. 이번 협력을 통해 카카오는 자체 AI 모델 ‘카나나(Kanana)’에 구글 딥마인드의 디지털 워터마킹 기술 ‘신스ID(SynthID)’를 적용한다.

카카오는 AI 생성 콘텐츠에 신스ID 기반의 비가시적 워터마크를 삽입해 생성 여부를 추적할 수 있는 체계를 구축할 계획이다. 카카오는 전 세계적으로 신스ID 워터마킹을 초기 도입한 기업 중 하나이며, 아시아 기업 가운데서는 처음으로 해당 기술을 적용한다고 설명했다.

신스ID는 구글 딥마인드가 개발한 디지털 워터마킹·탐지 기술이다. 이미지와 텍스트, 오디오, 영상 등에 사람의 눈이나 귀로는 감지하기 어려운 워터마크를 삽입해 AI 생성 여부를 검증할 수 있도록 설계됐다. 콘텐츠 품질 저하 없이 AI 생성 여부를 식별할 수 있어 딥페이크와 허위 정보 대응 기술로 주목받고 있다.

카카오는 올해 하반기부터 이미지 생성 모델 ‘카나나 콜라주(Kanana-Kollage)’와 영상 생성 모델 ‘카나나 키네마(Kanana-Kinema)’에 신스ID 워터마크를 적용한다.

우선 카카오톡의 ‘카나나 템플릿’ 기능에 신스ID를 도입할 예정이다. 카나나 템플릿은 카카오톡에서 주고받은 이미지를 활용해 AI 기반의 짧은 영상을 제작하는 기능으로, 카나나 키네마 모델을 기반으로 구현됐다.

현재 카나나 템플릿으로 생성된 영상에는 카나나 로고가 표시되지만, 카카오는 여기에 신스ID 기술을 추가해 결과물이 편집되거나 재가공되더라도 AI 생성 여부를 식별할 수 있도록 할 방침이다.

카카오는 올해 AI 기본법 시행과 함께 AI 생성물 표시제가 본격 도입되는 상황에서 법적 의무를 넘어 비가시적 워터마킹 기술까지 선제적으로 적용한다는 점에 의미를 두고 있다. 이를 통해 AI 생성 콘텐츠의 투명성과 신뢰성을 강화하고 책임 있는 AI 생태계 구축에 속도를 낸다는 계획이다.

김경훈 카카오 AI Safety 리더는 “AI 기술이 일상 속으로 빠르게 확산되면서 AI 생성 콘텐츠의 투명성과 신뢰성을 확보하는 중요성도 함께 커지고 있다”며 “신스ID 적용을 시작으로 구글과 책임감 있는 AI 영역에서의 기술 협력을 지속하며 이용자가 안심하고 사용할 수 있는 안전한 AI 서비스를 제공해 나갈 계획”이라고 말했다.

푸시미트 콜리 구글 딥마인드 과학·전략 이니셔티브 부문 부사장은 “AI 생성 콘텐츠를 식별하기 위해서는 효과적인 협력이 필수적”이라며 “업계 선도 기업들과의 파트너십을 통해 신스ID 기술을 더 많은 플랫폼에 확대 적용함으로써 보다 투명한 디지털 생태계 구축을 향한 중요한 발걸음을 내딛고 있다”고 밝혔다.