앤트로픽, AI 생성 텍스트에 워터마크 적용 발표

앤트로픽이 자사 AI 모델이 생성한 텍스트에 워터마크를 적용하겠다고 발표했습니다. 이는 AI 생성 콘텐츠의 출처를 식별하고 오정보 확산을 막기 위한 조치입니다. 이는 AI 책임론이 대두되는 상황에서 콘텐츠 신뢰성 확보를 위한 첫걸음입니다. 단순히 AI가 만들었다는 표식 이상의, 콘텐츠의 '진위'를 판별하려는 근본적인 시도입니다. 앞으로는 정부 기관이나 미디어 기업 등 정보를 다루는 주체들이 AI 생성 콘텐츠의 진위를 검증하는 도구를 도입하게 될 것입니다. 이로 인해 가짜 뉴스 검증 시장이 빠르게 형성되고, 워터마크 기술 경쟁이 심화될 것입니다. 가장 먼저 영향을 받는 것은 언론, 교육, 법률 등 신뢰성 있는 정보가 중요한 산업입니다. AI가 작성한 보고서나 기사의 출처가 명확해지면서, 오정보로 인한 사회적 혼란을 줄이고 저작권 보호에도 새로운 기준이 생겨날 것입니다. 예를 들어, 뉴스 통신사에서는 AI로 생성된 속보 기사에 워터마크를 감지하여 진위 여부를 즉시 판단할 수 있습니다. 기업 내부에서는 AI가 작성한 보고서나 계약서의 생성 경로를 추적하여 오용을 방지하는 데 활용할 수 있습니다.