EU가 인터넷상의 챗봇과 AI 딥페이크 콘텐츠를 대중이 더 쉽게 식별할 수 있도록 돕는 일련의 새로운 규정을 도입했다. EU 「인공지능법」(AI Act)의 핵심 구성 요소인 새로운 투명성 요건이 8월 2일 공식 발효됨에 따라, 기업은 사용자가 AI 모델과 상호작용하고 있는지, 관련 콘텐츠가 AI에 의해 생성되었거나 AI로 수정되었는지를 공개해야 한다.
이러한 투명성 규정은 AI 시스템 제공업체(AI 시스템을 개발하고 판매하는 기업)와 배포자(AI 시스템을 사용하는 플랫폼 및 서비스) 등 주체별로 서로 다른 요건을 제시한다. 다만 Meta와 SpaceXAI처럼 두 유형에 동시에 해당하는 기업도 있다.
제공업체는 사용자가 실제 사람이 아닌 AI와 상호작용하고 있을 때 이를 명확히 알리도록 AI 시스템을 설계해야 한다. 단, “이러한 상황이 명백한 경우”는 예외다. 또한 기업은 AI가 생성한 오디오, 이미지, 동영상 및 텍스트에 기계 판독이 가능한 표시를 삽입해 해당 콘텐츠가 인공적으로 생성되었거나 수정된 것임을 감지할 수 있도록 해야 한다.
한편 배포자 역시 실제와 같은 효과를 내도록 제작된 AI 생성 또는 수정 이미지, 오디오 및 동영상 딥페이크 콘텐츠를 표시해야 한다.
EU 집행위원회는 투명성 지침에서 다음과 같이 밝혔다. “생성형 및 대화형 AI 시스템의 급속한 발전으로 인해 사람들은 AI와의 상호작용 및 AI가 생성한 콘텐츠와 인간이 만든 실제 콘텐츠의 차이를 구분하기가 점점 더 어려워지고 있다.”
“사람들은 자신이 언제 AI와 상호작용하고 있는지, 또는 언제 AI가 생성한 콘텐츠를 접하고 있는지 알아야 한다. 이는 사람들이 더 현명한 결정을 내리고 AI에 대한 신뢰 수준과 의존 방식을 조정하며, 잘못된 정보나 기만의 영향을 피하는 데 도움이 될 것이다.”
EU 집행위원회는 AI 콘텐츠 공개 라벨도 마련했다. 기술 플랫폼은 「인공지능법」 요건에 따라 이러한 라벨을 사용할 수 있으며, 구체적인 사용 사례도 함께 제시됐다.
이러한 라벨은 TikTok, Instagram 및 Facebook 등 플랫폼이 이전에 도입한 유사한 표시와 맥을 같이한다. EU가 통일된 아이콘을 설계한 것은 각 플랫폼이 서로 다른 라벨을 자체적으로 만드는 것을 방지하기 위해서다. EU가 제시한 예시 아이콘의 사용은 의무가 아니지만, EU 집행위원회는 AI 콘텐츠 표시 요건이 “선택적으로 이행할 수 있는 사항이 아니다”라고 명확히 밝혔다.
이러한 새로운 투명성 규정을 준수하지 않는 기업에는 최대 1500만 유로(주: 현 환율 기준 약 1.17억 위안)(약 1720만 달러(현 환율 기준 약 1.16억 위안))의 과징금 또는 전 세계 연간 매출의 3%에 해당하는 처벌이 부과될 수 있다.
8월 2일 이후 출시된 신규 AI 시스템에는 이러한 투명성 규정이 즉시 적용된다. 8월 2일 이전에 이미 출시된 모델과 서비스에는 4개월의 유예 기간이 주어지며, 12월 2일까지 규정 준수를 위한 조정을 완료해야 한다.