(조세금융신문=김종면 변리사) 

 

1. 인공지능 산출물 표시가 필요한 이유

위조상품이나 불법 재판매 단속을 하다 보면 가장 흔한 사례가 브랜드기업의 공식 이미지를 허락 없이 무단으로 도용해서 사용하는 경우입니다. 브랜드기업에서 만든 공식 이미지는 많은 시간과 노력을 투여하여 만든 창작물이고 저작권에 의해 보호됩니다.

 

그런데 최근 브랜드기업들이 인공지능을 적극 도입하면서 이러한 공식 이미지를 인공지능을 이용하여 제작하는 사례가 늘어나고 있으며, 지난 호에서는 이렇게 인공지능으로 만들어진 창작물들에 대해 저작권이 인정될 수 있는지에 대해 살펴보았습니다.

 

그런데, 저작권 보호 여부 이외에도 인공지능으로 만든 공식 이미지와 관련하여 브랜드기업들이 고려해야 할 사항이 해당 공식 이미지가 인공지능으로 만든 산출물이라는 것을 표시하여 소비자들이 이를 명확하게 인지할 수 있도록 해야 한다는 점입니다.

 

인공지능은 예술 작품을 창조하고, 복잡한 데이터를 분석하며, 우리의 일상을 편리하게 만드는 혁신적인 도구로 자리 잡았습니다. 그러나 이 거대한 기술의 물결은 우리에게 '투명성'이라는 새로운 질문을 던지고 있으며, 이는 눈앞의 콘텐츠가 인간의 창작물인지, 아니면 인공지능의 손을 거쳐 탄생한 것인지 구분하기 어려운 시대가 되었기 때문입니다.

 

인공지능 기술은 수많은 이점을 가져왔지만, 동시에 딥페이크와 같은 기술 오남용을 통해 사회적 혼란을 야기할 수 있다는 우려도 커지고 있습니다. 허위 정보가 사실처럼 둔갑하고, 조작된 이미지가 사람들의 판단을 흐리게 만들 수 있습니다.

 

이에 따라, 인공지능이 만든 결과물에 그 사실을 명확히 표시해야 한다는 목소리가 커지고 있습니다. 이는 단순한 기술적 요구를 넘어, 우리가 마주하는 정보에 대한 신뢰와 진실의 가치를 지키기 위한 시대적 과제입니다.

 

인공지능 산출물 표시 의무는 단순히 기술의 투명성을 넘어, 우리 사회의 신뢰와 안전을 지키는 핵심적인 장치입니다. AI 산출물 표시를 의무화하면, 사용자들이 콘텐츠의 출처를 명확히 인지하고, 정보의 신뢰도를 스스로 판단할 수 있게 됩니다. 이는 민주주의 사회의 핵심인 정보 주권을 보호하고, 건강한 소통 환경을 만드는 데 필수적입니다.

 

또한, 상업적인 측면에서도 AI 산출물 표시는 중요합니다. AI 모델을 활용한 광고가 사람 모델을 쓴 것처럼 보인다면, 이는 소비자를 기만하는 행위가 될 수 있습니다. 뷰티나 패션 제품처럼 실제 사용 경험이 중요한 분야에서 AI로 조작된 이미지는 소비자의 합리적인 판단을 방해합니다.

 

따라서 AI 산출물 표시는 소비자의 알 권리를 충족시키고, 브랜드에 대한 신뢰를 유지하는 데 필수적입니다. 궁극적으로, 이러한 표시는 AI 기술 개발자와 사용자 모두에게 윤리적 책임을 부여하여, 기술이 책임감 있게 발전하고 사회에 긍정적으로 기여할 수 있도록 돕습니다.

 

2. 이슈가 된 사례

패션 및 뷰티 브랜드들이 AI를 활용한 광고에 인공지능 산출물 표시를 하지 않아 문제가 된 사례가 국내와 해외에서 다수 발생하고 있습니다. 이 사례들은 단순히 기술적 논란을 넘어, 소비자의 신뢰와 브랜드의 진정성이라는 더 큰 문제로 이어졌다는 점을 주목할 필요가 있습니다.

 

가. 국내 사례 : 화장품 브랜드 A 광고

국내 뷰티 브랜드 A는 자사 브랜드 광고에 AI 모델을 활용했습니다. 하지만 광고 이미지 어디에도 AI로 만들어졌다는 사실을 명확히 고지하지 않아 소비자들의 항의를 받았습니다. 특히 색조 화장품의 경우 실제 사용했을 때의 톤이나 색감이 중요한데 AI모델이 표현한 화장품의 색감이나 질감은 실제 제품과 다르게 보일 수 있다는 문제를 제기하기도 했습니다.

 

광고에 대한 비판과 논란이 이어지면서 결국 해당 브랜드는 광고를 전면 철회했습니다. 이 사례는 뷰티 제품처럼 실제 사용 경험이 중요한 영역에서 AI 모델 사용 시 투명성 확보가 얼마나 중요한지 보여주는 대표적인 사례입니다.

 

나. 해외 사례 : GUESS 보그(Vogue) 광고

유명 패션 브랜드 게스(GUESS)는 미국판 보그(Vogue) 잡지에 AI로 완전히 생성된 모델을 활용한 광고를 게재했습니다. 이 AI 모델은 매우 현실적인 외모를 가졌지만, 광고 어디에도 AI 모델이라는 사실을 명확하게 표시하지 않았습니다. 광고 하단에 매우 작은 글씨로 "Produced using AI"라고 쓰여있었지만 잘 보이지도 않는 영역에 매우 작게 쓰여진 이 글자를 대부분의 소비자는 인지하기 어려웠습니다.

 

이 광고는 패션 업계와 소비자들에게 큰 논쟁을 불러일으켰습니다. 비평가들은 AI 모델이 실제 모델들의 일자리를 위협하고, 비현실적인 미의 기준을 강화한다고 비판했습니다. 또한, 소비자를 기만하는 행위로 간주되며 브랜드의 진정성이 훼손되었다는 지적을 받았습니다.

 

이러한 사례들은 단순히 AI 기술을 사용하는 것을 넘어, 그 사실을 투명하게 공개하지 않았을 때 소비자가 느끼는 배신감과 불신이 브랜드에 얼마나 큰 타격을 줄 수 있는지 보여줍니다. 특히, 진정성과 신뢰가 중요한 패션 및 뷰티 산업에서는 AI 산출물 표시 의무가 단순한 규제를 넘어 브랜드 평판을 관리하는 중요한 요소가 되고 있습니다.

 

3. 인공지능 산출물 표시의무와 관련된 주요 국가들의 움직임

가. 미국

미국에서는 딥페이크 기술의 악용 가능성에 대응하기 위한 입법 논의가 활발히 진행되고 있고, 연방 차원의 여러 법안이 꾸준히 발의되고 있습니다. 대표적으로, 2023년 발의된 '딥페이크 책임법(Deepfakes Accountability Act)'은 딥페이크 콘텐츠제작자에게 해당 콘텐츠가 인공지능 기술로 생성되었음을 명시할 의무를 부과하고 있습니다.

 

또한, 2024년 1월 발의된 'No AI FRAUD Act'는 테일러 스위프트의 가짜 광고 사례 등과 같이 AI 기술을 활용한 유명인 사칭 마케팅, 가짜커버곡 등 저작권 및 퍼블리시티권 침해 문제를 규제하고자 제안된 법안입니다. 이외에도 'DEFIANCE Act'는 딥페이크 음란물을 연방 차원에서 범죄화하고, 피해자에게 민사상 손해배상 청구권을 부여하는 내용을 담고 있습니다.

 

나. 유럽

유럽연합(EU)은 인공지능(AI) 기술의 급속한 발전에 대응하여 인공지능 시스템의 개발 및 활용에 대한 포괄적이고 구조적인 규제체계를 구축하였습니다. 특히 딥페이크(Deepfake) 기술로 인한 정보 왜곡, 기만, 사회적 혼란 등의 부작용을 방지하기 위해 「인공지능법(Artificial Intelligence Act)」과 「디지털서비스법(Digital Services Act, 이하 DSA)」을 중심으로 법적 규제를 명문화하였습니다.

 

Article 50 - Transparency obligations for providers and deployers of certain AI systems

3. Deployers of an AI system that generates or manipulates image, audio or video content constituting a deep fake shall disclose that the content has been artificially generated or manipulated.

(딥페이크에 해당하는 이미지, 오디오, 비디오 콘텐츠를 생성하거나 조작하는 AI 시스템의 배포자는 해당 콘텐츠가 인위적으로 생성되거나 조작되었음을 공개해야 한다.)

 

유럽연합의 '인공지능법(Artificial Intelligence Act)'은 2024년 8월 1일 발효되었으며, 인공지능 생성물에 대한 표시의무는 발효일로부터 24개월 이후인 2026년 8월 2일부터 적용됩니다.

 

다. 중국

중국 4개 부처(인터넷정보국, 공업정보화부, 공안부, 국가광전총국)은 인공지능의 건전한 발전을 촉진하고, 인공지능이 생성하는 합성 콘텐츠의 식별을 표준화하며, 국민, 법인 및 기타 조직의 합법적 권익을 보호하고 사회의 공공 이익을 수호하기 위해 "인공지능이 생성하는 합성 콘텐츠 식별 방법"을 제정하였다고 발표하였습니다. 이 규정의 시행은 2025년 9월 1일부터입니다.

 

이번 정책이 시행됨에 따라 AI로 생성된 텍스트, 이미지, 오디오, 비디오 등 모든 정보에는 ‘명시적 표시’와 ‘암시적 표시’가 의무화되었으며, 명시적 표시는 사용자가 쉽게 인지할 수 있는 문자나 그래픽 형태이며, 암시적 표시는 파일 메타데이터에 삽입되는 지문과 같은 표시입니다.

 

구체적인 규정의 내용을 아래와 같습니다.

인공지능이 생성한 합성 콘텐츠 식별방법 제4조 서비스 제공자가 제공하는 생성·합성 서비스가 인터넷 정보 서비스 심층합성 관리 규정 제17조 제1항에서 정한 상황에 해당하는 경우, 서비스 제공자는 다음 각 호의 요건에 따라 생성·합성 콘텐츠에 명확한 식별 정보를 추가해야 합니다.   (1) 텍스트의 시작, 끝 또는 중간의 적절한 위치에 텍스트 프롬프트 또는 일반적인 기호 또는 기타 기호를 추가하거나 대화형 장면 인터페이스 또는 텍스트 주변에 눈에 띄는 프롬프트를 추가합니다.   (2) 오디오의 시작, 끝 또는 중간의 적절한 위치에 음성 프롬프트 또는 오디오 리듬 프롬프트를 추가하거나 대화형 장면 인터페이스에 눈에 띄는 프롬프트를 추가합니다.   (3) 이미지의 적절한 위치에 눈에 띄는 경고 표시를 추가합니다.   (4) 영상 시작 부분과 영상 주변의 적절한 위치에 눈에 잘 띄는 경고 표지판을 추가하세요. 영상 끝부분과 영상 중간의 적절한 위치에도 눈에 잘 띄는 경고 표지판을 추가할 수 있습니다.   (5) 가상 장면을 표시할 때는 시작 화면의 적절한 위치에 눈에 잘 띄는 알림 로고를 추가해야 합니다. 가상 장면이 계속 재생되는 동안에도 눈에 잘 띄는 알림 로고를 적절한 위치에 추가할 수 있습니다.   (6) 기타 생성된 합성 서비스 시나리오는 자체 응용 프로그램 특성에 따라 눈에 띄는 프롬프트 표시를 추가해야 합니다.   서비스 제공자가 생성된 합성 콘텐츠를 다운로드, 복사, 내보내기 등의 기능을 제공하는 경우 해당 파일에 요구 사항을 충족하는 명시적 식별 정보가 포함되어 있는지 확인해야 합니다.   제5조: 서비스 제공자는 인터넷 정보 서비스 심층합성 관리 규정 제16조에 따라 합성 콘텐츠를 생성하는 파일의 메타데이터에 묵시적 식별자를 추가해야 합니다. 묵시적 식별자에는 합성 콘텐츠의 속성 정보, 서비스 제공자의 명칭 또는 코드, 콘텐츠 번호 및 기타 제작 요소 정보가 포함됩니다.   서비스 제공자는 합성 콘텐츠를 생성할 때 디지털 워터마크 형태로 암묵적 식별 정보를 추가하는 것이 좋습니다.   파일 메타데이터는 특정 인코딩 형식으로 파일 헤더에 포함된 설명적 정보를 말하며, 파일의 출처, 속성, 용도와 같은 정보를 기록하는 데 사용됩니다.   제14조 이 규정은 2025년 9월 1일부터 시행한다.

 

4. 우리나라의 인공지능 생성물 표시의무

우리나라는 2026년 1월 22일 시행 예정인 '인공지능기본법'을 통해 생성형 AI 산출물에 대한 고지‧표시의무를 도입했습니다.

 

'인공지능기본법'은 생성형 AI가 만든 산출물에 대해 그것이 AI 산출물이라는 내용을 고지·표시하도록 의무를 명시하고 있으며, 딥페이크 등 실제와 유사한 콘텐츠 제공 시에도 표시가 요구됩니다.

 

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 ( 약칭: 인공지능기본법 )   제2조(정의) 7. “인공지능사업자”란 인공지능산업과 관련된 사업을 하는 자로서 다음 각 목의 어느 하나에 해당하는 법인, 단체, 개인 및 국가기관등을 말한다. 가. 인공지능개발사업자: 인공지능을 개발하여 제공하는 자 나. 인공지능이용사업자: 가목의 사업자가 제공한 인공지능을 이용하여 인공지능제품 또는 인공지능서비스를 제공하는 자   제31조(인공지능 투명성 확보 의무) ① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다. ② 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인 공지능에 의하여 생성되었다는 사실을 표시하여야 한다.

 

5. 결론

중국은 이미 9월 1일자로 인공지능 생성물 표시의무가 시행되었고, 유럽도 2026년에는 표시의무가 시행될 예정입니다. 우리나라 역시 내년 1월 22일자로 시행될 예정입니다.

 

인공지능 생성물 표시의무에 대해 찬성과 반대 의견이 있을 수 있습니다. 특히 너무 규제를 강화하면 인공지능 산업의 발전을 저해할 수 있다는 우려의 목소리가 있는 것도 사실입니다. 하지만 인공지능 생성물로 인해 발생하는 사회적 문제나 피해자들의 문제를 마냥 그대로 놓아둘 수만도 없는 일입니다.

 

어느 정도의 규제는 필요하고, 산업의 발전과 사회적 피해 방지라는 두 가지 측면을 모두 고려하여 적정한 선에서 규제를 하고 시행해가면서 시행 이후의 상황들을 지켜보면서 보완이 필요하다면 차차 보완을 해가면 될 것으로 보입니다.

 

 

[프로필] 김종면 변리사 

•(현)위고페어 대표이사

- AI기반 위조상품 토탈솔루션 서비스

•(현) 특허법인 아이엠 파트너변리사

•(전) 독일로펌 Stolmar & Partner 한국변리사

•(전) 한국 IBM, System Engineer

•<저서> 온라인 짝퉁전쟁(2025년 3월)

 

 

[조세금융신문(tfmedia.co.kr), 무단전재 및 재배포 금지]