챗GPT가 만든 이미지와 제미나이가 만든 이미지를 열어 봤습니다. 두 파일 모두 숨어 있는 데이터, 곧 메타데이터 안에 "이 그림에 워터마크를 넣었다"는 문장을 품고 있었습니다. 그 문장은 쉽게 지울 수 있습니다. 워터마크는 그림에 남지만, 메타데이터를 지우는 것만으로 지금까지는 대부분의 소셜미디어를 "속일" 수 있습니다. AI 이미지의 메타데이터에 무엇이 들어 있는지, 그리고 그것을 지우면 무엇을 얻는지 정리했습니다.
"나는 워터마크가 있다"고 파일이 외칩니다
우리가 분석한 챗GPT 이미지에는 24,922바이트짜리 서명된 메타데이터가 붙어 있습니다. 콘텐츠 크리덴셜(Content Credentials) 매니페스트입니다. 그 안에는 이 그림을 gpt-image 2.0이 만들었다는 기록이 있고, 바로 옆에 c2pa.watermarked라고 적혀 있습니다.
c2pa는 이 이미지를 설명하는 데 쓰인 표준을 가리킵니다.
C2PA 기술 표준 2.2 §18.14: "비가시 워터마크가 소프트 바인딩을 만들 목적으로 콘텐츠에 삽입되었다."
제미나이 이미지도 비슷한 선언을 합니다. 편집 기록에 "Added visible watermark", 곧 가시 워터마크를 추가했다고 적혀 있습니다. 확인한 제미나이 파일 여덟 장이 모두 이 문장을 담고 있었고, 비가시 워터마크를 언급한 파일은 하나도 없었습니다.
C2PA 표준
c2pa는 콘텐츠 출처·진위 연합(Coalition for Content Provenance and Authenticity)입니다. 2021년 2월 22일 어도비, Arm, BBC, 인텔, 마이크로소프트, 트루픽이 함께 만들었고, 창립 발표문이 밝힌 목적은 "허위정보·조작정보와 온라인 콘텐츠 사기의 확산" 대응이었습니다. 그때는 달리(DALL·E) 2가 나오기 열네 달 전이었습니다.
이 표준이 만들어 내는 것은 메타데이터 기록입니다. 누가 이 그림을 만들었고, 어떤 소프트웨어로 만들었고, 그 뒤에 무슨 일이 있었는지가 담깁니다. 표준이 이 기록에 붙인 이름이 콘텐츠 크리덴셜이어서, 어도비와 오픈AI 제품 화면에서 보는 그 표현은 §2.3.6에서 그대로 나온 것입니다.
매니페스트 하나에는 세 가지가 들어 있습니다.
- 여러 개의 어설션(assertion).
- 그 어설션들을 참조하는 클레임(claim) 하나.
- 그 클레임에 대한 서명 하나.
이 기록을 실제 픽셀에 붙들어 두는 어설션은 두 종류입니다. 하드 바인딩과 소프트 바인딩입니다.
C2PA 기술 표준 2.2 §2.3.12·§2.3.13: 하드 바인딩은 "자산 전체 또는 그 일부를 고유하게 식별하는 하나 이상의 암호학적 해시"다. 소프트 바인딩은 "(a) 지문(fingerprint)처럼 통계적으로 고유하지 않거나, (b) 식별 대상 디지털 콘텐츠에 비가시 워터마크로 삽입된 콘텐츠 식별자"다.
픽셀 하나만 바뀌어도 하드 바인딩 은 더 이상 맞지 않습니다. 우리가 확인한 챗GPT 이미지는 둘을 함께 갖고 있었습니다. 해시를 담은 c2pa.hash.data 어설션, 그리고 소프트 바인딩이 있다고 알리는 c2pa.watermarked 항목입니다.
AI 정보는 어느 필드에 있나
AI가 만들었다는 선언 자체는 항목 하나입니다. digitalSourceType 필드에 IPTC 어휘의 trainedAlgorithmicMedia, 곧 "학습된 모델이 만든 콘텐츠"라는 값이 들어갑니다.
그 주위에는 생성 과정에 대한 서명된 기록이 붙습니다.
- 그림을 만든 소프트웨어
- 고유 ID
- 생성 시각
여기서 기대를 좀 했습니다. C2PA의 AI/ML 가이던스는 결과물의 콘텐츠 크리덴셜이 모델에 넣은 프롬프트를 inputTo 재료(ingredient)로 담을 수 있다고 적어 두었기 때문입니다. 그렇다면 상당한 프라이버시 문제가 됩니다. 그런데 제미나이 파일 여덟 장과 챗GPT 파일 한 장을 확인해 보니 프롬프트가 담긴 파일은 하나도 없었습니다. 가이던스는 "담을 수 있다"고만 적었고, 큰 AI 회사들은 그 말을 그대로 받아들이고 있습니다.
AI 표시 제거는 클릭 한 번이면 됩니다
그 메타데이터를 지우고 싶다면, 바로 그 용도로 만든 도구가 있습니다. 판케 이미지 메타데이터 검사기입니다. 파일을 읽고 깨끗한 사본을 돌려줍니다. 챗GPT 파일에서는 24,934바이트, 제미나이 파일에서는 15,680바이트가 사라졌습니다. 무손실입니다. 메타데이터만 잘라 내고 그림은 다시 인코딩하지 않습니다.
표준을 쓴 사람들은 이런 일이 벌어질 것을 알고 있었습니다. 메타데이터는 파일에서 가장 버리기 쉬운 부분이고, 표준은 그것을 전제로 설계되어 있습니다.
C2PA 기술 표준 2.2 §9.3: "자산에서 C2PA 매니페스트가 제거되더라도 […] 사용 가능한 소프트 바인딩을 이용해 매니페스트와 자산을 다시 연결할 수 있다."
워터마크는 "메타데이터 제거"에 대한 표준의 답입니다.
구글은 자사 생성형 제품 전반에 신스ID(SynthID) 를 넣습니다. 사람 눈에 보이지 않을 만큼 픽셀을 미세하게 바꾸는 방식이고, 구글은 이 표시가 "자르기, 필터 적용, 프레임 속도 변경, 손실 압축"을 견딘다고 설명합니다. 판케의 도구는 메타데이터를 읽을 뿐 픽셀을 건드리지 않습니다. 그래서 워터마크를 지우지도 못하고, 워터마크가 있는지 없는지 알려 주지도 못합니다.
플랫폼은 대부분 메타데이터를 봅니다
지금 대부분의 플랫폼이 보는 것은 메타데이터입니다. 틱톡은 다른 플랫폼이 써 넣은 콘텐츠 크리덴셜을 읽어 업로드물에 라벨을 붙이고, 메타는 C2PA와 IPTC 기술 표준의 "AI 생성" 정보 를 식별하는 도구를 만들고 있다고 밝혔습니다.
한국에서는 이 표시가 법에 적혀 있습니다. 2026년 1월 22일 시행된 AI 기본법 제31조제2항입니다.
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조제2항: "인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다."
이 의무는 결과물을 만든 인공지능사업자에게 주어집니다. 오픈AI와 구글이 파일에 써 넣는 그 항목이 이 의무에 대응하는 표시이고, 그것이 클릭 한 번에 지워지는 바로 그 필드입니다.
선언을 읽어서 판정하는 검사는 그 선언의 약점을 그대로 물려받습니다. 해외 사례가 이를 잘 보여 줍니다. 메타의 라벨은 어도비 프로그램에서 평범한 보정만 거친 진짜 사진에도 붙었고 — 테크크런치 는 전 백악관 사진기자 피트 수자의 작업도 그중 하나였다고 전했습니다 — 다섯 달 뒤 "Made with AI"는 더 모호한 "AI info"로 바뀌었습니다. 메타도 발표문에서 "사람들이 비가시 표시를 제거할 방법들이 있다"고 인정했습니다.
플랫폼들은 지울 수 없는 층으로 옮겨 가고 있습니다. 틱톡은 자체 워터마크를 넣기 시작했고, "우리만 읽을 수 있어서 다른 사람이 지우기 더 어렵다"고 설명합니다. 구글에 따르면 카카오도 신스ID를 도입 한 기업 중 하나입니다.
메타데이터를 지우는 일은 그래도 값어치가 있습니다. 같이 실려 다니는 사진 위치정보, 기기 정보, 촬영 시각, 파일을 마지막으로 저장한 사람의 이름이 함께 사라지기 때문입니다.
마지막으로 사진을 온라인에 올리셨을 때, 그 파일이 여러분에 대해 무엇을 말하고 있는지 알고 계셨나요?
이미지를 확인해 보세요: 판케 이미지 메타데이터 검사기.
- 100% 무료
- 브라우저에서 실행
- 아무것도 저장하지 않음
- 계정 필요 없음
참고 자료
- C2PA — C2PA Technical Specification 2.2 (§2.3.4 C2PA Manifest, §2.3.6 Content Credentials, §2.3.12 Hard Binding, §2.3.13 Soft Binding, §9.3 Soft Bindings, §18.14 Actions). https://spec.c2pa.org/specifications/specifications/2.2/specs/C2PA_Specification.html
- C2PA — Guidance for Artificial Intelligence and Machine Learning (§9 AI-ML Output Content Credential). https://spec.c2pa.org/specifications/specifications/2.4/ai-ml/ai_ml.html
- C2PA — C2PA Founding Press Release (2021년 2월 22일). https://c2pa.org/c2pa-founding-press-release/
- IPTC — Digital Source Type NewsCodes vocabulary. https://cv.iptc.org/newscodes/digitalsourcetype
- Google DeepMind — SynthID. https://deepmind.google/science/synthid/
- 국가법령정보센터 — 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조. https://www.law.go.kr/법령/인공지능발전과신뢰기반조성등에관한기본법
- Google — 콘텐츠 생성 및 편집 과정 더 쉽게 이해하기 (Google 한국 블로그, 2026년 5월 19일). https://blog.google/intl/ko-kr/company-news/technology/identifying-ai-generated-media-online-kr/
- Meta — Labeling AI-Generated Images on Facebook, Instagram and Threads (2024년 2월). https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/
- TikTok — Partnering with our industry to advance AI transparency and literacy (2024년 5월 9일). https://newsroom.tiktok.com/en-us/partnering-with-our-industry-to-advance-ai-transparency-and-literacy
- TikTok — More ways to spot, shape and understand AI-generated content. https://newsroom.tiktok.com/more-ways-to-spot-shape-and-understand-ai-content
- TechCrunch — Meta changes its label from "Made with AI" to "AI info" (2024년 7월 1일). https://techcrunch.com/2024/07/01/meta-changes-its-label-from-made-with-ai-to-ai-info-to-indicate-use-of-ai-in-photos/
Instagram