[한국경제신문] 23.11.13 AI 가짜뉴스 집어낸다는 워터마크, 아직은 뻥뻥 뚫린다

반응형

TITLE

AI 가짜뉴스 집어낸다는 워터마크, 아직은 뻥뻥 뚫린다

SUB TITLE

창과 방패처럼…쫓고 쫓기는 'AI 탐지 전쟁'
정부, AI 워터마크 법제화 속도 주요 28개국도 도입 논의했지만 현재로선 로고 잘라내면 그만
해외선 기계만 아는 코드 심고 콘텐츠 학습 못하게 막는 기술도

WHAT

12일 정보기술(IT)업계에 따르면 과학기술정보통신부는 AI 생성물에 대한 표시 도입 등 AI 위험성 완화 방안을 이달부터 검토할 계획이다. 국회와 함께 법제화 방안을 논의하는 동시에 사업자에게 이용자 보호를 위해 가시적 워터마크 도입을 권고하고 나섰다. 

WHY

최근 영국에서 열린 주요 28개국 ‘AI 정상회의’에서도 AI의 부작용을 막기 위해 워터마크를 도입하는 논의 등이 이뤄졌다.

HOW

이 방법은 만들기 쉽고 이용자도 AI 생성 여부를 쉽게 확인할 수 있다. 하지만 무력화하는 것도 간단하다. 구석에 로고가 있을 경우 이미지 일부를 잘라내면 되고, 화면 위에 이미지를 덮더라도 간단한 프로그램으로 삭제할 수 있다.

눈에 보이지 않는 비가시적 워터마크에 대한 연구도 활발하다. 겉으로는 알 수 없지만, 기계가 알 수 있는 코드를 삽입하는 방식이다.

업계에선 워터마크가 생성 AI의 부작용을 원천 방지할 수는 없을 것으로 보고 있다. 바이러스와 백신의 관계처럼 워터마크를 무력화하기 위한 기술이 끊임없이 나올 것이기 때문이다. 한 업계 관계자는 “문에 자물쇠를 채우더라도 도둑을 완전히 막을 수 없지만, 대부분 범죄는 방지할 수 있다”며 “AI의 부작용을 막는 최소한의 안전장치 역할을 할 것”이라고 말했다.

---

FIND WORDS

없음

---

QUESTION

Q: AI 가짜뉴스를 구분하는데 워터마크말고 다른 방법은 없을까?
A: 팩트 체크(기관이나 전문가들의 검증을 통해 진실 여부 판단) / 자연어 처리 기술(문장의 문맥과 문법, 어휘 등을 분석하여 구분) / 이미지 및 동영상 분석 기술(인물, 장소, 사물 등을 인식하고 분석) / 인공지능 모델 학습(대량의 데이터를 수집하고 분석하여 인공지능이 자동으로 가짜 뉴스 탐지) 등 방법이 있다고 결과는 나왔지만 모두 100% 장담할 수 없다고 한다.
결국엔 스스로가 접하는 정보가 올바른지 신중하게 검토하고 비판적 사고력을 키워야 하는 건 여전한 것 같다.

---

INVESTMENT POINT

없음

---

REFERENCE URL

AI 가짜뉴스 집어낸다는 워터마크, 아직은 뻥뻥 뚫린다