생성형 AI 시대, 진실을 지키려는 노력

뉴스를 보다가 어떤 정치인의 막말 영상에 화가 났던 적이 있었어요. 그런데 3분도 채 안 돼서 영상 하단에 붉은 글씨로 ‘AI 조작물 판별 99%’라는 경고 문구가 뜨더라고요. 제가 철석같이 진실이라 믿고 보았던 것이 가짜일 수 있다는 생각에 꽤 놀랐죠. 거짓을 만들어낸 인공지능을 탐지하는 또 다른 인공지능의 싸움을 그저 지켜볼 수밖에 없었던 순간이었습니다.

영상을 분석하는 AI의 눈

아무리 자세히 보아도 사람의 눈으로는 가짜를 구별하기 어렵습니다. 하지만 AI 탐지 시스템은 영상 프레임을 수십만 조각으로 쪼개서 혈류량에 따른 안면 홍조 펄스와 목소리 주파수의 위상이 일치하는지 분석해요. 기계는 기계만이 아는 흔적을 찾아내는 거죠. 아주 미세한 조명의 모순이나 그림자가 비껴가는 궤적까지 0.1초 만에 끄집어내 ‘이것은 기계가 만든 것이다’라고 선언해 버리는데, 그 정교함에 감탄할 때가 많습니다.

이미지 속 숨겨진 노이즈

입술 주변 경계선이 어색하다거나, 눈을 깜빡이지 않는다는 식의 초기 판별 기준은 이제 더는 통하지 않습니다. 최근 AI가 만든 이미지들은 육안으로는 완벽해 보여요. 하지만 픽셀 단위를 현미경처럼 확대해 보면 AI 특유의 미세한 노이즈 주파수가 남기 마련이죠. 이 탐지 AI는 눈에 보이지 않는 이 노이즈 주파수를 강제로 시각화해서 ‘가짜’임을 밝혀냅니다. 그 집요함이 때로는 대단하다고 느껴질 때가 있습니다.

선거 허위 영상의 사전 차단

가장 민감한 영역은 민주주의의 근간인 선거라고 할 수 있습니다. 소셜 미디어에 정치적 혐오를 조장하는 가짜 연설 영상이 올라오면, 시청자에게 도달하기도 전에 시스템이 이를 낚아채요. 그리고 조작의 흔적을 붉게 표시하며 ‘이것은 가짜다’라고 원천 봉쇄해 버리는 식이죠. 정보의 유통 자체를 통제하는 이 강력한 시스템이 우리를 보호하는 것인지, 아니면 새로운 형태의 검열로 이어질지 고민하게 만듭니다.

명예 훼손 방어를 위한 개인의 노력

아무 죄 없는 일반인들의 사진이 AI를 통해 음란물로 조작되는 범죄가 기승을 부리고 있어요. 이제 인스타그램에 사진을 올리기 직전, 스마트폰 보호 필터가 기계만 인식할 수 있는 투명 워터마크 노이즈를 제 얼굴 위에 입혀줍니다. 만약 누군가 이 사진을 생성형 AI에 입력하면, 이 노이즈 때문에 시스템이 오작동하며 오류를 뿜어내게 되는 원리죠. 스스로 얼굴에 독을 바른 채 온라인을 활보해야 하는 현실이 씁쓸하게 느껴집니다.

블록체인으로 원본을 증명하다

어쩌다 세상이 여기까지 왔을까요. 이제 언론 매체의 기자나 사진작가들은 셔터를 누르는 순간, 사진의 좌표와 시간을 블록체인에 기록해 ‘원본 증명서’를 발행하는 식입니다. 진짜가 스스로 진짜임을 증명하고 디지털 낙인을 찍어야만 그 가치를 인정받는 시대가 온 거죠. 우리는 이토록 피곤한 진짜와 가짜의 숨바꼭질 속에서 영원히 살아가야 하는지도 모르겠습니다.