가짜를 쫓는 기술, 그 실체를 마주하다.

얼마 전 뉴스에서 한 정치인의 격한 발언을 보다가 놀랐던 기억이 납니다. 그런데 3분도 채 지나지 않아 영상 아래에 붉은 글씨로 “AI 조작물 판별 99%”라는 경고가 뜨더라고요. 제가 믿었던 내용이 이렇게 쉽게 흔들릴 수 있다는 생각에 잠시 멍해졌습니다. 그 순간, 거짓을 만드는 AI와 이를 찾아내는 또 다른 AI가 벌이는 이 추격전을 그저 지켜볼 수밖에 없었죠.

영상 탐지 알고리즘, 집요한 추격전

솔직히 말해 우리 눈으로는 아무리 자세히 봐도 진짜와 가짜를 구별하기가 어렵습니다. 하지만 이 탐지 엔진은 정말 집요하게 파고들더군요. 영상 프레임마다 혈류량에 따른 얼굴색 변화, 목소리 주파수의 미세한 위상 차이까지, 거의 해부학적으로 분석하는 수준입니다. 결국 기계가 만든 것은 기계만이 찾아낼 수 있다는 결론에 이르게 되는 거죠. 아주 작은 조명 모순이나 그림자 궤적 같은 것까지 0.1초 만에 찾아내 ‘이것은 기계가 만든 것’이라고 판단해버리니, 놀랍기만 합니다.

생성 이미지, 완벽함 속 숨은 노이즈

입술 주변 경계선이 어색하거나 눈을 깜빡이지 않는다는 식의 초창기 딥페이크 판별 기준은 이제 사실상 과거의 이야기가 됐습니다. 최근 생성 모델로 만들어진 이미지들은 육안으로는 너무나 자연스러워서 감탄하게 되죠. 하지만 픽셀 단위로 확대해보면, AI가 만들어냈을 때 생기는 고유의 미세한 노이즈 주파수가 여전히 남아있습니다. 그리고 이 탐지 AI는 그 보이지 않는 노이즈 주파수를 시각화해서 찾아내는, 상당히 집요한 모습을 보여주고 있고요.

선거 허위 영상, 사전 차단이 답일까?

가장 중요한 부분은 역시 민주주의의 핵심인 선거 과정이라고 생각합니다. 소셜 미디어에 정치적 혐오를 조장하는 가짜 연설이 올라오면, 시청자들에게 도달하기 전에 시스템이 빠르게 감지해서 차단하더군요. 조작 흔적을 붉게 표시하고 ‘이건 가짜’라고 알리며 원천적으로 막는 방식입니다. 정보 유통 자체를 이렇게까지 통제하는 강력한 시스템이 과연 우리를 보호하고 있는 건지, 아니면 새로운 형태의 검열을 시작하는 건 아닌지, 좀 복잡한 생각이 듭니다.

명예 훼손 방어, 자가 보호의 아이러니

아무 죄 없는 일반인들의 인스타그램 사진 몇 장이 합성 음란물로 둔갑하는 범죄가 빈번한 시대입니다. 인스타그램에 사진을 올리려 해도, 스마트폰 보호 필터가 기계만 인식하는 투명 워터마크 노이즈를 제 얼굴 위에 입히더군요. 만약 누군가 이 사진을 생성형 AI에 사용하려 하면, 이 노이즈 때문에 시스템 전체가 마비되거나 오류를 일으킨다고 합니다. 스스로 얼굴에 일종의 방어막을 두르고 온라인에 나서야 하는 이런 현실이, 안타깝게 느껴집니다.

블록체인 인증, 진실을 증명하는 시대

세상이 어쩌다 이런 상황까지 오게 된 건지 모르겠습니다. 이제 언론 기자나 사진작가들은 셔터를 누르는 순간, 사진의 좌표와 시간을 블록체인에 기록하는 ‘원본 증명서’를 발행해야만 합니다. 진짜가 스스로 진짜임을 증명하고 디지털 기록을 남기지 않으면, 그 가치마저 의심받는 상황이 현실이 되고 있는 거죠. 저는 이렇게 피곤한 진짜와 가짜의 싸움 속에서 계속 살아가야 하는 건 아닌지, 가끔 막막해지곤 합니다.