AI 가짜영상 경계, 진짜와 가짜 구분 능력 키워야

최근 야구장 관중석에서 포착된 '야구장 여신' 영상이 SNS에서 화제가 됐다. 평범한 프로야구 중계 화면처럼 보이지만 점수판에 등장한 투수와 타자가 서로 다른 시대에 활동한 선수라는 오류가 있었다. 이후 'AI 야구 중계샷 쉽게 만드는 법' 같은 영상이 잇따르며 상당수 이용자가 이를 실제 장면으로 받아들였다. 문제는 AI 기술이 발전하면서 얼굴, 목소리, 움직임까지 정교하게 재현해 진짜와 가짜의 경계가 흐려지고 있다는 점이다. 김휘강 고려대 정보보호대학원 교수는 "가짜가 범람할수록 사람들은 진짜의 가치에 무감각해지고 참과 거짓보다 도파민 역치를 끌어올리는 데만 반응하는 사회가 될 것"이라며 "인간의 판단 능력이 무뎌지는 것을 막아야 한다"고 강조했다.

딥페이크는 AI 생성 모델의 한 알고리즘에서 시작된 기술로, 2차원 사진만으로 3차원 움직임을 구현하는 등 긍정적 활용 사례도 있었다. 하지만 최근에는 허위 영상이나 음란물 제작 등 부정적 방향으로 악용되는 사례가 늘고 있다. 2025년 글로벌 이슈가 됐던 '미스터 딥페이크' 사이트는 K-팝 스타 얼굴로 음란 영상을 제작·판매하다 폐쇄됐다. 이제는 공인에 국한되지 않고 지인 사진을 악용하는 사례도 발생하며 졸업앨범 제작을 꺼리는 분위기까지 생겼다. 조작 콘텐츠는 사회적 판단까지 흔들 수 있다. 정치인이 하지 않은 발언을 조작 영상으로 만들어 퍼뜨리면 유권자는 잘못된 정보에 노출될 수밖에 없다.

딥페이크 탐지는 카메라 촬영 시 남는 전자기적 노이즈나 음성 패턴을 분석하는 방식으로 이뤄진다. 하지만 통신사가 전화 음성과 내용을 실시간으로 분석해 특정 문맥까지 감지하면 개인정보 침해 논란으로 이어질 수 있다. 김 교수는 "딥페이크 영상을 탐지하고 차단하는 것도 중요하지만 그전에 개인정보 침해 문제부터 관리해야 한다"고 말했다. 선거철 무분별하게 날아오는 홍보 문자나 악성 링크로 연결되는 방식이 우려된다는 것이다. 특히 글 형태의 허위정보는 80~90%의 사실에 거짓을 섞어 판단하기 더 어렵다. '가짜였다'는 사실이 밝혀져도 대중은 이미 다른 이슈로 관심을 돌린 뒤 정정 정보 자체를 믿지 않는 분위기다.

대중은 무엇을 기준으로 가짜 정보를 걸러내야 할까. 김 교수는 "교과서적으로는 여러 출처를 비교해 교차 검증하라고 이야기하지만 현실에서는 쉽지 않다"며 "중요한 건 집단 분위기에 휩쓸리지 않는 자세"라고 말했다. 주변 사람들이 모두 같은 이야기를 하면 특정 여론이 대세인 것처럼 느끼고 '나만 잘못 생각하고 있나'라는 압박을 받는다. 이른바 에코 체임버 현상으로, 특정 정보와 의견만 반복적으로 소비하면서 다른 관점은 받아들이기 어려워진다. 다수가 말한다고 무조건 믿기보다 스스로 한 번 더 의심하고 판단하려는 태도가 중요하다.

김 교수는 1994년 카이스트 교내 해킹 동아리 활동을 시작으로 사이버보안 분야에 뛰어들었다. 1999년 보안 컨설팅 기업 '에이쓰리시큐리티'를 창업했고 2017년 'AI스페라'를 설립했다. 이후 2023년 출시한 '크리미널 IP'를 통해 피싱 사이트나 해킹 위험을 사전에 탐지하고 금융 결제 차단 등 보안 대응에 활용하고 있다. 딥페이크 음란물 사이트 IP를 추적·수집해 법무법인과 수사기관에 제공하는 일도 맡고 있다.

보안 영역에서는 'AI를 활용한 보안'과 'AI를 위한 보안'이라는 두 흐름이 있다. 전자는 AI 기술로 기존 보안 업무를 자동화하고 효율화하는 개념이며, 후자는 AI를 보호하기 위한 보안 체계를 의미한다. 김 교수는 "AI 기술이 발전할수록 가짜 콘텐츠도 정교해지므로 사회적 검증 시스템과 개인의 판단 능력이 함께 강화돼야 한다"고 말했다.