“당신은 온라인에서 진짜 인간을 구별할 수 있는가?”…휴머니티의 경고

[블록미디어 지승환 기자] “눈으로 보는 것이 곧 믿는 것(Seeing is believing)”이라는 격언이 디지털 세상에서 종말을 고하고 있다. 디지털자산(가상자산) 기반 신원 인증 프로젝트 휴머니티(Humanity·H)은 최근 실시한 실험 결과를 통해, 현대의 인공지능(AI) 기술이 인간의 시각적 판별 능력을 완전히 넘어섰다는 충격적인 데이터를 공개했다.

4일(현지시각) X(옛 트위터)에 따르면 휴머니티는 최근 3주간 자사 디스코드 커뮤니티에서 디지털 무결성을 테스트하기 위한 라이브 실험을 진행했다. 참가자들에게 데이팅 앱 프로필 사진 여러 장을 보여준 뒤, 그중 단 한 명의 ‘진짜 인간’을 찾아내도록 한 것이다.

총 851표가 집계된 이번 실험의 결과는 예상을 뛰어넘었다. 1라운드에서 진짜 인간을 맞춘 정답률은 23%에 불과했으며, 3라운드에서는 19%까지 떨어졌다. 전체 라운드를 통합한 평균 정확도는 약 35~36% 수준으로, 3명 중 2명은 AI가 만든 가짜 얼굴을 실제 사람이라고 믿었다. 특히 이번 테스트는 참가자들이 ‘가짜가 섞여 있다’는 사실을 사전에 인지하고 주의 깊게 살핀 상태에서 진행됐음에도 불구하고 이 같은 낮은 정답률을 기록했다는 점이 주목된다.

과거에는 △어색한 손가락 모양 △비대칭적인 귀걸이 △부자연스러운 배경 등을 통해 AI 이미지를 구별할 수 있다는 믿음이 있었다. 하지만 휴머니티 측은 “그러한 조언은 이미 시대에 뒤떨어졌다”고 단언한다.

최근의 생성형 AI 모델은 안면 대칭은 물론 사실적인 피부 질감과 렌즈 시뮬레이션까지 완벽하게 재현한다. 특히 단순히 완벽한 얼굴을 만드는 것이 아니라, 인간이 무의식적으로 ‘사람답다’고 느끼게 만드는 통계적 결점들까지 복제해낸다. 인간이 수천년간 진화시키며 신뢰해 온 ‘얼굴 인식’이라는 인지 능력을 AI가 대규모로 복제 및 제조하고 있는 셈이다.

휴머니티는 앞서 진행한 틴더(Tinder) 실험 사례도 언급했다. 소비자용 AI 도구만으로 만든 가짜 프로필이 기존 인증 시스템을 통과했을 뿐만 아니라, 40명이 넘는 실제 사용자들을 같은 시간, 같은 장소로 불러내는 데 성공했다는 내용이다.

휴머니티에 따르면 이러한 위협은 단순한 데이팅 앱 사기를 넘어 △구인 프로세스 △사회공학적 해킹 △정치적 가짜 뉴스 △금융 사기 등 신원을 기반으로 하는 모든 영역으로 확장되고 있다. 시각적 증거가 가졌던 신뢰성이 떨어진 지금, 더 이상 인간의 직관에 의존한 신원 확인은 안전하지 않다는 지적이다.

프로젝트 측은 “이제 질문은 ‘이것이 가짜인가?’가 아니라 ‘가짜와 진짜를 구분할 수 없다는 전제하에 어떤 시스템을 구축해야 하는가?’로 바뀌어야 한다”며 “인터넷의 가면이 완벽하게 인간의 모습을 하고 있는 시대에 걸맞은 새로운 디지털 신원 확인 인프라가 필요하다”고 강조했다.