[블록미디어 지승환 기자] 마이클(Michael) 브레비스(Brevis·BREV) 최고경영자(CEO)가 11일(현지시각) X(옛 트위터)를 통해 “이제 보는 것이 곧 믿는 것인 시대는 끝났다”며 “생성형 인공지능(AI)이 만든 가짜와 실재를 구분하는 유일한 방법은 미디어의 출처를 증명하는 것뿐”이라고 강조했다.
그는 지난 9일 정식 출시된 미디어 진위 검증 시스템 ‘브레비스 베라(Brevis Vera)’를 소개하며 기존 AI 탐지 방식이 가진 한계를 지적하고 영지식(ZK) 증명을 통한 새로운 신뢰 구축 모델을 제시했다.
“AI 탐지기는 무작위 추측 수준”…출처 증명으로의 패러다임 전환
마이클 CEO는 전 세계 인구의 절반 이상인 58%가 온라인 콘텐츠의 진위를 걱정하고 있다는 점을 언급하며 기존의 AI 탐지기는 더 이상 유효한 해결책이 아니라고 단언했다.
그는 “생성 모델의 기술 발전에 따라 탐지 모델을 지속적으로 고도화해야 하는 과정이 반복되고 있다”며 “실제로 최신 AI 탐지 시스템조차 실전 데이터 환경에서는 무작위 추측과 큰 차이가 없는 낮은 정확도를 보이고 있다”고 설명했다.
마이클 CEO는 브레비스 베라가 미디어의 생성부터 최종 발행에 이르는 전 과정을 수학적으로 증명한다고 설명했다. 그에 따르면, 콘텐츠 출처 및 진위 확인 표준(C2PA)을 지원하는 기기는 촬영 시점에 암호화 서명을 생성해 실제 장치에서 촬영됐음을 입증하지만, 보도를 위한 구도 수정이나 개인정보 보호를 위한 블러 처리 등 필수적인 편집만으로도 원본 서명이 파괴되는 기술적 한계가 존재한다.
‘피코 ZKVM’으로 무결성 입증…”완벽한 출처 증명”
브레비스 베라는 이 지점에서 ‘브레비스 피코 영지식 가상머신(Pico ZKVM)’을 활용한다. 편집자가 소프트웨어를 통해 미디어를 수정할 때 그 과정 자체를 영지식 증명으로 생성해 결과물이 원본에서 파생됐고 허용된 편집 외에 악의적인 조작이 없었음을 수학적으로 보증한다.
이러한 방식은 원본 데이터의 프라이버시를 보호하면서도 발행된 콘텐츠의 진위 여부를 누구나 독립적으로 검증할 수 있게 지원한다.
브레비스 베라는 현재 정식 가동 중이며 오픈 소스 이미지 편집 라이브러리와의 통합을 마친 상태다. 브레비스는 참조 구현 코드를 깃허브(GitHub)에 공개했으며, 향후 전 세계 창작자들이 사용하는 주요 영상 및 이미지 편집 앱에 베라 시스템을 이식하기 위해 협의를 진행하고 있다.
마이클 CEO는 “브레비스 베라는 원본의 프라이버시는 지키면서도 그 출처만큼은 완벽하게 증명한다”며 “중앙 집중식 기관에 의존하지 않고 누구나 진실을 확인할 수 있는 투명한 미디어 생태계를 주도해 나가겠다”고 설명했다.
관련 기사
