[블록미디어 박현재] 인공지능(AI) 기술이 일상과 산업에 빠르게 확산하는 가운데, 그 이면에 숨겨진 어두운 그림자가 현실 세계를 위협하고 있다. ‘휴머니티 프로토콜(Humanity Protocol)’이 발간한 ‘만들어진 거짓말의 연대기(Chronicles of the Synthetic Lies)’ 보고서는 2018년부터 최근까지 발생한 AI 및 봇 관련 오남용 사례 20가지를 분석하며 기술의 위험성을 경고했다.
이 보고서는 AI가 초래할 수 있는 피해가 단순한 불편을 넘어 금전적 사기, 사생활 침해, 정신적 고통, 심지어 신체적 상해와 사망에까지 이를 수 있음을 보여준다.
# 딥페이크 이용한 초유의 금융 범죄…수백억 원이 순식간에 증발
보고서에서 가장 두드러지는 위협은 AI 음성 및 영상 합성을 이용한 금융 사기다.
– CEO 목소리 복제: 2019년 영국 한 에너지 기업의 임원은 CEO의 목소리를 완벽히 흉내 낸 AI의 전화에 속아 약 24만 3,000달러(약 3억 3천만 원)를 사기꾼에게 송금했다. 이는 기업을 대상으로 한 최초의 주요 딥페이크 사기 사례 중 하나로 기록되었다.
– 3,500만 달러 은행 강탈: 2020년 홍콩에서는 한 은행 관리자가 회사 이사의 목소리로 걸려 온 전화를 받고 3,500만 달러(약 484억 원)를 이체하는 사건이 발생했다. 수사 결과, 범죄 조직이 딥페이크 오디오 기술로 이사의 목소리를 복제한 것으로 드러났다.
– 딥페이크 화상 회의: 2024년에는 한 다국적 기업의 홍콩 지사 직원이 최고재무책임자(CFO)를 비롯한 동료들이 참여한 딥페이크 화상 회의에 속아 약 2,500만~3,500만 달러에 달하는 금액을 송금하는 사건까지 벌어졌다.
– 바이낸스 임원 사칭: 2022년 세계 최대 암호화폐 거래소 바이낸스의 최고소통책임자(CCO)를 사칭한 딥페이크 ‘홀로그램’이 여러 암호화폐 프로젝트팀을 상대로 사기 행각을 벌이기도 했다.
# AI, 인간의 감정 노려…자살 부추기고 가족 위협
AI는 인간의 가장 취약한 부분인 감정을 교묘하게 파고들며 비극을 낳고 있다.
2023년 벨기에에서는 기후 변화로 고통받던 한 남성이 AI 챗봇 ‘엘리자’와 대화하며 위안을 얻다가 오히려 “스스로 목숨을 끊어 지구를 구하라”는 챗봇의 조종에 넘어가 극단적인 선택을 했다.
같은 해 미국 애리조나에서는 한 어머니가 AI로 복제된 15세 딸의 “납치됐다”는 울부짖는 목소리에 속아 몸값을 지불할 뻔한 사건도 있었다.
캐나다에서는 손주 목소리를 흉내 낸 ‘보이스피싱’으로 노인들이 총 20만 달러의 사기를 당했다.
# 일상 속 AI의 배신…통제 불능과 사생활 침해
일상에서 널리 쓰이는 AI 비서와 로봇도 예외는 아니었다.
– 알렉사의 오류: 아마존의 AI 비서 ‘알렉사’는 2018년 아무런 이유 없이 소름 끼치는 웃음소리를 내 사용자들을 불안에 떨게 했다.
2021년에는 10살 아이에게 “콘센트에 동전을 대보라”는 위험천만한 ‘챌린지’를 제안하기도 했다. 심지어 사용자의 사적인 대화를 녹음해 무단으로 연락처 목록의 다른 사람에게 전송하는 심각한 사생활 침해 사건도 있었다.
– 체스 로봇의 공격: 2022년 모스크바의 한 체스 대회에서는 로봇팔이 7세 소년의 손가락을 체스말로 오인해 부러뜨리는 사고가 발생했다.
– 자율주행차 사고: 2018년에는 우버의 자율주행차가 보행자를 미처 인식하지 못하고 충돌해 사망에 이르게 한 비극적인 사건도 있었다.
# 자동화된 사기 네트워크와 가짜뉴스 확산
보고서는 ‘서비스형 사기(Scam-as-a-Service)’ 모델의 등장과 AI를 통한 가짜뉴스 확산도 심각한 문제로 지적했다.
텔레그램 봇을 기반으로 한 피싱 네트워크 ‘클래시스캠(Classiscam)’은 2019년부터 2023년까지 전 세계 사용자들에게 약 6,450만 달러(약 891억 원)의 피해를 입혔다.
또한, 2023년에는 AI가 생성한 ‘펜타곤 인근 폭발’ 가짜 이미지가 소셜 미디어에 퍼지면서 잠시나마 주식 시장이 하락하는 소동이 벌어지기도 했다.
휴머니티 프로토콜은 “이러한 실제 사건들은 AI와 봇이 오작동하거나 오용될 때 그 결과가 인간에게 얼마나 심각하고 현실적인지를 보여준다”며, AI 시대의 안전장치와 윤리적 책임에 대한 사회적 논의가 시급하다고 강조했다.
같이 보면 좋은 기사
