앤트로픽 CEO “전쟁 결정, 기계에 맡길 수 없다” ⋯ 美 국방부 조치 비판

[블록미디어 문예윤 기자] 다리오 아모데이 앤트로픽(Anthropic) 최고경영자(CEO)가 미 국방부와 백악관의 조치에 대해 공개적으로 입장을 밝혔다. 미 국방부가 앤트로픽을 ‘공급망 위험(Supply Chain Risk)’으로 지정하고, 방산 계약업체들에 자사 제품 사용 중단을 요구한 데 대한 반응이다.

아모데이는 28일(현지시각) CBS 뉴스와의 인터뷰에서 “앤트로픽은 자사 AI 모델이 대규모 국내 감시나 인간의 개입 없이 자동 발사되는 완전 자율 무기에 사용되는 것에 반대한다”고 밝혔다. 그는 미국 정부가 제안한 AI 활용 사례 중 상당수에는 동의하지만 감시와 완전 자율 무기 플랫폼에는 선을 긋겠다는 입장을 분명히 했다.

아모데이는 “이는 미국인들에게 근본적인 문제”라며 “정부로부터 감시받지 않을 권리와 전쟁에 관한 결정을 군 장교가 직접 내려야 할 권리는 보호돼야 한다. 그 결정을 전적으로 기계에 맡겨서는 안 된다”고 말했다. 그는 “현재 AI 기술은 군사 환경에서 자율적으로 작동하기에 충분히 신뢰할 수준이 아니다”라고 강조했다.

앞서 미 국방부는 앤트로픽을 국가 안보에 대한 ‘공급망 위험’으로 공식 지정했다. 이에 따라 미군과 거래하는 모든 계약업체와 공급업체는 방산 관련 업무에서 앤트로픽 제품을 사용할 수 없게 됐다. 그는 또 급속도로 발전하는 AI 산업을 기존 법·규제가 따라가지 못하고 있다”며 “미국 의회가 국내 대규모 감시에 AI가 활용되지 않도록 명확한 ‘가드레일(안전장치)’을 마련해야 한다”고 촉구했다.

아모데이는 미국 정부의 이러한 조치를 “전례가 없고(unprecedented) 징벌적(punitive)”이라고 비판했다. 다만 그는 이후 추가 설명을 통해 “향후 외국 군대가 완전 자율 무기를 도입하는 상황에서 기술 개발 자체를 원천적으로 반대하는 것은 아니다”라고 밝혔다.

한편, 국방부의 조치 직후 경쟁사 오픈AI는 미 국방부와 계약을 체결하고 자사 AI 모델을 군 네트워크에 배치하기로 합의했다. 피트 헤그세스 국방부 장관은 “즉시 효력을 발휘한다”고 밝혔다. 해당 온라인상에서 엇갈린 반응을 낳았다. 일부에서는 AI가 국내 대규모 감시나 개인 프라이버시 침해에 활용되는 것은 “넘어서는 안 될 선(red line)”이라고 비판했다. 이번 사안을 두고 업계에서는 AI의 군사적 활용 범위와 통제 권한을 둘러싼 논쟁이 본격화되고 있다는 평가가 나온다.