카이트 “오픈클로, AI 에이전트의 개방형 환경 활동 입증… 이제는 ‘신뢰’가 핵심”

[블록미디어 지승환 기자] 인공지능(AI) 에이전트가 통제된 실험실(샌드박스)이나 제한된 워크플로우를 넘어 역동적이고 예측 불가능한 개방형 시스템에서 활동할 수 있음이 입증되면서, 인프라 차원의 ‘신뢰’와 ‘통제’ 문제가 새로운 화두로 떠오르고 있다. AI 경제 인프라 프로젝트 카이트(Kite·KITE)는 24일(현지시각) X(옛 트위터)를 통해 오픈클로(OpenClaw)의 성과를 평가하며, 자율적인 에이전트 경제를 위한 기술 스택의 근본적인 변화를 예고했다.

카이트는 “오픈클로는 AI 에이전트가 실제 시스템에서 연속적으로 사고하고 행동할 수 있다는 점을 증명했다”며 “이를 통해 인공지능의 성능에 대한 대중의 의구심은 점차 사라지고 있다”고 분석했다. 그러나 프로젝트 측은 “이제는 ‘어떻게 이들에게 권한을 부여해야 하며 우리는 어떻게 이들을 믿을 것인가’라는 신뢰의 문제가 시작되고 있다”고 지적했다. 이어 “특히 에이전트가 외부 자산이나 다른 에이전트와 직접 소통하는 개방형 환경에서는, 지능의 완성도보다 행동의 범위를 제어하지 못하는 ‘무분별한 실행’이 더 치명적인 리스크로 작용할 수 있다”고 했다. 구조화된 통제 장치가 없는 자율성은 자칫 거대한 공격 표면으로 변질될 수 있기 때문이다.

개방형 환경에서의 리스크를 관리하기 위해 카이트는 에이전트가 갖춰야 할 네 가지 핵심 구조를 제시했다. 우선 행동의 주체를 식별하는 검증 가능한 신원이 필요하며, 에이전트가 수행할 수 있는 구체적인 행동 범위를 사전에 정의하는 권한 제한이 수반돼야 한다. 또한 활동에 따른 비용과 리스크를 누가 부담할 것인지에 대한 경제적 책임이 명확해야 하며, 에이전트가 행동하기 전 제약 조건이 강제로 집행되는 실행 보장 메커니즘이 필수적이다. 이러한 장치가 없다면 에이전트의 자율성은 통제 가능한 수준보다 더 빠르게 확장될 위험이 있다.

카이트는 이러한 신뢰 스택을 완성하기 위해 △역량 계층인 오픈클로 △권한 모델인 ERC-8004 △집행 및 정산 계층인 카이트 메인넷으로 이어지는 계층 구조를 강조했다. ERC-8004 표준이 에이전트의 권한을 정의하는 기준이 된다면, 카이트 메인넷은 이러한 권한이 실제 실행 단계에서 강제로 지켜지고 온체인에서 투명하게 정산되도록 보장하는 인프라 역할을 수행한다. 카이트 측은 오픈클로가 에이전트의 활동 가능성을 증명했다면, 카이트는 그 활동이 개방형 환경에서 안전하게 이루어지도록 보장하는 최종적인 안전장치가 될 것이라고 밝혔다.