[블록미디어 박현재] 이더리움(ETH) 공동 창립자 비탈릭 부테린이 초인공지능(ASI)이 위험성을 초래할 경우 전 세계 컴퓨팅 자원을 1~2년간 제한하는 방안을 제시했다. 이는 인간이 AI 개발에 대비할 시간을 벌기 위한 ‘소프트 중단’ 조치로 설명된다.
초인공지능은 이론적으로 인간의 지능을 모든 면에서 뛰어넘는 인공지능을 말한다. 이는 인간의 모든 인지적 능력을 초월하며, 특정 분야에 국한되지 않고 전반적인 사고, 학습, 문제 해결 능력에서 인간 최고 수준의 지식을 넘어서는 AI를 가리킨다.
부테린은 1월 5일 블로그 게시물을 통해 이러한 제안을 발표했다. 그는 2023년 11월 제안한 ‘방어적 가속주의(defensive accelerationism, d/acc)’ 개념을 보완하며, 초인공지능이 5년 이내 등장할 가능성이 있다고 밝혔다. 하지만 그 결과가 반드시 긍정적일 것이라고는 예단할 수 없다고 경고했다.
그는 산업 규모의 컴퓨터 하드웨어 사용을 줄여 글로벌 컴퓨팅 자원을 최대 99%까지 제한하는 ‘소프트 중단’이 AI 개발 속도를 늦추는 효과적인 방안이 될 수 있다고 주장했다. 이를 통해 인간이 초인공지능로부터 발생할 수 있는 위험에 더 잘 대비할 수 있는 시간을 확보할 수 있다고 덧붙였다.
# 초인공지능 가능성, 기술 개발 대상 신중한 접근 강조
초인공지능는 인간의 모든 전문 지식 분야에서 가장 뛰어난 지능을 가진 것으로 정의되는 이론적 AI 모델이다. 이는 AI의 강력한 잠재력과 동시에 심각한 위험성을 내포하고 있다.
실제로 2023년 3월에는 2600명이 넘는 기술 경영자와 연구자가 공개 서한을 통해 AI 개발 중단을 요청한 바 있다. 이들은 AI가 사회와 인류에 심각한 위험을 초래할 수 있다고 경고했다.
부테린은 d/acc 개념을 통해 위험한 초인공지능 개발을 피하기 위한 방법을 모색하고 있으며, 현재의 단순한 책임 규정으로는 이러한 위험을 충분히 방지하기 어렵다고 밝혔다. 그는 “더 강력한 조치가 필요하다고 확신할 경우에만 하드웨어 제한을 추진할 것”이라고 강조했다.
부테린은 AI 하드웨어를 관리하기 위한 방안으로 △AI 칩 위치 파악 △칩 등록 의무화를 제안했다. 또한, 산업 규모의 AI 하드웨어에는 국제 주요 기구의 서명이 매주 필요하도록 설계된 칩을 장착하는 방안을 제시했다. 이 서명은 특정 장치에 독립적으로 적용될 수 있으며, 블록체인 기술을 활용해 서명의 투명성을 보장할 수도 있다고 설명했다.
부테린이 지지하는 d/acc는 기술 발전에 신중히 접근하자는 입장이다. 이는 기술 변화를 제한 없이 가속화하자는 ‘효율적 가속주의(effective accelerationism, e/acc)’와 대비된다. 그는 “AI 개발에 있어 제한 없는 변화는 장기적으로 더 큰 위험을 초래할 수 있다”며 균형 잡힌 접근의 중요성을 재차 강조했다.
같이 보면 좋은 기사
