트윗이 작성자에 의해 삭제되었습니다.
하지만 우리는 모든 것을 저장했습니다 🙂.
이더리움의 공동 창립자 비탈릭 부테린은 인공지능이 탈중앙화된 거버넌스를 어떻게 재구성할 수 있는지에 대한 포괄적인 비전을 제시하는 동시에 기계가 인간의 의사 결정을 대체하는 디스토피아적 경로에 대해 경고했습니다.
이 기사는 원문을 번역한 것입니다. 당사 특파원이 작성한 원문은 여기에서 확인하실 수 있습니다.
최근 포스팅에서 부테린은 탈중앙화된 자치 조직(DAO)과 민주주의 시스템의 핵심 약점은 이데올로기가 아니라 관심이라고 주장했습니다. 그는 "AI가 정부가 되는 것"은 디스토피아적이라며, "AI가 약할 때는 슬롭으로 이어지고, AI가 강해지면 파멸을 극대화한다"고 경고했습니다. 그러나 그는 또한 AI를 신중하게 사용하면 민주적이고 분산된 거버넌스를 훼손하기보다는 오히려 그 지평을 넓힐 수 있다고 제안했습니다.
부테린에 따르면, DAO와 민주적 거버넌스 모델이 직면한 근본적인 문제는 인간의 주의력 한계입니다. 현대의 탈중앙화 시스템에서는 참여자들이 다양한 영역에 걸쳐 수천 개의 제안을 평가해야 하는 경우가 많습니다. 대부분의 개인은 많은 영역은 말할 것도 없고 한 영역에 깊이 관여할 시간이나 전문 지식이 부족합니다.
표준적인 해결 방법인 위임에는 자체적인 결함이 있습니다. 사용자가 자신의 투표권을 대표자에게 위임하면 소수의 대표자에게 권력이 집중되어 지속적인 영향력을 잃게 됩니다. 부테린은 이를 탈중앙화 시스템이 피하고자 하는 전통적인 정치 계층 구조와 구조적으로 유사하며 권한을 박탈하는 것이라고 설명합니다.
부테린은 거버넌스를 AI로 대체하는 대신 개인의 글쓰기, 선호도, 가치관에 대해 학습된 개인용 대규모 언어 모델(LLM)인 '개인 거버넌스 에이전트'로 개인을 보강할 것을 제안했습니다. 이러한 에이전트는 일상적인 문제에 대해 투표하여 영향력이 크거나 모호한 결정만 다시 인간 사용자에게 전달할 수 있습니다.
그는 또한 개인 데이터를 노출하지 않고 토론을 요약하고, 공유된 입장을 파악하고, 담론을 구성하는 '공개 대화 에이전트'에 대해서도 설명했습니다. 또한 그는 예측 방식의 메커니즘을 통해 양질의 제안이나 주장에 보상을 제공하는 '제안 시장'을 제안했습니다.
보상이나 협상과 같이 기밀 정보가 포함된 민감한 결정의 경우, 부테린은 다자간 계산과 신뢰할 수 있는 실행 환경을 비밀을 침해하지 않으면서 집단적 의견을 수렴할 수 있는 도구로 꼽았습니다. 또한 영지식 증명을 통한 익명성, 불필요한 공개를 방지하기 위한 안전장치 등 개인정보 보호가 기본이 되어야 한다고 강조했습니다.
부테린의 제안은 탈중앙화를 희생하지 않으면서 참여를 확대하는 것, 즉 암호화폐 거버넌스에서 점점 더 커지는 긴장을 강조합니다. DAO가 수십억 달러에 달하는 디지털 자산을 관리함에 따라 의사결정 시스템은 점점 더 복잡해지고 있습니다.
그의 접근 방식은 AI를 관리 기관이 아닌 인지 증폭기, 즉 시간과 전문 지식의 구조적 한계를 극복하면서 개인의 자율성을 보존하는 방법으로 재구성합니다.
관련 글: 끝없는 투표와 옵틱이 아닌 인프라에 집중할 것을 촉구하는 비탈릭 부테린의 이야기