이더리움 창립자 비탈릭 부테린, 초인공지능 위험 대비 ‘컴퓨팅 자원 제한’ 제안

 

부테린, AI 위험 대응을 위한 1~2년간 컴퓨팅 자원 제한 주장

이더리움의 공동 창립자 비탈릭 부테린은 최근 초인공지능(ASI)의 위험성에 대비하는 방법으로 컴퓨팅 자원의 제한을 제안했다. 그의 제안은 전 세계 컴퓨터 하드웨어 사용을 최대 99%까지 줄여 1~2년 동안 ‘소프트 중단’ 조치를 취함으로써, 인간이 AI의 위험에 대비할 수 있는 시간을 벌자는 내용이다.

초인공지능의 위협과 가능성

초인공지능은 이론적으로 인간의 지능을 모든 면에서 뛰어넘는 인공지능을 뜻한다. 이는 인간의 모든 인지적 능력을 초월하며, 특정 분야를 넘어서서 전반적인 사고, 학습, 문제 해결 능력에서 인간의 최고 수준을 넘는 지능을 가진 AI를 의미한다. 하지만 초인공지능의 등장 가능성에는 커다란 위험도 동반된다.

부테린은 2023년 11월, ‘방어적 가속주의(defensive accelerationism, d/acc)’ 개념을 제시하며, 초인공지능이 5년 이내에 등장할 가능성이 있다는 경고를 발한 바 있다. 그는 초인공지능이 인간과 사회에 미칠 수 있는 부정적인 영향을 완전히 배제할 수 없다고 주장했다.

컴퓨팅 자원 제한을 통한 위험 대응

비탈릭 부테린은 AI의 위험을 경고하며, 초인공지능 개발에 대해 신중한 접근이 필요하다고 말했다. 그는 산업 규모의 컴퓨터 하드웨어 사용을 줄여 글로벌 컴퓨팅 자원을 99%까지 제한하는 ‘소프트 중단’ 방안을 제안했다. 이 방안은 AI의 개발 속도를 늦추고, 인간이 초인공지능의 위험에 대해 충분히 준비할 시간을 확보할 수 있도록 한다는 목표를 갖고 있다.

부테린은 이 방안을 통해 AI 개발의 속도를 늦추고, 사람들이 기술 발전에 대해 더 신중하게 접근할 수 있도록 한다. 이는 초인공지능이 사회와 인간에 미칠 수 있는 부정적인 영향을 예방하기 위한 중요한 전략으로 여겨진다.

방어적 가속주의와 하드웨어 제한 제안

부테린의 제안 중 가장 주목받는 부분은 ‘방어적 가속주의’(d/acc) 개념과 하드웨어 관리 방안이다. 부테린은 이 개념을 통해 AI의 발전을 무조건적으로 촉진하는 것보다는 신중하게 접근해야 한다는 입장을 표명했다. 그는 "AI 개발에 있어 제한 없는 변화는 장기적으로 더 큰 위험을 초래할 수 있다"며, 효율적 가속주의(e/acc)와 대조되는 입장을 분명히 했다.

그의 제안은 AI 하드웨어의 사용을 관리하기 위한 구체적인 방법들을 제시하고 있다. 예를 들어, AI 칩의 위치를 추적하고, 칩 등록을 의무화하는 등의 조치를 제안했다. 또한, 산업 규모의 AI 하드웨어에 국제 기구의 서명이 필요하도록 설계된 칩을 장착하여 투명성을 보장할 수 있다는 방안을 내놓았다.

이와 같은 조치는 블록체인 기술을 활용하여 서명의 진위를 확인하는 시스템을 도입할 수도 있다고 부테린은 설명했다. 이를 통해 AI 개발과 관련된 위험을 줄이고, 더 나아가 초인공지능의 불확실성과 위험을 관리하는 방법을 모색할 수 있다는 것이다.

초인공지능의 위험을 둘러싼 사회적 논의

초인공지능의 잠재적 위험성에 대해서는 이미 여러 차례 논의가 있었다. 2023년 3월에는 2600명이 넘는 기술 경영자와 연구자들이 공개 서한을 통해 AI 개발 중단을 요청하며, AI가 인류와 사회에 미칠 수 있는 심각한 위험을 경고했다. 이들은 AI가 사회 구조와 인간의 삶에 미치는 영향이 너무 커서, 지금의 속도대로 AI를 발전시키는 것이 위험할 수 있다고 주장했다.

부테린은 이러한 경고에 동조하며, AI 개발을 너무 빠르게 진행하는 것에 대해 신중한 입장을 고수했다. 그는 현재의 규제와 책임 규정만으로는 AI의 위험을 충분히 차단할 수 없다고 판단하고, 더 강력한 조치가 필요하다고 강조했다.

결론: 기술 발전의 균형 잡힌 접근 필요

비탈릭 부테린이 제안한 컴퓨팅 자원 제한과 AI 개발 속도 조절은 초인공지능의 위험을 대비하는 중요한 방법으로 보인다. 그는 기술 발전을 제한하는 것이 아니라, 그것을 신중하게 진행하여 불확실성과 위험을 관리하려는 노력을 기울이고 있다.

부테린은 AI와 같은 혁신적인 기술의 발전이 사회에 미칠 영향에 대해 충분히 고민하고 있으며, 이를 보다 안전하게 발전시키기 위한 방안을 제시하고 있다. 결국, 기술 발전은 반드시 필요한 방향으로 이끌어야 하며, 그 과정에서 인류의 안전과 사회적 책임을 고려한 균형 잡힌 접근이 필요하다는 메시지를 전하고 있다.

---

TAG: 비탈릭 부테린, 초인공지능, AI 위험, 컴퓨팅 자원 제한, 방어적 가속주의