비탈릭 부테린, AI 에이전트가 사용자 모르게 데이터를 훔치고 설정을 변경할 수 있다고 경고

이더리움 공동 설립자 Vitalik Buterin 현대 AI 시스템이 심각한 개인정보 및 보안 위험을 초래할 수 있다고 경고하며, 지역 우선 AI 인프라로의 전환을 촉구했습니다. 

안에 자세한 블로그 게시물비탈릭 부테린은 클라우드 기반 AI 도구가 외부 서버에 민감한 사용자 데이터에 대한 접근 권한을 제공하며, 최신 AI 에이전트 시스템은 사용자 확인 없이 시스템 설정을 변경하거나 사용자에게 아무런 표시 없이 외부 서버로 데이터를 전송하는 등의 조치를 취할 수 있다고 말했습니다.

비탈릭 부테린이 경고하는 보안 위험은 무엇인가요?

부테린의 우려는 일반적인 개인정보 보호 문제를 넘어섭니다. 그는 인공지능 에이전트가 실제로 작동하는 방식과 관련된 구체적이고 입증된 위험들을 지적했습니다.

보안 연구원들은 이미 실제 환경에서 이러한 취약점 중 몇 가지를 입증했습니다.

• 인공지능 에이전트에게 웹페이지 요약 작업을 지시했는데, 그중 하나가 악성 페이지였습니다. 해당 페이지는 에이전트에게 셸 스크립트를 다운로드하고 실행하도록 지시하여 외부 공격자가 시스템을 제어할 수 있도록 했습니다.
• 일부 에이전트 도구는 사용자에게 아무런 알림 없이 사용자 데이터를 외부 서버로 전송하는 네트워크 요청을 몰래 실행하는 것으로 밝혀졌습니다.
• 연구원들이 검토한 에이전트 스킬 중 약 15%에 악의적인 지침이 포함되어 있었습니다.

부테린은 탐지하기 더 어려운 위험 요소들도 지적했습니다. 일부 모델에는 숨겨진 백도어, 즉 특정 조건에서 활성화되어 시스템이 사용자의 이익이 아닌 개발자의 이익을 위해 작동하도록 만드는 기능이 모델에 내장되어 있을 수 있다는 것입니다. 

그는 또한 오픈 소스라고 설명되는 대부분의 모델은 실제로는 "가중치 오픈"에 불과하다고 지적했습니다. 즉, 모델 매개변수는 공유되지만 전체 내부 구조와 학습 과정은 공유되지 않는다는 뜻입니다. 이는 사용자가 독립적으로 검증할 수 없는 알 수 없는 동작의 가능성을 남겨둡니다.

챗봇과 AI 에이전트의 차이점은 무엇인가요?

비테린은 현재를 AI 활용 방식의 전환점으로 규정했습니다. 초기 AI 도구는 챗봇처럼 작동했습니다. 사용자가 질문을 하면 모델이 답변을 제공하는 방식이었죠. 하지만 에이전트는 다릅니다. 사용자가 시스템에 작업을 부여하면, 시스템은 그 작업을 완료하기 위해 수십, 수백 개의 도구를 사용하여 때로는 장시간 동안 독립적으로 작동합니다.

이러한 변화는 위험 발생 가능성을 크게 확대합니다. 웹 브라우징, 파일 읽기, 메시지 전송, 시스템 설정 변경이 가능한 에이전트는 단순히 질문에 답하는 시스템보다 보안 결함, 조작 시도 또는 단순한 실수를 통해 피해를 입힐 가능성이 훨씬 더 큽니다.

비테르네는 어떻게 자신만의 로컬 AI 시스템을 구축했을까?

비테린은 이미 클라우드 기반 AI 도구 사용을 중단했다고 밝혔습니다. 그는 자신의 개인적인 시스템 구성을 "자체 주권, 로컬, 개인 정보 보호 및 보안"을 기반으로 한다고 설명하며, 모든 AI 추론은 로컬 하드웨어에서 실행되고, 모든 파일은 로컬에 저장되며, 모든 프로세스는 샌드박스 내에서 실행된다는 세 가지 핵심 원칙을 바탕으로 구축되었다고 말했습니다.

이 맥락에서 샌드박스는 프로그램이 접근할 수 있는 영역을 제한하는 격리된 컴퓨팅 환경을 의미합니다. 비탈릭 부테린은 버블랩이라는 도구를 사용하여 AI 도구를 디렉토리 수준의 샌드박스에서 실행합니다. 이 샌드박스에서는 프로그램이 부테린이 명시적으로 허용한 파일만 볼 수 있으며, 네트워크 포트 접근 및 오디오 접근까지 제어할 수 있습니다.

유망한 프로젝트를 발견하세요...

유망한 프로젝트...

(광고)

기사는 계속됩니다...

하드웨어 부테린, 로컬 AI 추론 성능 테스트 완료

부테린은 AI 모델을 로컬에서 실행하는 데 적합한 하드웨어 구성을 찾기 위해 여러 가지 설정을 테스트했습니다. 결과는 상당히 다양했습니다.

• NVIDIA 5090 GPU가 탑재된 노트북은 Qwen3.5:35B 모델을 사용하여 초당 약 90개의 토큰을 처리했습니다.
• 128GB 통합 메모리를 탑재한 AMD Ryzen AI Max Pro는 초당 약 51개의 토큰을 처리했습니다.
• 데스크톱 AI 슈퍼컴퓨터로 홍보되는 DGX Spark는 초당 약 60개의 토큰을 처리했습니다.

부테린은 개인적으로 실용적인 성능을 위한 최소 속도로 초당 50개의 토큰을 꼽았습니다. 그보다 느린 속도는 실용적으로 사용하기에 너무 답답하다고 말하며, 초당 90개의 토큰이 이상적이라고 했습니다. 그는 DGX Spark가 광고 내용에 비해 성능이 떨어지며, 좋은 노트북 GPU보다도 속도가 낮을 ​​뿐 아니라 별도의 업무용 기기에서 연결하려면 추가적인 네트워크 설정이 필요하다고 지적했습니다.

그의 소프트웨어 스택은 로컬에서 실행되는 백그라운드 프로세스인 llama-server를 중심으로 구성되어 있으며, 이 프로세스는 다른 애플리케이션이 호출할 수 있도록 사용자 컴퓨터의 포트를 노출합니다. 이를 통해 OpenAI 또는 Anthropic 모델용으로 개발된 모든 소프트웨어는 로컬 모델로 리디렉션될 수 있습니다. 또한, 모델 간 전환을 더욱 쉽게 하기 위해 llama-swap을 사용합니다.

이것이 암호화폐 지갑에 어떤 의미를 갖는가?

비테린의 AI 보안에 대한 우려는 그가 암호화폐 지갑 내에서 AI를 어떻게 활용해야 한다고 생각하는지와 직접적으로 연결됩니다. 2026년 3월, 그는 자신의 파캐스터(Farcaster) 계정에 올린 글에서 AI 기반 거래를 위한 구체적인 기술적 워크플로우를 설명했습니다.

그의 입장은 AI가 자금을 관리해야 한다는 것이 아닙니다. AI가 실행 방안을 제안하고, 그 제안 위에 독립적인 검증과 인간의 확인 절차가 추가되어야 한다는 것입니다. 고액 거래의 경우, 그는 3단계 프로세스를 설명했습니다. AI가 계획을 제안하고, 로컬 라이트 클라이언트가 온체인에서 해당 계획의 실행을 시뮬레이션하며, 사용자가 명확한 설명과 시뮬레이션 결과를 검토한 후 확정하는 것입니다.

로컬 라이트 클라이언트는 전체 블록체인을 다운로드하지 않고도 블록체인 데이터를 검증합니다. 여기에 AI 레이어를 결합하면 사용자는 타사 인터페이스에 의존하지 않고도 거래가 네트워크에 전송되기 전에 해당 거래가 어떤 결과를 가져올지 정확하게 확인할 수 있습니다.

DApp 인터페이스 제거가 중요한 이유

대부분의 암호화폐 사용자는 브라우저 기반 프런트엔드를 통해 탈중앙화 애플리케이션과 상호작용합니다. 이러한 인터페이스는 오랫동안 주요 공격 표면이었습니다. 프런트엔드 하이재킹, 악성 스크립트 삽입, 가짜 승인 요청 등으로 인해 최근 몇 년 동안 수억 달러의 손실이 발생했습니다.

부테린은 AI 기반 지갑이 그러한 인터페이스를 완전히 없앨 수 있다고 주장했습니다. 사용자가 원하는 바를 명확한 언어로 설명하고 지갑이 직접 거래를 구성하고 시뮬레이션하면, 제3자 웹사이트를 이용할 필요가 없어진다는 것입니다. 

"DApp UI를 완전히 제거하면 도용과 개인정보 침해 모두에 대한 수많은 공격 경로를 해결할 수 있습니다."라고 그는 썼다.

비테린은 위험도가 낮은 거래의 경우 자동화의 여지가 더 많다고 봅니다. AI 지갑은 비정상적인 활동을 감지하기 위해 거래 패턴을 모니터링하고, 현재 네트워크 상황에 따라 가스 수수료를 제안하고, 토큰 스왑을 효율적인 경로로 처리하고, 승인 전에 의심스러운 계약 상호 작용을 표시하는 등의 작업을 충분히 수행할 수 있습니다. 이러한 작업은 오류가 발생하더라도 복구가 가능하며, 자동화를 통해 비기술적인 사용자의 복잡성을 줄일 수 있습니다.

비탈릭 부테린에 따르면, 대규모 언어 모델(LLM)에 막대한 자금에 대한 무제한적인 권한을 맡겨서는 안 됩니다. LLM은 결정론적 논리가 아닌 통계적 패턴에 기반하여 응답을 생성합니다. 따라서 지시를 잘못 해석하거나, 의도치 않은 입력을 통해 모델을 조작할 수 있습니다. 부테린이 제안한 워크플로의 각 계층은 이러한 오류를 방지하기 위해 독립적인 검증 절차를 추가합니다.

인공지능 에이전트 시장이 이러한 위험을 더욱 시급하게 만드는 이유

부테린이 제기한 우려는 가설이 아닙니다. 업계 추산에 따르면 AI 에이전트 시장 규모는 약 1억 2천만 달러에 달합니다. $ 8 억 2025년 기준 시장 규모는 2030년까지 48억 달러 이상으로 성장할 것으로 예상되며, 이는 연평균 43% 이상의 성장률을 나타냅니다. 인간의 감독이 줄어든 자율 AI 시스템을 기반으로 하는 소프트웨어 개발이 증가함에 따라, 그가 지적한 보안 취약점은 규모가 커질수록 더 이상 무시하기 어려워집니다.

맺음말

비테린의 경고는 입증된 연구 결과에 근거합니다. AI 에이전트의 보안 취약점은 이미 실제 환경에서 입증되었으며, 챗봇에서 자율 에이전트로의 전환은 이러한 위험을 억제하기 더욱 어렵게 만듭니다. 

그의 로컬 우선 설정과 3단계 지갑 워크플로는 AI 자체를 거부하는 것이 아닙니다. 데이터나 자금에 대한 통제권을 포기하지 않고 AI를 활용하려는 시도입니다. AI 에이전트의 능력이 향상됨에 따라 누가 실제로 그들의 행동을 통제하는지에 대한 질문을 더 이상 무시할 수 없게 됩니다.

리소스

1. 비탈릭 부테린 기고: 저의 자율적/로컬/개인/보안 LLM 설정, 2026년 4월

2. 파캐스터에 대한 비탈릭 부테린의 의견3월 5일 게시글

3. BCC 리서치 보고서인공지능 에이전트 시장은 2030년까지 연평균 43.3% 성장할 것으로 예상됩니다.