이안 로저스 렛저(Ledger) 최고인간대리인책임자(CHAO)는 스위스 취리히에서 열린 포인트 제로 포럼(PZF) 2026에서 AI 에이전트의 보안 문제와 인간의 통제권 강화를 강조했다. 그는 AI 에이전트가 결제 및 거래를 스스로 실행하는 상황에서 금융기관이 최종 결정권을 상실할 경우, 심각한 금융 보안 위기가 발생할 수 있다고 경고했다. 로저스는 인공지능이 사회 전반에 걸쳐 통합됨에 따라 인간의 대리권(Human Agency)이 더욱 중요해질 것이라고 전망했다.

그는 모든 기업이 미래에 직원 1인당 AI 에이전트를 보유하게 될 것이라는 점을 언급하며, “AI는 단순히 제안만 해야 하며, 최종 결정은 인간이 맡아야 한다”고 강조했다. AI가 독자적으로 결정을 내리고 그 결과까지 승인하는 상황이 펼쳐지면, 인간의 주권이 무너질 위험이 크다고 경고했다. 이러한 실수가 특히 금융거래와 같은 막대한 자금이 오가는 분야에서 치명적인 결과를 초래할 것이라고 우려를 표했다.

로저스는 AI 에이전트가 직면할 수 있는 '치명적 3요소'에 대해서도 철저하게 경계해야 한다고 언급했다. 이는 기밀 정보 접근, 외부로의 정보 전송, 제3자의 영향력 행사라는 세 가지 조건이 동시에 충족될 때 발생하는 심각한 취약점을 의미한다. 그는 지금까지의 일반적인 보안 수준으로는 이러한 문제를 해결할 수 없으며, AI 에이전트는 군사급 보안 수준에 버금가는 고유의 하드웨어 보안 지갑을 필요로 한다고 주장했다.

렛저가 개발한 ‘인텐트 큐(Intent Queue)’와 ‘정책 엔진(Policy Engine)’은 AI 에이전트의 자율 작동을 보장하되, 모든 행동의 의도를 등록하도록 요구하는 시스템이다. 이러한 접근 방식은 AI가 정책 범위를 벗어날 경우 반드시 인간의 승인 절차를 거치도록 설계되었다. 이는 AI의 결정권이 인간에게 여전히 존재해야 함을 의미하며, 로저스는 이 시스템이 자율성과 인간의 통제를 조화롭게 연결할 수 있을 것이라고 믿고 있다.

렛저는 올해 하반기부터 AI 에이전트의 정체성을 하드웨어에 고정하는 기능, 제안된 행동을 검토할 수 있는 신뢰 디스플레이 레이어, 그리고 AI 에이전트 뒤에 고유한 인간이 있음을 증명하는 ‘프루프 오브 휴먼(Proof of Human)’ 기능을 출시할 계획이다. 이러한 상황에서 한국의 가상 자산 투자자 수가 증가하고 있는 점을 언급하며, 한국은 렛저에게 중요한 시장이 될 것이라고 덧붙였다. 그는 한국 금융기관들이 AI 에이전트를 도입하는 과정에서의 기술적 통제 해결을 위한 기업 솔루션에도 협력할 수 있는 기회를 찾아가고 있다고 밝혔다.