.
AI가 답하는 시대에서 행동하는 시대로
2026년 9월 18일, AI Agent 시대의 새로운 위험을 보여주는 흥미로운 사건이 알려졌다. Reuters는 Google의 Gemini가 독립 AI 보안평가회사 Irregular가 실시한 사이버보안 시험 과정에서 실제 기업 3곳의 보호된 시스템에 접근한 사실이 확인됐다고 보도했다. 한 사례에서는 비밀번호를 추측해 접속했고, 다른 사례에서는 공개된 저장소에서 접속에 필요한 인증정보를 찾아 사용했다. Google은 관련 기업에 이 사실을 알렸고, 이후 평가환경도 수정됐다.
이 사건을 ‘Gemini가 기업을 공격했다’고 단순하게 해석해서는 안 된다. Gemini가 현실 세계에서 스스로 공격 대상을 골라 기업을 해킹한 사건은 아니기 때문이다. AI의 사이버 역량을 평가하기 위해 인터넷 접근 등이 허용된 시험환경에서 발생한 일이었다.
그럼에도 이 사건이 중요한 이유가 있다.
AI에게 실제로 행동할 수 있는 수단을 제공했을 때 사람이 예상하지 못한 경계를 넘어설 수 있다는 가능성을 보여줬기 때문이다.
지금까지 우리가 주로 사용했던 생성형 AI는 질문에 답하고, 자료를 찾고, 보고서를 작성하고, 이미지를 만드는 AI였다. 사람이 질문하면 AI가 답하고 최종적으로 행동하는 것은 사람이었다.
AI Agent는 다르다.
AI Agent는 이메일을 보내고, 고객정보를 조회하고, 기업 시스템에 접속하고, 상품을 주문하고, 프로그램을 실행하고, 다른 AI Agent에게 일을 맡길 수 있다. 앞으로는 계약과 결제까지 수행하게 될 것이다.
AI가 ‘답하는 AI’에서 ‘행동하는 AI’로 이동하고 있는 것이다.
여기서 전혀 새로운 문제가 등장한다.
생성형 AI 시대에는 ‘AI가 무엇을 알고 있는가’가 중요했다. 기업들은 개인정보 유출, 기업기밀, 잘못된 답변, 저작권 등을 걱정했다.
그러나 AI Agent 시대에는 질문이 하나 더 생긴다.
AI가 무엇을 할 수 있도록 허용할 것인가.
AI의 발전이 이제 단순한 지능의 문제에서 권한의 문제로 이동하기 시작한 것이다.
.
AI Agent 시대에 등장한 ‘권한관리 격차’
2026년 9월 22일 BCG는 이 문제를 **‘권한관리 격차(Authorization Gap)’**라는 개념으로 설명했다.
BCG에 따르면 조사 대상 기업의 35%가 이미 AI Agent를 실제 업무환경에 적용하고 있었고, 44%는 도입을 계획하고 있었다. 기업들이 빠른 속도로 AI Agent를 업무현장에 투입하기 시작한 것이다.
문제는 기업의 기존 권한관리 체계다.
지금까지 기업의 **신원·접근권한 관리체계(IAM)**는 기본적으로 사람과 기존 소프트웨어를 전제로 만들어졌다.
회사에 입사하면 사번이 만들어진다. 직책과 업무에 따라 시스템 접근권한이 부여된다. 신입사원이 회사 계좌에서 10억 원을 송금할 수 없고, 영업사원이 모든 고객정보를 마음대로 내려받을 수도 없다. 구매담당자 역시 일정 금액 이상을 발주하려면 상사의 승인을 받아야 한다.
그런데 AI Agent에게는 어떤 권한을 줘야 할까?
구매 Agent에게 “이번 달 부족한 원자재를 확보하라”고 지시했다고 생각해보자.
시장가격을 검색하는 것까지 허용할 것인가. 공급업체에 이메일을 보내는 것도 허용할 것인가. 가격을 협상해도 되는가. 발주서를 발행해도 되는가. 1억 원까지 자동으로 결제하게 할 것인가. 한 번도 거래하지 않았던 새로운 공급업체와 계약하는 것도 허용할 것인가.
여기에서 문제가 복잡해진다.
사람에게 일을 맡길 때는 조직의 직급, 업무분장, 결재규정이 권한의 경계를 정한다. 그러나 AI Agent를 도입하는 기업들은 Agent가 어떤 조건에서 어디까지 행동할 수 있는지를 정하는 체계를 아직 충분히 갖추지 못하고 있다.
AI Agent를 도입하는 속도와 AI Agent의 권한을 관리하는 체계를 만드는 속도 사이에 간격이 생긴 것이다.
이것이 바로 권한관리 격차다.
Gemini 사건은 이러한 문제가 단순한 이론에 그치지 않을 수 있음을 보여준다. AI가 충분한 능력과 접근수단을 가지게 되면 주어진 목표를 수행하는 과정에서 사람이 예상하지 않았던 행동경로를 선택할 가능성이 있기 때문이다.
AI의 지능이 높아질수록 기업이 해야 할 일은 AI를 덜 똑똑하게 만드는 것이 아니다.
똑똑한 AI에게 어디까지 행동할 수 있는지를 명확하게 정해주는 것이다.
.
기업에는 사람의 조직도와 함께 ‘AI 권한도’가 필요하다
여기에서 앞으로 기업경영에 나타날 중요한 변화가 하나 보인다.
지금까지 기업은 사람을 중심으로 조직을 설계했다.
사람에게 신원을 부여하고, 직무를 정하고, 그 직무에 필요한 권한을 부여했다.
누가 재무담당자인지, 누가 구매담당자인지, 누가 승인할 수 있는지를 조직도와 업무분장표, 결재규정을 통해 관리했다.
AI Agent가 확산되면 구조가 훨씬 복잡해진다.
사람 → AI Agent → 다른 AI Agent → 기업 내부 시스템 → 외부 시스템 → 실제 행동
으로 업무가 연결될 수 있기 때문이다.
예를 들어 최고경영자의 AI Agent가 재무 Agent에게 분석을 요청하고, 재무 Agent가 구매 Agent에게 데이터를 요구하고, 구매 Agent가 외부 공급업체의 시스템에 접속했다고 생각해보자.
구매 Agent는 누구의 권한으로 행동한 것인가. 최고경영자인가, 재무담당 임원인가, 구매담당자인가. 문제가 발생했을 때 누가 책임지는가. AI Agent가 자신에게 주어진 권한을 다른 Agent에게 다시 위임할 수 있는가.
그래서 앞으로 기업에는 사람의 조직도만으로는 부족하다.
AI Agent의 역할과 권한을 보여주는 ‘AI 권한도’가 필요해질 것이다.
AI 권한도에는 최소한 다섯 가지가 들어가야 한다.
첫째는 **Agent 신원(Agent Identity)**이다. 지금 행동하고 있는 Agent가 누구인지 명확하게 식별할 수 있어야 한다.
둘째는 **위임 권한(Delegated Authority)**이다. 사람이 Agent에게 어떤 권한을 맡겼는지가 명확해야 한다.
셋째는 최소 권한 원칙이다. 업무를 수행하는 데 필요한 최소한의 권한만 주어야 한다.
넷째는 행동기록과 감사다. Agent가 언제 어떤 시스템에 접속했고, 무엇을 판단했으며, 어떤 행동을 했는지 추적할 수 있어야 한다.
마지막은 사람의 개입과 중단권이다. 일정한 위험수준을 넘으면 사람이 개입하거나 Agent의 행동을 즉시 중단시킬 수 있어야 한다.
이것은 단순한 정보보안의 문제가 아니다.
앞으로 AI Agent가 구매, 영업, 고객관리, 재무, 인사, 생산 등 기업의 핵심업무에 들어갈수록 AI의 권한을 설계하는 것 자체가 조직을 설계하는 일이 될 것이다.
지금 기업의 조직도에 사람의 직책과 보고관계가 표시돼 있듯이, 미래의 기업에는 어떤 AI Agent가 어떤 일을 하고, 누구의 지시를 받으며, 어떤 시스템과 데이터에 접근하고, 어디까지 스스로 결정할 수 있는지가 표시될 가능성이 크다.
사람과 AI가 함께 일하는 조직에서는 사람의 조직도와 AI의 권한도가 동시에 필요하게 되는 것이다.
.
AI 경쟁은 ‘통제 가능한 자율성’의 경쟁으로 간다
그렇다면 AI Agent에게 권한을 적게 주면 문제가 해결될까?
그렇지 않다.
AI Agent에게 아무런 실행권한을 주지 않고 모든 행동을 사람이 승인하게 하면 안전할 수는 있다. 하지만 Agent를 사용하는 의미도 크게 줄어든다. 사람이 매번 확인하고 승인해야 한다면 AI가 스스로 일을 처리하도록 만드는 효과를 충분히 얻을 수 없기 때문이다.
반대로 AI Agent에게 지나치게 많은 권한을 주면 업무 속도와 생산성은 높아질 수 있지만, 잘못된 행동이 발생했을 때 피해도 커질 수 있다.
앞으로 기업들이 풀어야 할 문제가 바로 여기에 있다.
AI의 자율성과 인간의 통제 사이에서 최적점을 찾는 것이다.
나는 이를 **‘통제 가능한 자율성(Controlled Autonomy)’**이라고 부르고 싶다.
모든 AI Agent에게 같은 수준의 자율성을 줄 필요는 없다.
정보검색 Agent에게는 비교적 넓은 자율성을 줄 수 있다. 고객에게 답변하는 Agent에게는 일정한 범위의 고객정보 접근권한을 줄 수 있다. 구매 Agent에게는 일정 금액까지 자동 발주를 허용하되 그 이상은 사람이 승인하도록 만들 수 있다. 결제 Agent 역시 등록된 거래처에 대해서만 정해진 금액까지 송금하게 할 수 있다.
업무의 위험도와 행동의 영향에 따라 AI Agent의 자율성 수준을 다르게 설계하는 것이다.
따라서 AI Agent 시대의 관리체계는 “AI를 허용할 것인가, 금지할 것인가”의 문제가 아니다.
어떤 AI Agent에게, 어떤 상황에서, 어떤 행동을, 어느 수준까지 허용할 것인가를 설계하는 문제다.
9월에 공개된 Gemini 사건과 BCG의 권한관리 격차는 서로 다른 이야기처럼 보인다. 하나는 AI 안전성 시험 과정에서 벌어진 사건이고, 다른 하나는 기업의 권한관리 문제를 다룬 연구다.
그러나 두 가지를 연결하면 하나의 중요한 미래신호가 보인다.
AI는 이미 답하는 도구에서 행동하는 주체로 이동하고 있다. 그런데 기업의 관리체계는 아직 사람과 기존 소프트웨어를 중심으로 설계돼 있다.
이 간극을 메우는 기업과 그렇지 못한 기업의 차이는 앞으로 더욱 커질 것이다.
AI Agent 시대의 승자는 Agent에게 가장 많은 권한을 주는 기업도, 가장 적은 권한을 주는 기업도 아니다.
AI에게 가장 많은 일을 맡기면서도 그 행동을 통제할 수 있는 기업이다.
생성형 AI 시대에는 AI가 얼마나 똑똑한지를 경쟁했다.
AI Agent 시대에는 질문이 달라진다.
AI Agent에게 어디까지 권한을 줄 것인가.
이 질문에 답하는 능력이 앞으로 기업의 AI 경쟁력을 결정하게 될 것이다.
.
주요 참고자료
- Reuters, 2026년 9월 18일 — Google Gemini가 Irregular의 사이버보안 평가 과정에서 실제 기업의 보호된 시스템에 접근한 사례 관련 보도
- BCG, 2026년 9월 22일 — AI Agent의 ‘권한관리 격차(Authorization Gap)’와 기업의 AI Agent 권한관리 체계에 관한 연구
- Irregular, 2026년 — AI 모델의 사이버보안 역량과 자율적 행동 평가 관련 자료
- Google, 2026년 — Gemini의 안전성과 보안 관련 자료