정말 순식간입니다.
불과 얼마 전까지만 해도 팀에서 FAQ 답변용 내부 챗봇 하나를 만드는 데 열을 올렸을 뿐인데, 어느새 접근 권한은 제멋대로인데다 보안 구멍은 엉망진창인 수백 개의 AI 에이전트가 돌아다니고 있습니다. 누가 뭘 하는지도 아무도 모르는 상황이죠. IT 업계에 계신다면 이 상황, 꽤 익숙하실 겁니다. Rubrik ZeroLabs의 새로운 설문조사가 마치 외치는 듯 말합니다. IT 관리자의 77%가 AI 에이전트가 통제 불능 상태로 치닫고 있다고 느끼고 있으며, 솔직히 놀랍지도 않습니다. 이 영화, 여러 번 봤거든요. 결말은 항상 골치 아픈 문제와 함께 막대한 청구서로 이어지더군요.
‘에이전트 스프로울’ 현상: 데자뷰인가?
이 ‘에이전트 스프로울’ 상황, 어디서 많이 보지 않았나요? 꼭 클라우드 도입 초창기와 닮았습니다. 기억하시죠? 민첩성을 앞세운 팀들이 앞다투어 클라우드 인스턴스를 무분별하게 생성했습니다. 결과는요? 단절된 서비스, 일관성 없는 거버넌스, 그리고 트럭이 드나들 정도로 큰 보안 구멍의 혼란스러운 집합체였죠. AI 에이전트도 같은 길을 걷고 있는 듯합니다. 마이크로소프트의 Kriti Faujdar도 정확히 같은 맥락의 발언을 했고, 솔직히 반박하기 어렵습니다.
“이미 초기 클라우드 도입과 유사한 패턴을 보고 있습니다. 팀들은 서로 다른 프레임워크와 벤더를 사용하여 독립적으로 에이전트를 생성하고 있습니다. 이는 파편화, 일관성 없는 거버넌스, 그리고 숨겨진 보안 격차로 이어집니다.”
이건 단순히 몇몇 잘못된 스크립트 문제가 아닙니다. 시스템적인 문제입니다. 우리는 이 AI 에이전트의 생산성 향상이라는 명목하에, 오히려 에이전트들이 일을 망치지 않도록 관리하는 데 드는 수동적인 노력에 의해 모든 이득이 잠식될 가능성을 보고 있습니다. 이미 IT 관리자의 81%는 에이전트가 절약해줘야 할 시간보다 에이전트를 감시하는 데 더 많은 시간을 쓰고 있다고 합니다. 보안은요? 잊으세요. 사용자들은 에이전트를 빠르게 사용하기 위해 VPN을 비활성화하고 보안 통제를 우회하고 있습니다. 마치 깨지기 쉬운 명나라 도자기로 가득 찬 방에 어린아이들에게 사탕을 나눠주는 것과 같습니다.
누가 진짜 돈을 버는가?
이것이 제 밤잠을 설치게 하는 질문입니다. 플랫폼을 판매하는 벤더들은 당연하죠. 그들은 노력 없이 AI를 구현한다는 꿈을 팔아 돈을 벌고 있습니다. 하지만 이런 것들을 배포하는 기업들은 어떻습니까? 아직까지는 계산이 맞지 않습니다. 개발 비용, 모니터링 비용, 그리고 결국 뭔가 잘못되었을 때의 수습 작전 비용까지 지출하고 있습니다. 그리고 얻는 것은 무엇일까요? 자체 보안 태세를 적극적으로 약화시키는 통제 불가능한 AI 프로그램 덩어리입니다. 아이러니하게도 시적이기까지 하지만, 너무 비싸다는 게 문제입니다.
‘되돌리기’ 기능의 부재
여기 또 다른 보석 같은 사실이 있습니다. 무려 81%의 IT 관리자가 향후 1년 안에 AI 에이전트의 확산 속도가 보안 조치를 앞지를 것으로 예상합니다. 절반 이상은 6개월 안에 일어날 것이라고 생각합니다. 그리고 결정타는요? 거의 모든 사람이 에이전트의 동작을 ‘되돌릴’ 기본적인 능력이 부족하다고 인정합니다. 그래서 에이전트가 실수를 저질렀습니다. 중요한 파일을 삭제했거나, 민감한 데이터를 실수로 노출했을 때, 어떻게 되죠? 재수가 없다고 해야 할까요? 사실상 전원 버튼 없는 디지털 폭탄을 만든 셈입니다.
여기서 대화의 초점은 ‘AI를 얼마나 빨리 배포할 수 있을까?’에서 ‘어떻게 AI를 책임감 있게 구축할 것인가?’로 전환되어야 합니다. Coalition for Secure AI의 수석 엔지니어인 Nik Kale은 이를 명확히 지적합니다. “API 접근 권한이 있는 어떤 팀이든 오후에 에이전트를 생성할 수 있습니다. 이를 대규모 기업에 곱하면, 중복되는 권한을 가진 수백 개의 에이전트와 일관된 ID 모델이 없고, 전체 재고를 알 수 있는 사람은 아무도 없게 됩니다.” 이것은 사소한 오류가 아니라 근본적인 문제입니다.
이것이 일의 미래인가, 아니면 단순히 미래의 두통거리인가?
Rubrik 보고서에 따르면 IT 관리자들이 AI 에이전트 배포 후 답해야 하는 다섯 가지 질문 – 그것이 무엇을 했는가? 왜 했는가? 무엇을 건드렸는가? 안전하게 성공했는가? 어디서 실패했는가? – 을 보면, 우리는 아직 갈 길이 멀다는 것을 알 수 있습니다. 이것들은 현재 대부분 답을 얻지 못하는 기본적인 감사 질문입니다. 이러한 가시성 없이는 누가 허용 가능한 동작을 정의하고, 접근을 감사하고, 인간의 감독을 구현하고, 재난을 막을 수 있을까요?
다시 Kriti Faujdar의 말입니다. “조직은 빠르게 움직이고 싶어 하지만, 명확한 가드레일 없이는 신뢰, 감사, 또는 확장이 어려운 시스템을 만들 위험을 안고 있습니다. 승자는 에이전트 관리를 사후 고려 사항이 아닌 최우선 과제로 삼는 사람들이 될 것입니다.” 이것이 핵심입니다. 이것은 또 다른 소프트웨어 업데이트가 아니라, 훨씬 높은 수준의 규율을 요구하는 자율 시스템의 새로운 패러다임이며, 대부분의 조직은 명백히 그 수준에 도달하지 못했습니다.
모델 드리프트에 대해서는 말도 꺼내지 마세요. Liberty91의 창립자인 Renze Jongman은 이러한 에이전트가 구축되는 기반 모델 자체가 시간이 지남에 따라 변한다고 지적합니다. 지난 분기에 인증한 에이전트가 지금은 완전히 다르게 작동할 수 있습니다. 당신의 거버넌스 모델은 딱딱한 막대가 아니라 고무줄이어야 합니다.
FAQ
AI 에이전트 스프로울이란 무엇인가요? AI 에이전트 스프로울은 조직 내 AI 에이전트의 통제되지 않은 확산을 의미하며, 이는 파편화, 일관성 없는 거버넌스, 그리고 보안 취약점으로 이어집니다.
제 직업을 대체할까요? AI 에이전트는 작업을 자동화할 수 있지만, 동시에 관리, 감사 및 보안을 위한 새로운 역할을 만들어냅니다. 당장의 우려는 제대로 관리되지 않은 에이전트가 상당한 이점을 제공하는 것보다 문제를 일으킬 가능성이 더 높다는 것입니다.
AI 에이전트를 어떻게 제어할 수 있나요? 효과적인 제어는 명확한 거버넌스 정책 수립, 모든 에이전트 재고 유지, 강력한 감사 및 텔레메트리 구현, 허용 가능한 행동 정의, 그리고 롤백 메커니즘을 포함한 적절한 보안 가드레일 확보를 포함합니다.
