"잠깐, 이거 누가 승인했죠?" 아마 아무도 승인하지 않았을 겁니다. 그래서 지금 거의 모든 회사 어딘가에는 IT 부서가 본 적도, 승인한 적도, 존재조차 모르는 AI 도구가 돌아가고 있습니다. 사내 AI 도입은 누군가 정책을 먼저 쓸 때까지 기다려 주지 않았고, 2026년에 그 청구서가 거의 동시에 날아들고 있습니다. 현업 팀은 스스로 판단해 AI로 보고서를 만들고, 관리 시트를 짜고, 사내 도구 전체를 올립니다. 대부분은 아무 일도 일어나지 않습니다. 하지만 일이 터지면 청구서는 구체적이고, 액수가 큽니다.
신호. IBM의 Cost of a Data Breach Report 2025에 따르면 섀도 AI와 연결된 유출 사고는 일반 사고보다 평균 67만 달러가 더 들었고, 탐지까지 247일이 걸렸습니다. 전 세계 평균보다 6일 느립니다. IBM이 분석한 유출 사고의 20%는 직원이 보안 승인 없이 도입한 AI 도구로 이어졌습니다. 별도로 13%의 조직이 AI 모델 또는 애플리케이션 자체가 침해당했다고 답했고, 그중 97%는 사고 당시 제대로 된 AI 접근 통제가 없었습니다.
이건 앞으로의 위험에 대한 경고가 아닙니다. 지금 이 순간 회사 안에서, 보안팀 누구도 열어본 적 없는 브라우저 탭에서 이미 벌어지고 있는 일에 대한 설명입니다.
섀도 AI와 시민 개발은 같은 것이 아닙니다
두 용어는 경영 회의에서 거의 같은 뜻으로 쓰이지만, 실제로는 똑같은 흐름에서 갈라져 나온 정반대의 결과를 가리킵니다. 그 흐름이란 엔지니어가 아니라 현업 담당자가 자기 일에 필요한 소프트웨어를 직접 만든다는 것입니다.
시민 개발은 회사가 비개발 직원에게 IT가 승인한 도구와 가드레일, 감독을 함께 주고 직접 만들게 하는 방식입니다. 재고 관리표를 직접 짜는 운영 리더, 결재 흐름을 자동화하는 재무 매니저 — 그 작업은 IT에 보이고, 기존 보안 정책의 적용을 받으며, 문제가 생기면 책임질 사람이 있습니다.
섀도 AI는 같은 본능에 그 가시성만 통째로 빠진 것입니다. 고객 데이터가 담긴 스프레드시트를 붙여넣고 요약을 시키는 무료 AI 챗봇. 개인 메일과 법인 카드로 결제해 보안팀은 끝내 모르는 워크플로 도구. 주말에 뚝딱 만든 사내 "앱"이 접근 통제도 감사 로그도 없이 실제 고객 데이터를 다루기 시작하고, 만든 사람 말고는 아무도 그게 운영 중이라는 걸 모르는 상황입니다.
차이는 만드는 사람이 얼마나 야심 찼는지가 아니었습니다. 차이는 거버넌스입니다. IT가 그 존재를 아는가, 감사할 수 있는가, 그 보안을 책임지는 사람이 실제로 있는가.
경고를 뒷받침하는 숫자
IBM의 Cost of a Data Breach Report 2025는 현재까지 섀도 AI의 실제 비용을 가장 엄밀하게 들여다본 자료이고, 숫자는 불편합니다. 섀도 AI와 연결된 유출 사고의 평균 피해액은 463만 달러로 일반 사고보다 67만 달러 높았고, 확인까지 247일이 걸려 전체 평균보다 6일 늦었습니다. 이 차이는 누적됩니다. 사고가 늦게 발견될수록 수습 비용은 더 커지기 때문입니다.
유출된 데이터의 성격도 더 나쁩니다. 섀도 AI와 연결된 사고의 65%가 개인식별정보를 포함했고, 전체 유출 평균은 53%였습니다. 지식재산이 포함된 비율은 40%로 평균 33%보다 높았습니다. 아무도 승인하지 않은 AI 도구가 뚫릴 때, 그 안에는 대개 가장 보호했어야 할 데이터가 들어 있습니다.
이 숫자들의 근본 원인은 단순합니다. 피해를 입은 조직의 63%는 AI 거버넌스 정책이 아예 없었거나 사고 당시 아직 만드는 중이었습니다. AI 모델·애플리케이션이 직접 침해당했다고 보고한 기업 중 97%는 적절한 접근 통제가 없었습니다. 사실상 아무도 문을 지키지 않는 상태로 운영에 올라가 있었던 겁니다.
왜 지금 섀도 AI가 폭증하는가
본질은 AI가 유독 위험하다는 이야기가 아닙니다. 지금 누가 소프트웨어를 만들고 있고, 얼마나 빨리 만드는가의 이야기입니다. 이미 2021년에
가트너는 예측했습니다. 기술 제품과 서비스의 80%가 공식 IT 부서 밖의 사람들 손에서 만들어질 것이라고요. 그리고 AI를 쓴 노코드 개발이 그 예측을 정확히 제때 현실로 만들었습니다. 업계 조사에 따르면 대기업 안에서 시민 개발자는 전문 엔지니어보다 4대 1로 많고, 신규 업무 애플리케이션 개발의 약 70%가 로우코드 또는 노코드 도구 위에서 이뤄집니다.
이 변화는 크게 보면 좋은 소식입니다. AgentUI가 존재하는 이유이기도 합니다. 실제 업무 흐름을 가장 잘 아는 운영 책임자가 그걸 고치려고 6개월짜리 개발 티켓을 기다릴 이유는 없습니다. 다만 오늘 IT 밖에서 만들어지는 맞춤형 애플리케이션의 약 30%는 기술 교육을 거의 또는 전혀 받지 않은 사람이 만듭니다. 또 가트너는 2026년 말까지 기업 애플리케이션의 40%가 전용 AI 에이전트를 포함할 것으로 봅니다. 2025년에는 5% 미만이었습니다. 만들기는 급격히 쉬워지는데, 거버넌스는 여전히 훈련된 엔지니어만 만든다는 전제 위에 설계돼 있습니다.
두 곡선을 같은 그래프에 올려 보세요. 만들 수 있는 사람의 수와, 만들어진 것을 검토할 감독의 양입니다. 그 사이의 간격이 그대로 섀도 AI입니다. 일부 직원이 무모한 짓을 하는 게 아닙니다. 수천 명에게 만들 힘을 주면서, 무엇이 만들어졌는지는 누구에게도 보이게 하지 않은 결과일 뿐입니다.
거버넌스가 있는 시민 개발 vs. 통제 없는 섀도 AI
첫날의 두 경로는 똑같아 보입니다. 누군가 필요한 것을 설명하면 도구가 만들어 줍니다. 갈라지는 건 그 뒤에 일어나는 모든 일입니다.
| | 섀도 AI | 거버넌스가 있는 시민 개발 |
|---|
| 가시성 | IT는 사후에 알게 되고, 끝내 모르기도 합니다. | 모든 앱과 담당자, 데이터가 하나의 대시보드에 보입니다. |
| 접근 통제 | 링크만 있으면 누구나 들어옵니다. | Admin, User, Viewer, Compliance Officer 역할이 기본 제공됩니다. |
| 감사 추적 | 없거나, 공급사가 남기기로 한 것만 있습니다. | 모든 작업을 실행자·시각·IP와 함께 기록하고 Splunk, Datadog, S3로 내보냅니다. |
| 데이터 처리 | 민감한 항목을 프롬프트에 붙여넣고, 어디에 저장되는지 모릅니다. | 필드 단위 마스킹과 역할 기반 해제, 해제 기록도 항상 남습니다. |
| 감사 대응 준비 | 감사인에게 보여 줄 것이 없습니다. | SOC 2 Type II, GDPR 대응, 서명 가능한 BAA를 포함한 HIPAA 지원. |
| 책임 소재 | 만든 사람. 아직 회사에 남아 있다면요. | 이름이 있는 담당자, 보안 점수, 문서로 남는 기록. |
거버넌스를 실제로 적용하면
이건 정책 PDF 한 장으로 해결되는 문제가 아닙니다. 거버넌스가 플랫폼의 기본 상태여야 합니다. 누가 어떤 앱을 만들었는지, 누가 볼 수 있는지, 누가 민감한 데이터를 만질 수 있는지, 그리고 누가 물어보면 그것을 증명하는 기록까지.
AgentUI는 모든 프로젝트에 이를 강제합니다. Admin, User, Viewer, Compliance Officer 역할이 기본으로 제공되고, 생성·수정·배포·데이터 접근 등 모든 작업이 실행자·시각·IP와 함께 기록되며, 어느 요금제에서도 Splunk, Datadog, S3로 내보낼 수 있습니다. (코드 수준에서 무엇이 달라지는지 — 보안 스캐닝, 환경 분리 — 는
바이브 코딩이 기업 거버넌스를 무너뜨리는 이유에서 다룹니다.)
🔍
기본 제공 감사 로그
생성·수정·접근을 모두 실행자·시각·IP와 함께 기록하고, 엔터프라이즈가 아닌 모든 요금제에서 내보낼 수 있습니다.
🛡️
역할 기반 접근 제어
Admin, User, Viewer, Compliance Officer 역할을 권한 코드 한 줄 쓰지 않고 지정할 수 있습니다.
🔎
자동 코드 스캐닝
5개 범주 22개 Semgrep 규칙, 프로젝트별 0~100 보안 점수, 심각한 발견은 배포를 막습니다.
5분 점검: 섀도 AI가 이미 회사 안에 있나요?
첫 판단을 하는 데 정식 보안 감사는 필요 없습니다. 여섯 개 질문에 솔직하게 답하면 필요한 건 거의 다 알 수 있습니다.
- 지금 회사 어딘가에서 돌아가는 AI 도구와 AI로 만든 애플리케이션을 전부 이름으로 댈 수 있나요? IT가 도입한 것만이 아니라 전부요.
- 각각이 누가, 언제, 어디서 무엇을 했는지 보여 주는 감사 로그를 남기나요?
- 접근이 역할로 통제되나요, 아니면 링크만 있으면 누구나 들어오나요?
- 이메일, 전화번호, 신분증 번호 같은 민감한 항목이 필드 단위로 마스킹되나요, 아니면 화면의 버튼 뒤에 숨겨져 있을 뿐인가요?
- 테스트 중인 것과 고객이 실제로 쓰는 것이 제대로 분리돼 있나요, 아니면 수정하는 즉시 운영에 반영되나요?
- 규제기관이나 감사인, 고객이 내일 아침 AI 거버넌스 증빙을 요구한다면 그날 안에 건넬 수 있나요?
이 중 두 개 이상에 "아니오" 또는 "잘 모르겠다"라고 답했다면, 섀도 AI는 2027년 로드맵에 올릴 위험이 아닙니다. 오늘 회사 안에서 진행 중인 상태입니다.
지금까지의 이야기는 AI를 이용한 개발을 금지하자는 주장이 아닙니다. 그 흐름은 이미 되돌릴 수 없고, 금지는 그 행동을 회사 밖으로 내보내는 대신 더 깊은 그늘로 밀어 넣을 뿐입니다. 해답은 덜 만드는 것이 아니었습니다. 거버넌스가 시스템의 기본 상태인 플랫폼 위에서 만드는 것입니다. 직원들이 기억해 주기를 바라는 정책 문서로는 부족합니다.
AgentUI는 바로 그 전제 위에 세워졌습니다. 애플리케이션은 AI가 만듭니다. 감사 로깅, 접근 통제, 보안 스캐닝은 무엇이든 실제 사용자에게 닿기 전에 플랫폼이 강제합니다. 자동으로, 열 명짜리 스타트업이든 1만 명 규모의 기업이든 모든 프로젝트에서 같은 방식으로요. 설정되어 있는 것과 강제되는 것은 다르고, 아무도 지키게 하지 않는 정책은 거버넌스가 아닙니다. 대부분의 플랫폼은 소프트웨어를 팔고 거버넌스는 고객에게 맡깁니다. 우리는 팀을 팝니다. 그리고 그 팀이 일하고 있음을 보여 주는 감사 로그를 함께 드립니다.
