AI가 일하는 시대, 기업 보안의 기준도 달라집니다

2026년 사이버보안 트렌드 | 제로 트러스트에서 AI 에이전트 보안까지

2026년 9월 | SKYWARE INSIGHT

기업의 AI 활용이 확대되면서 사이버보안에도 새로운 변화가 나타나고 있습니다. 과거에는 외부 공격자가 기업 시스템에 침입하지 못하도록 막는 것이 중요했다면, 이제는 AI가 어떤 데이터에 접근하고 어떤 업무까지 수행할 수 있는지도 관리해야 합니다.

생성형 AI는 문서 작성과 분석에 이어 소프트웨어 개발, 고객 응대, 시스템 운영 등 다양한 업무에 활용되고 있습니다. 특히 AI 에이전트는 외부 시스템과 연결해 정보를 조회하고 실제 작업까지 수행할 수 있다는 점에서 새로운 보안 과제를 만들어 내고 있습니다. 동시에 AI는 사이버 공격을 탐지하고 취약점을 분석하는 보안 기술로도 활용되고 있습니다.

2026년 기업 보안의 핵심 변화는 AI를 이용해 시스템을 보호하는 것과, 업무를 수행하는 AI 자체를 보호하는 일이 동시에 중요해졌다는 점입니다.

01. AI는 사이버보안의 위험이자 새로운 방어 수단

AI 기술의 발전은 사이버 공격과 방어 양쪽에 영향을 미치고 있습니다. 공격자는 생성형 AI를 이용해 정교한 피싱 메시지를 작성하거나 공격 준비 과정을 자동화할 수 있습니다. 반면 보안 담당자는 AI를 활용해 방대한 시스템 로그를 분석하고 비정상적인 접근 패턴과 보안 취약점을 보다 효율적으로 찾아낼 수 있습니다.

국내에서도 이러한 변화가 나타나고 있습니다. 한국인터넷진흥원(KISA)은 2026년 9월 발표한 하반기 사이버 위기대응 모의훈련 계획에서 기업 홈페이지 모의 침투에 AI 에이전트를 시범 도입한다고 밝혔습니다. 기존에 보안 전문가가 수동으로 수행하던 점검에 AI를 활용해 홈페이지별 특성에 맞는 공격 시나리오를 도출하고 침투 가능성을 점검하겠다는 것입니다.

AI가 사이버보안의 탐지 · 분석 · 점검 과정에도 쓰이기 시작했다는 뜻입니다. 다만 AI가 분석한 결과가 항상 정확한 것은 아닙니다. 실제 위협 여부와 대응 조치는 보안 정책과 담당자의 검증을 거쳐 결정해야 합니다.

02. AI 에이전트가 등장하면서 새로운 보안 위험이 생겼습니다

기존 챗봇의 역할이 질문에 답하는 것이었다면, AI 에이전트는 기업 시스템과 연결돼 실제 업무를 처리할 수 있습니다. 예를 들어 커머스 AI 에이전트는 상품정보를 검색하고 주문 내역을 조회하며, 허용된 범위에서는 주문 관련 작업까지 수행하도록 설계할 수 있습니다. 문제는 AI가 처리할 수 있는 업무가 많아질수록 접근 가능한 정보와 실행 권한도 확대될 수 있다는 점입니다.

AI 에이전트의 대표적인 보안 위험은 세 가지입니다.

미국 국립표준기술연구소(NIST)도 2026년 초 ‘AI 에이전트의 신원과 권한 부여’를 다룬 개념 문서를 내고 에이전트의 식별, 권한 부여, 접근 위임, 기록을 핵심 과제로 제시했으며, 9월에는 에이전트가 사용하는 토큰과 인증 정보의 위조 · 탈취 · 오용을 막기 위한 지침(NIST IR 8587)을 발표했습니다. 이제는 AI가 무엇을 실행할 수 있는지가 보안의 핵심 과제가 된 것입니다.

03. 제로 트러스트, 이제 AI에도 적용해야 합니다

제로 트러스트(Zero Trust)는 사용자나 기기를 기본적으로 신뢰하지 않고, 시스템 접근 시 신원과 권한 등을 검증하는 보안 원칙입니다. AI 에이전트가 기업 업무에 참여하는 환경에서는 이러한 원칙을 사람뿐 아니라 AI에도 적용해야 합니다.

예를 들어 AI 퍼스널 쇼핑이 고객의 주문 내역을 조회할 수 있더라도, 다른 고객의 개인정보까지 확인하거나 전체 회원정보를 다운로드할 수 있어서는 안 됩니다. 또한 AI가 작성한 보고서를 저장하는 작업과 고객에게 메시지를 발송하는 작업은 서로 다른 권한으로 관리할 필요가 있습니다. 그래서 기업용 AI 시스템에는 다음 설계가 필요합니다.

• 최소 권한 AI가 업무에 필요한 데이터와 기능에만 접근하도록 제한
• 실행 승인 발송 · 결제 · 삭제 등 중요한 작업은 사람의 승인 또는 별도의 통제 절차 적용
• 접근 기록 AI가 조회한 정보와 실행한 작업을 추적할 수 있도록 기록
• 데이터 보호 개인정보와 인증정보의 외부 전송을 통제하고 중요 데이터에 대한 접근을 제한

특히 AI에 대한 지시문만으로 보안을 보장해서는 안 됩니다. 실제 API와 데이터베이스에서 권한을 제한해 AI가 허용 범위를 벗어난 작업을 실행하지 못하도록 해야 합니다. 이는 기업용 AI 구축에서 기존 시스템의 인증 · 권한 관리 체계가 더욱 중요해지는 이유입니다.

04. AI 보안의 경쟁력은 기존 시스템과의 안전한 연결에 있습니다

AI를 기업 업무에 적용하려면 ERP, CRM, 커머스 플랫폼, 메시징 시스템 등 기존 시스템과의 연동이 필요합니다. 그러나 시스템 연결이 많아질수록 데이터가 이동하는 경로와 접근 권한도 복잡해집니다.

예를 들어 커머스 AI 에이전트가 상품 추천부터 주문 조회, 고객 상담까지 지원하려면 여러 업무 시스템의 데이터를 활용해야 합니다. 이 과정에서 어떤 정보를 조회할 수 있는지, 고객별 데이터 접근을 어떻게 구분할지, 어느 작업부터 승인이 필요한지를 설계해야 합니다. 개발 환경도 마찬가지입니다. AI 기반 코딩 도구를 활용할 때는 소스코드 접근 범위와 인증키 관리, 자동 실행되는 명령, 운영 환경 배포 권한 등을 구분할 필요가 있습니다.

기업의 AI · AX 전환에서는 AI와 기존 시스템 사이에 데이터 보호, 접근 권한, 실행 통제 체계를 함께 구축해야 실제 운영 환경에서 안정적으로 활용할 수 있습니다.

05. 스카이웨어가 바라보는 AI와 보안

스카이웨어는 기업의 커머스, 메시징, 업무 시스템을 구축하고 운영해 온 경험을 바탕으로 AI와 기존 시스템의 연계 가능성에 주목하고 있습니다. 특히 커머스 플랫폼과 통합 메시징 시스템은 고객정보와 업무 데이터를 처리하고 다양한 외부 서비스와 연결되는 만큼, 시스템 설계 단계부터 보안과 안정성을 함께 고려해야 하는 영역입니다.

앞으로 AI 기반 고객 경험(CX), 업무 자동화, AI 에이전트 등으로 활용 범위가 확대될수록 데이터 접근과 실행 권한을 정교하게 관리하는 기술의 중요성도 커질 것입니다. 스카이웨어는 AI 기술의 활용 가능성과 함께 기존 시스템과의 안정적인 연계, 업무 프로세스에 맞는 권한 관리, 지속적인 운영 체계를 중요하게 봅니다.

보안은 AI 활용의 기반입니다

AI 활용이 늘어난다고 모든 시스템 접근을 막을 수는 없습니다. AI가 업무에 필요한 정보를 안전하게 쓰고, 허용된 범위 안에서 작업하도록 설계해야 합니다. AI는 사이버 위협을 탐지하고 대응하는 새로운 수단이 될 수 있지만, 동시에 보호하고 관리해야 할 새로운 업무 주체이기도 합니다.

앞으로 기업의 AI 경쟁력은 AI가 맡은 일을 얼마나 안전하고 믿을 수 있게 수행하느냐에 따라 달라질 것입니다.

보안은 AI를 실제 기업 업무에 적용하기 위한 기반입니다.

출처: 한국인터넷진흥원, ‘2026년 하반기 사이버 위기대응 모의훈련 참여기업 모집'(2026.09) · NIST NCCoE, ‘Software and AI Agent Identity and Authorization’ 개념 문서(2026.02) · NIST IR 8587(2026.09)

이어서 읽기 AI Agent, 업무 자동화의 다음 단계 · AI와 AX, 무엇이 다를까? · AX 컨설팅 · 구축