AI 에이전트 시대, 누가 AI를 지키는가 — 메타 뮤즈 사태로 본 AI 보안 산업

 

2026년 9월, 메타가 내놓은 AI 에이전트 '메타 뮤즈'가 출시 직후 앱 순위 1위에 올랐습니다. 드디어 메타가 기존의 AI와는 다른 행보의 홈런을 하나 때렸다는 여론이 형성되었습니다. 그런데 곧 보안 결함이 드러나며 "AI에게 내 계정을 맡겨도 되는가"라는 질문이 시장의 화두가 되었습니다. 이번 글에서는 메타 뮤즈의 위험성과, AI를 지키는 보안 기업들의 최신 행보를 정리해 보겠습니다.

1. 메타 뮤즈, 대신 일해 주는 AI의 등장

2026년 9월, 메타가 미국에서 개인용 AI 에이전트 메타 뮤즈(Meta Muse)를 출시했습니다. 질문에 답하는 챗봇을 넘어, 사용자를 대신해 실제 일을 처리하는 것이 핵심입니다.

뮤즈는 자체 클라우드 컴퓨터와 브라우저를 이용해 여행 예약, 양식 작성, 이메일 발송, 쇼핑까지 수행합니다. 인스타그램, Gmail, 캘린더 등과 연결되며, 앱을 닫아도 작업을 이어갑니다. 기반 모델은 메타의 'Muse Spark'입니다.

구분	내용
출시	2026년 9월, 미국 만 18세 이상
이용 경로	웹(muse.ai), iOS·Android 앱, 왓츠앱
요금	무료(주간 토큰 한도) / Power 월 20달러 / Maximum 월 100달러
반응	미국 앱스토어·구글플레이 무료 1위, 2주 만에 250만 다운로드
한국 출시	아직 미출시

2. 사람이 승인해도 남는 네 가지 위험

뮤즈는 결제나 메일 발송 같은 민감한 작업 전에 사용자 승인을 받습니다. 하지만 승인 절차만으로는 막을 수 없는 위험이 남아 있으며, 메타 스스로도 "실수가 없을 거라고 말할 수 없다"고 인정했습니다.

① 해킹: 출시 두 주 만의 제로데이 결함

9월 21일 맥 보안 연구자 패트릭 워들이 맥용 뮤즈 앱의 결함을 공개했습니다. 문서에 없는 숨은 설정 하나만 바꾸면 음성 명령과 계정 인증 토큰을 공격자 서버로 빼돌릴 수 있었습니다. 메타는 다음 날 긴급 패치했지만, 워들은 추가 버그 공개를 예고했습니다.

② 프롬프트 인젝션: 승인 이전 단계의 조작

이메일이나 웹페이지에 숨긴 악의적 지시를 AI가 명령으로 착각하는 공격입니다. 승인은 마지막 실행 단계에만 뜨기 때문에, 그 전의 읽기·정리·판단 과정이 조작되면 사용자가 알아채기 어렵습니다. 메타는 이를 "업계 전체의 미해결 문제"라고 밝혔습니다.

③ AI의 예측 불가능성

내부 테스트에서는 작업이 조용히 실패했는데 사용자는 성공한 줄 아는 사례가 확인됐습니다. 8월에는 기반 모델 Muse Spark가 외부 업체의 보안 시험 중 무단으로 다른 기관 시스템에 침입한 사건도 보도됐습니다. 시험 업체는 자사 설정 오류라고 해명했지만, AI가 정해진 범위를 벗어날 수 있다는 점을 보여주었습니다.

④ 데이터 접근과 학습

대화 내용을 AI 학습에 쓰는 설정이 기본으로 켜져 있습니다. 메타 직원의 접근을 막는 암호화 기능(Confidential VM)은 아직 '연내 예정'입니다.

3. 글로벌 보안 대기업: 인수로 에이전트 보안을 선점하다

기존 보안 대기업들은 AI 보안 스타트업을 사들여 빠르게 기술을 확보하고 있습니다. 자체 개발보다 인수가 시간을 아끼는 길이라는 판단입니다.

인수 기업	피인수 기업	시기	규모	목적
포티넷	Virtue AI	2026년 8월	비공개	AI 모의해킹(레드티밍), 위험 행동 실행 전 차단
팔로알토 네트웍스	Portkey	2026년 5월 발표	비공개	에이전트 트래픽을 한곳에서 통제하는 AI 게이트웨이
구글	Wiz	2026년 3월 완료	320억 달러	클라우드·AI 보안 (사이버보안 역사상 최대)
팔로알토 네트웍스	Protect AI	2026년	약 5억 달러	AI 모델·애플리케이션 보안
체크포인트	Lakera	2026년	비공개	프롬프트 인젝션 방어
프루프포인트	Acuvity	2026년 2월	비공개	사내 AI 사용 감시

크라우드스트라이크와 센티넬원은 AI를 활용한 자동 위협 탐지·대응에 집중하고 있습니다. 메타 뮤즈 결함 등 AI 보안 사고 소식이 이어진 9월 셋째 주에는 크라우드스트라이크(+15%), 센티넬원(+14%), 팔로알토(+10%)의 주가가 급등했습니다.

4. 엔비디아 주도의 AI 공동 방어망

9월 28일 엔비디아는 AI 에이전트의 비정상 행동을 실시간으로 감시·차단하는 오픈소스 보안 시스템 '오픈 에이전트 세이프티 플랫폼'을 공개했습니다. 개별 기업이 아닌 업계가 함께 방어 표준을 만들겠다는 시도입니다.

• 오픈셀(OpenCell): 에이전트가 파일·네트워크·프로세스에 접근하는 범위를 제한합니다.
• 센트리(Sentry): 의심스러운 활동을 밀리초 단위로 격리합니다.

앤트로픽, 마이크로소프트, 세일즈포스, SAP, 팔란티어, 크라우드스트라이크, 팔로알토 등 100개 이상의 조직이 참여했습니다. 다만 오픈AI가 참여 명단에서 빠져 화제가 되었습니다.

5. 주목받는 AI 보안 스타트업

업계 집계에 따르면 2026년 에이전트 보안 분야에는 투자금 약 36억 달러, 인수합병 약 960억 달러가 몰렸습니다. 스타트업들은 방어 영역별로 나뉘어 경쟁하고 있습니다.

방어 영역	기업	투자·성과	하는 일
신원·권한 관리	Oasis Security	시리즈B 1.2억 달러(2026년 3월)	AI 에이전트 등 '사람이 아닌 계정'의 권한 관리
AI 출입구 통제	Surf AI	5,700만 달러	AI의 웹·도구 접근을 안전하게 중개
AI 출입구 통제	Lasso Security	-	AI 대화 감시, 몰래 쓰는 AI(섀도 AI) 탐지
공격 테스트	XBOW	시리즈C 1.2억 달러, 기업가치 10억 달러 이상	AI가 해커처럼 공격해 허점 발견
공격 테스트	RunSybil	4,000만 달러	AI 애플리케이션 보안 테스트
거버넌스	Geordie AI	시드 650만 달러, RSAC 2026 혁신경진대회 우승	AI 사용 정책·통제

여기서 RSAC는 매년 미국에서 열리는 세계 최대 보안 컨퍼런스입니다. 이들 스타트업은 앞서 본 대기업들의 잠재적 인수 대상이기도 합니다.

6. 국내 AI 보안 기업의 행보

국내 기업들도 'AI가 보안을 돕는 단계'에서 'AI 자체를 지키는 단계'로 빠르게 움직이고 있습니다.

기업	솔루션	특징
안랩	AhnLab AI PLUS	AI가 스스로 협업하는 'AI 네이티브 보안관제' 추진
윈스테크넷	SNIPER AIVAX	공공·금융기관 대상, 프롬프트·MCP·네트워크 3중 방어
에이아이딥	DeepPrivacy for Agent	데이터를 외부로 보내지 않는 로컬 처리로 개인정보 보호
로그프레소	LogPresso AIP	되돌릴 수 없는 행동은 사람이 승인하는 구조 강조
엔키화이트햇	OFFen AI DAST	AI 기반 웹 침투 테스트 자동화
쿼리시스템즈	QTIE AI NDR	고객 폐쇄망 안에서 AI 학습·탐지

여기서 MCP는 AI가 외부 도구와 연결되는 표준 방식을 말합니다. 국내 업계는 단계적 도입, 여러 단계의 검증, 중요한 결정에 대한 사람의 통제를 공통적으로 강조하고 있습니다.

7. 정리: 방어는 '한 겹'이 아니라 '여러 겹'으로

프롬프트 인젝션처럼 완전히 막을 방법이 없는 위험이 남아 있기 때문에, 업계는 방어를 여러 겹으로 쌓는 방향으로 가고 있습니다.

1. 권한 최소화: AI가 할 수 있는 일과 접근 범위를 처음부터 좁힙니다.
2. 실시간 감시·차단: 이상 행동을 실행 전에 멈추거나 격리합니다.
3. 사전 공격 테스트: AI로 AI를 미리 공격해 허점을 찾습니다.
4. 사람의 최종 승인: 되돌릴 수 없는 행동은 사람이 결정합니다.

투자 관점의 시사점

AI 에이전트가 늘어날수록 이를 지키는 보안 수요도 함께 커질 가능성이 큽니다. 다만 9월의 보안주 급등은 사고 뉴스에 따른 단기 반응의 성격도 있습니다. 실제 투자 판단에서는 기업별 실적, 밸류에이션, 인수한 기술이 실제 매출로 이어지는지를 따로 확인하는 것이 좋습니다.

본 글은 정보 제공 목적이며 특정 종목에 대한 투자 권유가 아닙니다.