AI가 사이버보안 스택에 들어왔다. 그런데 들어오는 방식이 문제다. 대부분의 조직은 기존 보안 인프라 위에 AI 탐지 레이어를 '추가'하는 방식

AI가 사이버보안 스택에 들어왔다. 그런데 들어오는 방식이 문제다. 대부분의 조직은 기존 보안 인프라 위에 AI 탐지 레이어를 '추가'하는 방식을 택했다. 이상 신호를 AI가 감지하면 보안 팀에 전달하고, 사람이 최종 판단을 내린다. MIT Technology Review EmTech AI 컨퍼런스에서 GC Cybersecurity의 Tarique Mustafa가 제기한 문제는 바로 이 구조다: AI를 플러그인으로 다루는 한, AI 기반 공격을 방어할 수 없다. Mustafa가 직접 아키텍처를 설계한 4~5세대 완전 자율 DLP 플랫폼은 다른 전제에서 출발한다. 지식 표현(knowledge representation)과 추론 미적분(inference calculus), AI 플래닝을 결합한 알고리즘이 데이터 분류, 정책 결정, 유출 경로 차단을 사람의 승인 없이 자율 수행한다. 이는 단순한 속도 문제가 아니다. AI 기반 공격은 기존 시그니처 패턴을 실시간으로 우회하도록 변형되기 때문에, 탐지 기준 자체도 자율적으로 갱신되어야 한다. 그가 USPTO에 등록한 복수의 특허들이 이 자율 루프를 구성하는 핵심 기술들이다. 흥미로운 결정이 하나 있다. 그는 데이터 컴플라이언스 부문을 Chorology라는 별도 스핀아웃으로 분리했다. DLP와 데이터 컴플라이언스는 표면적으로 인접한 문제처럼 보이지만 실행 모델이 다르다. DLP는 실시간 차단이 핵심이고, 컴플라이언스는 정책 추론과 감사 추적이 핵심이다. 하나의 플랫폼 안에서 두 문제를 모두 해결하려는 구조가 결국 어느 쪽도 제대로 못 하는 결과로 귀결된다는 판단이 스핀아웃 결정에 담겨 있다. 이 판단 자체가 보안 설계에 대한 그의 철학을 압축적으로 보여준다. AI가 공격 면적을 넓히는 속도는 보안 팀이 정책을 갱신하는 속도를 이미 초과했다. 이 갭은 인력을 늘린다고 좁혀지지 않는다. Mustafa의 세션이 제기하는 명제는 결국 하나다: 보안을 AI 시대에 맞게 업그레이드하는 게 아니라, AI가 위협 인텔리전스를 소비하고 정책을 집행하는 실행 주체가 되도록 처음부터 다시 설계해야 한다. 보안 팀이 스스로에게 물어야 할 질문이 "AI 탐지를 켰는가?"에서 "AI가 우리 보안 모델의 실행 주체인가?"로 바뀌는 순간, 설계의 기준점 자체가 이동한다.