MIT Technology Review가 EmTech AI 컨퍼런스에서 연 'Operationalizing AI for Scale and Sovereignty' 세션은, 'Sovereign AI'라는 말이 왜 갑자기 운영 문제로 내려왔는지를 또렷하게 보여준다. 무대에는 HPE의 HPC & AI Customer Solutions를 이끄는 Chris Davidson과, 오크리지 국립연구소 National Center for Computational Science의 디비전 디렉터 Arjun Shankar가 함께 올랐다. 한 명은 정부와 기업에 AI Factory를 파는 사람, 한 명은 국가 단위 과학 캠페인을 위해 같은 종류의 거대한 시스템을 굴리는 사람이다. 둘이 한자리에 앉았다는 사실 자체가 이 흐름의 윤곽을 그려준다.
세션의 출발점은 명확하다. 기업이 자기 데이터를 직접 쥐려고 한다는 것. 그런데 데이터를 쥐는 순간, '좋은 인사이트는 신뢰할 수 있는 흐름 위에서만 생긴다'는 또 다른 진실과 충돌한다. 소유와 흐름이 동시에 가능해야 한다는 모순을, HPE는 인프라 패키지로 풀자고 제안한다. 학습 플랫폼, Cray 엑사스케일 시스템, 성능 아키텍처, 배치 모델을 한 묶음으로 만들어 'AI Factory'라는 이름으로 판다. 정부에는 Sovereign AI라는 라벨로, 기업에는 엔터프라이즈 등급으로. Davidson이 9년간 HPE에서 Performance Engineering, AI Cloud, Professional Services를 거치며 만든 결과물이 결국 이 패키지화 능력이다.
흥미로운 건 무게 중심이 어디로 이동했느냐다. 몇 년 전까지 AI의 안전 문제는 거의 모델 단의 가드레일 — 어떤 출력을 막을 것인가, 어떤 프롬프트를 거를 것인가 — 으로 논의됐다. 그러나 EmTech AI의 이 세션은 안전이 점점 물리적 질문으로 바뀌고 있다고 말한다. GPU 랙이 어느 관할권 안에 놓여 있는가, 학습 데이터가 국경을 넘는가, 운영 인력이 어느 회사 소속인가. Shankar가 대표하는 국가 연구소 세계와 Davidson이 대표하는 상용 인프라 세계가 같은 청사진을 공유한다는 사실은, 이 질문이 더 이상 정부만의 영역이 아니라는 의미다.
한국 관점에서 이 신호는 양면적이다. 한쪽에는 클라우드 API 위에 모든 AI 전략을 얹는 흐름이 있다. 빠르고 강력하지만, 데이터 관할권을 따지는 규제가 늘어날수록 충돌 면적은 커진다. 다른 한쪽에는 'AI Factory 한 박스 도입'이라는 유혹이 있는데, 그 자체가 새로운 종속을 만든다. 하드웨어 벤더, 성능 엔지니어링 조직, 운영 모델까지 통째로 따라온다. 결국 Sovereign AI는 기술 선택이라기보다 어떤 종속을 받아들일 것인가의 선택에 가깝다. 모델을 어디서 돌릴지보다, 데이터를 어디서 학습시킬지를 먼저 정해야 하는 시대로 넘어가고 있다는 게 이 세션이 남긴 가장 실용적인 메시지다.