“벽 너머에서도 AI 훔쳐본다”… KAIST, 새로운 보안 위협 입증

소형 안테나로 모델 구조 복원… ‘물리적 AI 해킹’ 가능성 제기

인공지능은 그동안 외부에서 내부를 알 수 없는 ‘블랙박스’로 여겨져 왔다. 그러나 물리적 신호를 이용해 AI의 내부 구조를 외부에서 추정할 수 있다는 연구 결과가 나오면서, 기존 보안 개념이 흔들리고 있다. KAIST 전산학부 한준 교수 연구팀은 싱가포르국립대(NUS), 저장대학교와의 공동연구를 통해 원거리에서 인공지능 모델 구조를 탈취할 수 있는 공격 시스템 ‘ModelSpy’를 개발했다고 밝혔다. 이 기술은 서버 침투나 악성코드 없이도 AI 모델의 핵심 구조를 파악할 수 있다는 점에서 새로운 보안 위협으로 평가된다.

연구팀은 인공지능 연산 과정에서 발생하는 물리적 신호에 주목했다. AI 모델이 연산을 수행할 때 그래픽 처리 장치(GPU)에서는 미세한 전자기파가 발생하는데, 이 신호에는 내부 연산 과정의 정보가 반영된다. 연구팀은 이러한 전자기 신호의 패턴을 분석해 모델의 층 구조와 하이퍼파라미터를 복원하는 데 성공했다. 이는 소프트웨어 접근이 아닌 물리적 신호를 이용해 정보를 추출하는 ‘사이드채널 공격’의 한 형태다.

실험에서는 실제 환경에서의 공격 가능성도 확인됐다. 연구팀은 소형 안테나를 활용해 벽 너머 최대 6m 거리에서도 AI 모델 구조를 분석할 수 있음을 입증했다. 모델의 핵심 구성 요소인 레이어 구조는 최대 97.6% 정확도로 추정됐다. 이번 연구의 핵심은 공격 방식의 변화에 있다. 기존에는 AI 모델을 탈취하기 위해 서버에 접근하거나 악성코드를 설치해야 했지만, 이번 방식은 물리적 접근만으로도 정보 추출이 가능하다. 이는 AI 보안이 단순한 사이버 보안을 넘어 물리적 환경까지 고려해야 하는 단계로 확장되고 있음을 보여준다.

연구팀은 공격 가능성뿐 아니라 대응 방안도 함께 제시했다. 전자기파 신호를 교란하거나 연산 과정을 난독화하는 방식으로 정보 유출을 방지하는 기술을 제안했으며, 이를 통해 보다 현실적인 보안 체계 구축 방향을 제시했다. 연구진은 향후 자율주행, 의료, 금융 등 AI 의존도가 높은 분야에서 이러한 ‘사이버-물리 보안’ 체계가 중요해질 것으로 보고 있다. 이번 연구는 KAIST 한준 교수가 공동 교신저자로 참여했으며, 컴퓨터 보안 분야 최고 권위 학술대회인 NDSS 2026에서 최우수 논문상을 수상했다.

#KAIST #AI보안 #사이드채널 #ModelSpy #사이버보안 #NDSS

광고