KAIST, 엔비디아 GPU보다 2.1배 빠른 그래프 AI 반도체 개발…실시간 추천·사기 탐지 지연 해소 기대

KAIST 연구진이 유튜브 영상 추천이나 금융 사기 탐지처럼 복잡한 관계 데이터를 실시간으로 처리하는 인공지능 서비스의 ‘지연 문제’를 근본적으로 해결할 수 있는 AI 반도체 기술을 개발했다. 기존 GPU 대비 처리 속도는 높이고, 지연과 전력 소모는 동시에 줄인 점에서 차세대 AI 인프라 기술로 주목받고 있다.

추천 시스템이나 금융 사기 탐지에 활용되는 그래프 신경망(GNN, Graph Neural Network)은 사람과 사람, 객체와 객체 사이의 연결 관계를 분석하는 데 강점을 가진 기술이다. 그러나 실제 서비스 환경에서는 추론 속도가 느리다는 한계가 반복적으로 지적돼 왔다. KAIST 전기및전자공학부 정명수 교수 연구팀은 이 지연의 핵심 원인이 인공지능 추론 이전 단계인 그래프 전처리(Graph Preprocessing)에 있음을 규명했다. 이 과정은 전체 계산 시간의 70~90%를 차지하지만, 기존 CPU나 GPU는 복잡하고 불규칙한 그래프 구조를 효율적으로 처리하는 데 구조적 한계를 지니고 있었다. 그 결과 대규모 데이터가 입력될수록 병목 현상이 발생해 ‘버벅임’이 불가피했다.

연구팀이 개발한 ‘오토GNN(AutoGNN)’은 이 문제를 하드웨어 수준에서 해결한 기술이다. 입력 데이터의 구조와 연결 방식에 따라 반도체 내부 회로가 실시간으로 재구성되는 적응형 AI 가속기 구조를 채택했다. 분석 대상 그래프가 달라지면, 반도체가 스스로 가장 효율적인 연산 구조를 선택하도록 설계됐다. 이를 위해 연구팀은 필요한 데이터만 선별하는 UPE(Unified Processing Element) 모듈과 데이터를 빠르게 집계하는 SCR(Single-Cycle Reducer) 모듈을 반도체 내부에 구현했다. 데이터의 양과 형태가 바뀌어도 최적의 모듈 구성이 자동 적용되도록 설계해, 다양한 상황에서도 안정적인 성능을 유지할 수 있도록 했다.

성능 평가 결과, 오토GNN은 엔비디아의 고성능 GPU(RTX 3090) 대비 2.1배 빠른 처리 속도를 기록했다. 일반 CPU와 비교하면 최대 9배 빠른 성능을 보였으며, 에너지 소모는 기존 대비 3.3배 절감된 것으로 나타났다. 단순한 연산 가속이 아니라, 서비스 지연의 핵심 원인을 제거함으로써 실질적인 체감 속도를 개선했다는 점이 특징이다. 이 기술은 추천 시스템, 금융 사기 탐지, 대규모 소셜 네트워크 분석 등 실시간 대용량 데이터 처리가 요구되는 인공지능 서비스에 즉시 적용 가능하다는 평가를 받고 있다. 속도와 에너지 효율을 동시에 개선할 수 있는 구조를 확보했다는 점에서, 차세대 AI 반도체 경쟁의 중요한 분기점으로 해석된다.

이번 연구 성과는 컴퓨터 아키텍처 분야 최고 권위의 국제학술대회인 ‘IEEE International Symposium on High-Performance Computer Architecture(HPCA 2026)’에서 발표됐다. 연구 논문은 그래프 신경망 추론 성능을 하드웨어 중심으로 개선한 세계 최초 사례로 소개되며 학계의 주목을 받았다. 정명수 교수는 “불규칙한 데이터 구조를 효과적으로 처리할 수 있는 유연한 하드웨어 시스템을 구현했다는 점에서 의미가 크다”며 “추천 시스템은 물론 금융·보안 등 실시간 분석이 필요한 다양한 AI 분야로 활용이 확대될 것”이라고 설명했다.

#KAIST #AI반도체 #그래프신경망 #AutoGNN #추천시스템 #HPCA2026 #스포트라이트유

광고