KAIST, 벡터·그래프·관계형 DB 통합한 차세대 데이터베이스 기술 개발

전산학부 김민수 교수팀·그래파이, 아카식DB·옴니RAG 개발… AI 답변 정확도 최대 78% 향상

KAIST 연구진이 기업용 AI 에이전트의 환각 문제를 줄이기 위한 차세대 데이터베이스 기술을 개발했다. 벡터 데이터베이스, 그래프 데이터베이스, 관계형 데이터베이스 기능을 하나의 데이터베이스 관리 시스템 안에서 통합 처리하는 기술로, 문서 의미 정보와 개체 간 관계, 구조화된 데이터를 함께 활용해 AI 답변 정확도를 높이는 방식이다.

KAIST는 전산학부 김민수 교수 연구팀이 교원창업기업인 ㈜그래파이와 협력해 차세대 데이터베이스 기술 ‘아카식DB’와 이를 기반으로 한 새로운 검색증강생성 기법 ‘옴니RAG’를 개발했다고 19일 밝혔다. 아카식DB는 벡터 DB, 그래프 DB, 관계형 DB 기능을 하나의 데이터베이스 관리 시스템에서 통합 실행할 수 있도록 설계됐다.

최근 기업용 AI 에이전트는 기업이 보유한 문서와 전문 지식을 검색한 뒤 이를 바탕으로 답변을 생성하는 검색증강생성, RAG 기술을 기반으로 확산되고 있다. 그러나 실제 기업 데이터는 문서, 표, 개체 간 관계 등 여러 형태로 분산돼 있어 AI가 이를 종합적으로 이해하고 활용하기 어렵다. 이 과정에서 AI가 충분한 근거 없이 사실과 다른 답변을 생성하는 환각 문제가 발생한다.

기존 RAG는 사용자의 질문과 문서를 벡터로 변환한 뒤 의미적으로 유사한 문서를 검색해 대규모언어모델에 제공하는 방식이 일반적이었다. 이 방식은 비정형 문서 검색에는 효과적이지만, 문서 속 개체 간 관계나 특정 기간, 유형, 범위 같은 구조화된 조건을 함께 고려해야 하는 복합 질의에는 한계가 있었다.

예를 들어 계약서 문서에서 특정 기업과 관련된 조항을 찾고, 해당 조항이 어떤 제품 공급 이슈와 연결되는지 설명하려면 문서 의미를 찾는 벡터 검색, 개체 간 관계를 탐색하는 그래프 검색, 날짜와 유형을 필터링하는 관계형 질의가 동시에 필요하다. 기존 시스템에서는 여러 종류의 데이터베이스를 별도로 구축하고, 응용프로그램 계층에서 결과를 결합해야 해 관리 복잡성과 응답 지연이 발생했다.

연구팀은 이러한 문제를 해결하기 위해 벡터 유사도 검색, 그래프 탐색, 관계형 필터링을 하나의 질의와 실행 계획 안에서 통합 수행하는 옴니RAG를 제안했다. 옴니RAG는 문서의 의미 정보, 지식 그래프의 관계 정보, 표 형태 데이터의 구조적 조건을 동시에 활용해 보다 정확한 근거를 찾아내고 AI의 환각 현상을 줄이는 데 초점을 맞췄다.

이를 지원하기 위해 개발된 아카식DB는 그래프 DB, 벡터 DB, 관계형 DB를 하나의 엔진으로 통합한 구조를 채택했다. 사용자는 벡터 검색, 그래프 탐색, 관계형 필터링이 결합된 복합 RAG 질의를 하나의 SQL/GQL 질의문으로 표현할 수 있으며, 아카식DB는 이를 단일 실행 계획으로 최적화해 처리한다. SQL은 표 형태 데이터를 다루는 질의 언어이고, GQL은 개체 간 연결 관계를 분석하는 그래프 데이터 전용 질의 언어다.

아카식DB 아키텍처는 기존 방식과의 차이를 보여준다. 기존 방식이 여러 데이터베이스를 개별적으로 운영하거나 일부 기능만 확장해 통합한 것과 달리, 아카식DB는 벡터 저장소, 그래프 저장소, 관계형 저장소를 하나의 DBMS 안에 통합하고 통합 질의 계획기와 탐색-조인-유사도 연산자를 통해 세 데이터 모델의 질의를 단일 실행 계획으로 처리하는 구조다.

아카식DB는 통합 구조를 통해 불필요한 중간 결과 생성과 데이터 이동을 줄이고, 대규모언어모델의 토큰 사용량과 응답 지연시간을 단축한다. 실험 결과 기존 시스템에서 최대 21.3초가 걸리던 복합 검색 질의를 1초 이내로 처리해 최대 20배 이상의 성능 향상을 달성했다. 옴니RAG는 기존 RAG 대비 답변 정확도를 최대 78% 향상시킨 것으로 나타났다. 연구진에 따르면 아카식DB는 기존 그래프-관계형 통합 DBMS 구조를 기반으로 벡터 검색 기능을 추가한 벡터-그래프-관계형 DBMS다. 저장 계층에서는 그래프 저장소, 관계형 저장소, 벡터 저장소를 함께 운영하는 트리플 스토어 구조를 구현했고, HNSW, IVF, Vamana 등 다양한 벡터 인덱스를 DBMS 내부에 통합했다.

또한 연구팀은 그래프 탐색과 관계형 조인을 하나의 실행 흐름에서 처리하는 탐색-조인 기반 질의 처리 구조를 벡터 검색까지 확장했다. 이를 통해 벡터 검색, 그래프 탐색, 관계형 필터링을 단일 실행 계획 안에서 수행하고, 비용 기반 질의 최적화를 통해 질의 특성에 맞게 실행 순서를 조정할 수 있도록 했다.

김민수 교수는 “AI 에이전트가 기업의 방대한 데이터를 정확하게 이해하고 활용하기 위해서는 벡터, 그래프, 관계형 데이터를 하나의 시스템에서 통합 처리할 수 있는 데이터 인프라가 필수적”이라며 “아카식DB는 AI 에이전트 시대를 위한 차세대 데이터베이스 기술로, 국방·제조·금융·법률·과학기술 등 고도의 신뢰성이 요구되는 분야에서 핵심 데이터 인프라로 활용될 것으로 기대한다”고 말했다.

이번 연구에는 KAIST 전산학부 이건호 박사과정생이 제1저자로 참여했다. ㈜그래파이의 박정호 엔지니어와 한동형 CTO가 공동 저자로, 김민수 KAIST 전산학부 교수가 교신저자로 참여했다. 보도자료에 첨부된 연구진 사진에는 박정호 엔지니어, 한동형 CTO, 이건호 박사과정생, 김민수 교수가 함께 소개됐다.

연구 성과는 지난 6월 2일 데이터베이스 분야 국제학술대회 ACM SIGMOD 2026에서 데모 논문으로 발표됐다. 논문명은 ‘AkasicDB: Demonstrating Omni RAG with a Unified Vector-Graph-Relational DBMS’이며, DOI는 10.1145/3788853.3801609다.

아카식DB는 기업 내부에 방대한 문서와 데이터가 존재하는 산업 분야에 적용될 수 있다. 연구팀은 국방 분야의 기술 문서와 장비 데이터 기반 AI 비서, 제조 분야의 생산 데이터·매뉴얼·품질 이력 통합 분석, 금융 분야의 규정·계약서·고객 데이터·거래 이력 분석, 법률과 과학기술 분야의 전문 검색과 질의응답 서비스 등을 활용 가능 분야로 제시했다.

보도자료의 Q&A에 따르면 아카식DB는 교원창업기업 그래파이를 통해 상용화가 완료된 상태다. 그래파이는 금융, 제조, 국방 분야 고객을 대상으로 AI 에이전트와 RAG 기반 서비스를 구축하고 있으며, 아카식DB는 이들 서비스의 핵심 데이터 인프라로 활용되고 있다.

이번 성과는 AI 환각 문제를 줄이기 위해 더 좋은 언어모델만이 아니라, AI가 참조하는 데이터 인프라 자체가 중요하다는 점을 보여준다. KAIST 연구팀은 향후 아카식DB를 기업의 문서, 데이터베이스, 업무 프로세스, 지식 체계를 하나의 플랫폼에서 통합 관리하고 AI가 활용할 수 있도록 발전시켜 나갈 계획이다.

#KAIST #김민수교수 #아카식DB #옴니RAG #기업용AI