전남대, 약물 반응 예측 AI 개발… 전사 반응 정확도 7% 향상·연산비 300배 절감

잠재 확산 모델 적용… 미관측 약물–세포 조합 예측 가능

암 치료는 환자마다 약물 반응이 다르게 나타나기 때문에, 최적의 치료제를 선택하는 과정이 치료 성과를 좌우한다. 그러나 실제 임상에서는 모든 약물과 세포 조합을 실험으로 검증하기 어렵다는 한계가 있었다. 전남대학교 공과대학 유선용 교수 연구팀은 교원창업 기업 ㈜마틸로에이아이와의 협력을 통해, 약물 처리에 따른 유전자 발현 변화를 인공지능으로 예측하는 기술을 개발했다. 이번 연구는 신약 개발과 치료 전략 수립 방식을 실험 중심에서 데이터 기반 예측으로 전환하는 접근이라는 점에서 의미가 있다.

약물 반응 예측의 가장 큰 제약은 조합 수다. 세포 유형, 약물 구조, 농도, 처리 시간 등 다양한 조건이 결합되면서 가능한 실험 조합은 기하급수적으로 증가한다. 이로 인해 실제로는 일부 조건만 제한적으로 검증할 수밖에 없다. 연구팀은 생성형 AI 기반 접근을 적용했다. 변분 오토인코더(VAE)와 확산 모델(Diffusion Model)을 결합한 ‘잠재 확산 모델(Latent Diffusion Model)’을 활용해, 약물 처리 이후 나타나는 전사 반응을 예측하는 프레임워크를 설계했다. 이를 통해 다양한 조건을 동시에 반영하면서도, 실제로 관측되지 않은 약물–세포 조합에 대해서도 안정적인 예측이 가능해졌다.

이번 기술은 성능과 비용 측면에서 동시에 개선을 보였다. 기존 최고 성능 모델 대비 피어슨 상관계수 기준 약 7% 향상된 정확도를 기록했으며, 연산 비용은 300배 이상 줄어든 것으로 나타났다. 또 생성된 유전자 발현 데이터가 실제 생물학적 특성을 반영하고 있음을 실험적으로 검증했다. 이 기술은 신약 개발 방식에도 영향을 미친다. 모든 약물–세포 조합을 실험하지 않고도, AI 기반 가상 스크리닝을 통해 효과를 예측할 수 있어 약물 재창출과 후보 물질 탐색 속도를 크게 높일 수 있다.

특히 암 치료 분야에서 적용 가능성이 크다. 환자별 세포 특성과 약물 반응을 예측함으로써, 개인별 최적 치료 전략을 사전에 설계할 수 있는 기반이 된다. 이번 연구는 전남대 김채원 연구자가 수행했으며, 결과는 국제 학술지 Bioinformatics에 게재됐다. 연구팀은 향후 한국인 환자 데이터를 기반으로 한 디지털 임상시험 플랫폼과 연계해 AI 신약 개발 시스템으로 확장할 계획이다.

#전남대학교 #AI #암치료 #신약개발 #정밀의료 #바이오 #데이터