AI로 ‘암 환자 맞춤 치료’ 시대 앞당긴다

전남대학교 연구진과 교원창업 기업이 협력해, 암 환자별 약물 반응을 인공지능(AI)으로 예측하는 기술을 개발했다. 환자마다 가장 효과적인 치료제를 사전에 찾아낼 수 있는 가능성이 열리면서, 맞춤형 암 치료 시대를 앞당길 수 있을 것으로 기대된다.

20일 전남대학교에 따르면 공과대학 유선용 교수 연구팀과 교원창업 기업 ㈜마틸로에이아이(대표 유선용)는 ‘약물 유도 전사 반응을 정밀하게 예측하는 AI 기술’을 개발했다.

이번 연구는 전남대 공과대학 지능전자컴퓨터공학과 김채원 연구원이 수행했으며, 연구 성과는 SCI 국제학술지 Bioinformatics(Impact Factor 5.4, JCR 상위 8.7%)에 게재 승인됐다.

연구는 특정 약물이 세포에 작용할 때 나타나는 유전자 발현 변화를 AI로 예측하는 데 초점을 맞췄다. 연구팀은 변분 오토인코더(VAE)와 확산 모델(Diffusion Model)을 결합한 ‘잠재 확산 모델(Latent Diffusion Model)’ 기반 프레임워크를 제안했다.

이 기술은 세포주, 약물 구조, 처리 농도, 처리 시간 등 다양한 조건을 동시에 반영하면서, 기존에 관측되지 않은 약물-세포 조합에서도 안정적인 예측 성능을 보였다. 성능은 기존 최고 수준(SOTA) 대비 피어슨 상관계수 기준 약 7% 향상됐고, 연산 비용은 300배 이상 절감됐다. 또한 생성된 유전자 발현 데이터가 실제 생물학적 특성을 충실히 반영한다는 점도 실험적으로 확인됐다.

약물 유도 전사 반응 예측 기술은 모든 약물-세포 조합을 실험하기 어려운 신약 개발 과정에서 가상 스크리닝과 약물 재창출을 가능하게 하는 핵심 기반 기술로 평가된다. 특히 암 치료 분야에서는 환자별, 세포 유형별 약물 반응 차이를 예측할 수 있어 정밀의료 구현에 직접적으로 활용될 수 있다.

유선용 교수는 “이번 연구는 유전체 데이터와 생성형 AI를 결합해 약물 반응을 정밀하게 예측할 수 있음을 국제적으로 입증한 성과”라며 “현재 추진 중인 ‘K-HOPE: 한국인 암 특화 디지털 스마트 임상시험 플랫폼 구축’ 과제와 연계해, 한국인 환자 데이터를 기반으로 한 AI 신약 개발 플랫폼으로 발전시켜 나가겠다”고 밝혔다.

한편 유 교수는 바이오 데이터와 AI를 결합한 통합 지능형 플랫폼 기업 ㈜마틸로에이아이를 창업해 연구 성과의 산업화도 병행하고 있다.

이번 연구는 보건복지부 재원으로 한국보건산업진흥원이 지원하는 보건의료기술연구개발사업(RS-2025-19252970)을 통해 수행됐다.