신약 독성, 이제 AI가 먼저 걸러준다고 합니다

신약 개발에서 독성(Toxicity)은 단순한 평가 항목이 아니라 임상 실패의 가장 큰 원인이자 제약 산업 전체의 비용 구조를 결정짓는 핵심 요인이다. 실제로 글로벌 통계에 따르면 임상 실패의 40~60%는 독성 관련 이슈로 귀결된다.

전통적인 독성 평가는 동물 기반 전임상 모델, 세포 기반 스크리닝, 대사체 분석 등을 기반으로 수행되며 정확도는 높지만 고비용·저효율 구조가 고질적인 문제였다. 그러나 최근 AI 기반 독성 예측 기술(AI-driven Toxicity Prediction) 이 도입되면서 이 패러다임이 빠르게 변화하고 있다.

AI는 분자 구조, 단백질 결합, 대사 경로, 전기적 활성, 후성 수준 특징을 동시에 고려하여
“독성 가능성을 전임상 이전 단계에서 필터링”하는 기술로 자리 잡았다.

이 글에서는 이 기술을 분자생물학·약물화학·AI 모델링 관점에서 전문적으로 설명한다.

AI가 분자 그래프 구조를 분석해 독성 패턴을 찾아내는 과정을 시각화한 이미지

1. 독성이 왜 신약 개발의 가장 큰 리스크인가?

독성은 생체 시스템 전체에서 발생한다. 그중 대표적인 독성 기전은 다음과 같이 정리할 수 있다.

간 독성(hepatotoxicity)

약물 또는 대사체가 CYP450 계열 효소를 통해 반응하며 ROS를 유발하거나,
세포 내 단백질을 비정상적으로 공유결합해 세포 사멸을 유도.

심장 독성(hERG inhibition)

hERG(Kv11.1) 칼륨 통로 차단 → QT 연장 → 부정맥 → 사망 가능성.
가장 빈번한 독성 원인 중 하나.

유전 독성(genotoxicity)

DNA 결합형 대사체가 염기 손상, 크로스링킹, 복제 오류를 유도.

면역 독성(immunotoxicity)

T세포 과활성, 사이토카인 폭풍(cytokine storm), 바이오 치료제 안전성 문제의 핵심 원인.

이러한 독성은 복합적이고 비선형적이며, 구조 기반 규칙만으로는 예측이 불가능하다.
바로 이 지점에서 AI의 강점이 발휘된다.

2. AI가 독성을 예측하는 핵심 기술

AI 독성 예측 기술은 다음 네 가지 축으로 구성된다.

① 분자 구조 기반 예측 — GNN(Graph Neural Network)

AI는 분자를 그래프(원자 = 노드, 결합 = 엣지) 로 인식한다.
GNN 모델은 독성 유발구조(toxicophore)와 특이 패턴을 군집 단위로 학습한다.

GNN이 학습하는 특징(feature) 예:

• 원자 전기음성도
• 결합 차수
• 국소 구조 motif
• 분자 전하 밀도
• 방향성 결합 특징

이 방식은 SMILES 기반 QSAR보다 훨씬 높은 정확도를 보인다.

대표 알고리즘

• GCN
• GAT
• MPNN
• SchNet
• DimeNet

② 단백질–약물 상호작용 기반 독성 예측

특정 독성은 분자가 특정 표적 단백질과 결합할 때 발생한다.
예: hERG 심장 독성, BSEP 억제 간 독성, PXR 활성화 면역 독성 등.

AI는

• 단백질 구조(AlphaFold 기반)
• 약물 docking 시뮬레이션
• MD(Molecular Dynamics) 시뮬레이션
• binding affinity 예측

을 이용해 독성 상호작용을 ‘분자 수준에서’ 분류한다.

예:
“이 분자는 hERG에 75% 확률로 결합할 것이며, QT 연장 위험이 있다.”

이 단계에서 수천 개 후보 중 90%가 제거되기도 한다.

③ 대사체 기반 독성 예측 — ADMET AI

약물 독성은 분자 자체보다 대사체(Metabolite) 에 의해 발생하는 경우가 많다.

AI 기반 ADMET 모델은 다음을 예측한다.

• CYP450 대사 경로
• 활성 대사체 생성 여부
• 반응성 중간체 형성
• 간세포 스트레스 지표
• P-gp 전이 여부

특히 ‘반응성 대사체’ 예측은 기존 실험으로는 시간·비용이 많이 들었지만
AI는 이를 사전 계산 기반으로 즉시 예측할 수 있다.

④ 생성형 모델 기반 저독성 분자 생성 (Generative Low-Toxicity Design)

가장 최신 기술은 독성을 회피하도록 AI가 분자를 직접 설계하는 방식이다.

사용되는 생성형 모델:

• Diffusion Model
• Transformer 기반 분자 생성 AI
• VAE (Variational Autoencoder)
• GraphGAN

AI는 다음 조건을 동시에 만족하는 분자를 생성한다.

• 독성 패턴 제거
• 표적 단백질 결합력 유지
• 높은 ADMET 안정성
• 합성 가능성까지 고려

즉 “독성 없는, 제조 가능한, 작용성 높은” 분자가 자동 생성된다.

3. 독성 예측 AI가 기존 방법보다 우월한 이유

영역기존 방식AI 방식

데이터 규모	수백~수천 분자	수백만~수천만 분자
예측 속도	수개월	수분~수시간
비용	매우 높음	매우 낮음
정확도	단일 규칙 기반	고차원 패턴 기반
실패율	높음	초기 제거로 낮음

AI의 가장 큰 강점은
비선형 구조·다중 변수·확률 모델을 결합해 실제 생체 독성 패턴과 가까운 예측을 할 수 있다는 점이다.

4. 실제 적용 사례 

화이자(Pfizer)

AI 독성 모델을 적용해 hERG 독성 위험 후보를 전임상 단계에서 제거.

노바티스(Novartis)

대사체 예측 AI로 간 독성 가능성을 조기에 파악.

릴리(Eli Lilly)

Transformer 기반 생성형 AI로 독성 없는 대체 분자 자동 생성.

인실리코 메디슨(Insilico Medicine)

AI가 설계한 후보가 실제 임상 단계에 진입한 글로벌 첫 사례.

이제 제약사는 AI를
“옵션”이 아니라 “필수 기술” 로 채택하고 있다.

5. 향후 발전 방향

다음 기술이 5~10년 안에 상용화될 것으로 예상된다.

• 개인 유전체 기반 독성 예측 (Personalized Toxicity AI)
• 해석 가능한 AI(XAI) 기반 독성 설명 모델
• 실험 자동화(autonomous lab)와 결합
• 전임상–임상 데이터 통합 독성 모델
• 멀티모달 독성 예측(Molecular + Omics + Clinical data)

신약 독성은 AI가 가장 먼저 걸러주는 시대로 이동했다

AI 독성 예측은 신약 후보의 초기 필터링 과정을 완전히 자동화하고 있다.

• 구조적 독성
• 단백질 결합 독성
• 대사체 기반 독성
• 면역 독성
• 전기생리 독성

이 모든 것을 AI가 동시에 판단하며
“실패할 분자”를 초기에 제거하고 “가능성 있는 분자만” 남기는 구조가 된 것이다.

이제 신약 개발은
‘좋은 약을 찾는 과정’보다 ‘나쁜 약을 빠르게 제거하는 과정’이 더 중요해졌고,
그 핵심 역할을 AI가 맡고 있다.