[ESMO 2025=독일 베를린]유럽종양학회(ESMO)가 19일 임상 실무에서 대규모 언어모델(LLM)을 사용하기 위한 ESMO 가이드라인(ELCAP, ESMO Guidance on the Use of Large Language Models in Clinical Practice) 을 발표했다.

이는 종양학 분야에서 AI 언어모델을 안전하고 효과적으로 도입하기 위한 최초의 체계적 권고안으로, 동시에 ESMO 공식 학술지 Annals of Oncology에도 실렸다.

이번 발표는 “ChatGPT와 암 치료” 세션에서 이뤄졌으며, 종양학 분야에서 커져가는 AI의 역할을 부각시켰다는 평가를 받는다.

파브리스 앙드레(Fabrice André) ESMO 회장은 “ESMO의 최우선 과제는 혁신이 환자에게 이익을 주고, 임상의가 활용할 수 있는 실질적 해법으로 이어지도록 하는 것”이라고 강조하고 “ELCAP은 AI의 잠재력을 인정하면서도 임상적 책임, 투명성, 그리고 강력한 데이터 보호 원칙을 지키기 위한 실용적이고 종양학 특화된 프레임워크를 제공한다”고 말했다.

가이드라인에따르면, ELCAP은 LLM 활용이 사용자 유형(환자, 임상의, 기관)에 따라 기회와 위험이 다르기 때문에 각각에서 실제 임상 상황에서 적용할 수 있는 23개의 합의된 실무 지침(consensus statements)을 마련했다.

우선 환자 대상(patient-facing)인 유형1에는 교육 및 증상 관리용 챗봇 등 환자 중심의 응용 프로그램을 포함했다.

이들은 임상 진료를 보완하는 수준에서 사용되어야 하며, 의료진 감독하에 운영되고 명확한 단계적 대응 경로(escalation pathway) 및 강력한 데이터 보호 조치가 필요하다고 못박았다.

유형2(Type 2)는 의료전문인 대상(healthcare professional-facing)으로, 임상의 지원을 위한 의사결정 보조, 문서 작성, 번역 도구 등을 포함했다.

지침에 이들 도구는 반드시 공식 검증(formal validation)을 거쳐야 하며, 제한점을 투명하게 명시하고 임상의의 최종 책임(human accountability)을 전제로 해야 한다며 윤리적 책임성을 강조했다.

나아가 의료기관 운영 시스템(institutional background systems) 등을 대상으로 마련한 유형3(Type 3)에서는 LLM의 사용대상을 전자의무기록(EHR)과 통합되어 데이터 추출, 자동 요약, 임상시험 매칭 등을 수행하는 시스템으로 정의하고, 배포 전 사전 검증(pre-deployment testing), 편향 및 성능 변화에 대한 지속적 모니터링, 기관 수준의 관리 거버넌스, 프로세스 또는 데이터 변경 시 재검증(re-validation)을 하도록 강조했다.

또한 임상의는 이러한 시스템이 언제, 어떤 환경에서 작동하는지 인지해야 하며, 이는 상호운용성(interoperability)과 프라이버시 중심 설계(privacy-by-design) 원칙에 따라 운영돼야 한다고 강조했다.

나아가 지침은 모든 유형에서, AI가 제공하는 결과의 신뢰도는 입력 데이터의 완전성과 정확성에 달려 있다고 명시하면서 불완전한 임상 문서나 환자의 제한된 질문은 부정확하거나 오해를 불러일으킬 수 있는 답변으로 이어질 수 있으므로 감독과 명확한 대응 체계가 필수적이라고 적시했다.

미리암 쿠프만(Miriam Koopman), ESMO 실제임상데이터 및 디지털헬스 태스크포스 위원장은 “ELCAP은 언어모델의 가치가 누가 사용하느냐에 달려 있음을 강조한 것으로 환자용, 임상의용, 기관 시스템으로 구분함으로써 각각의 상황에 맞는 기대 수준과 책임 기준을 제시했다는데 의미가 있다”고 말했다.

이밖에도 ELCAP은 의료진 감독 아래에서 작동하는 보조적 LLM(assistive LLM)으로서 정보 제공과 문서 초안 작성 등 의료진을 지원하는 역할에 초점을 두며, 독립적 의사결정을 수행하지 않는다고

야콥 N. 카터(Jakob N. Kather), ESMO 디지털헬스 태스크포스 부위원장은 “이러한 시스템은 임상 워크플로우와 의사결정을 대체하는 것이 아니라 강화하기 위한 것”이라고 설명했다.

마지막으로 가이드라인은 사용자의직접 입력 없이 스스로 행동을 개시할 수 있는 ‘자율형(agentic) AI 모델’의 급속한 등장도 주목하고 있다면서 이러한 기술은 안전성, 규제, 윤리적 문제에서 별도의 세심한 지침이 필요하다고 강조했다.

파브리스앙드레 ESMO 회장은 “종양학에서 AI를 책임 있게 활용하기 위해서는 알고리즘 못지않게 공유된 표준(shared standards)이 중요하다. ELCAP은 임상 판단에 대한 신뢰를 훼손하지 않으면서도 암 치료의 질, 형평성, 효율성을 향상시키는 AI 활용 방향을 제시한다”고 강조했다.