의료 AI와 의료 윤리

개요

2024년 서울아산병원 응급실에서는 야간 당직 전공의 한 명이 AI 판독 보조 시스템의 알림을 받고 뇌출혈 환자를 30분 더 빨리 수술방으로 보냈다. 같은 해, 미국에서는 보험사 유나이티드헬스케어가 AI 알고리즘으로 요양병원 입원 환자의 재활 급여를 자동 거절한 사실이 소송으로 드러나 파장이 일었다. 같은 기술이 한쪽에서는 생명을 구하고 다른 쪽에서는 치료를 가로막는다. 의료 AI와 의료 윤리 논쟁의 핵심은 여기에 있다 — 기술 자체가 아니라 누가, 어떤 기준으로, 무엇을 위해 그것을 쓰느냐다.

진단 보조에서 시작된 신뢰

구글 딥마인드의 안과 질환 진단 AI, IBM 왓슨 온콜로지, 국내 뷰노(VUNO)의 흉부 X선 판독 보조 소프트웨어 등은 2010년대 후반부터 임상 현장에 도입되며 "숙련된 영상의학과 전문의 수준"이라는 평가를 받았다. 2023년 식품의약품안전처 통계에 따르면 국내 허가받은 AI 의료기기는 200건을 넘어섰고, 그중 다수가 흉부·유방암 영상 판독 보조에 집중되어 있다. 문제는 이 도구들이 "보조"로 설계되었지만 실제 임상 현장에서는 의사가 AI 판정을 그대로 따르는 자동화 편향(automation bias)이 반복적으로 보고된다는 점이다. 2022년 미국 존스홉킨스 연구팀은 방사선과 전공의들이 AI가 틀린 판독을 제시했을 때도 이를 그대로 수용하는 비율이 상당히 높았다는 결과를 발표했다.

편향과 차별의 문제

2019년 사이언스지에 실린 연구는 미국 병원에서 널리 쓰이던 위험도 예측 알고리즘이 흑인 환자를 백인 환자보다 체계적으로 덜 위중하게 평가했다는 사실을 밝혀 큰 파장을 일으켰다. 원인은 알고리즘이 "의료비 지출"을 건강 위중도의 대리 지표로 사용했기 때문이었다 — 흑인 환자들이 구조적으로 의료 접근성이 낮아 지출이 적었을 뿐인데, AI는 이를 "덜 아프다"로 학습한 것이다. 한국에서도 특정 인구 집단(고령층, 농어촌 거주자)의 의료 데이터가 상대적으로 부족해 AI 모델의 정확도가 떨어질 수 있다는 우려가 학계에서 꾸준히 제기된다.

책임 소재의 공백

AI가 오진을 내렸을 때 책임은 누구에게 있는가. 개발사인가, 병원인가, 최종 서명한 의사인가. 2024년 기준 한국 의료법 체계는 이 질문에 명확한 답을 주지 못한다. 대부분의 AI 의료기기 허가는 "의사의 최종 판단을 보조하는 도구"라는 전제로 이루어지기 때문에, 법적 책임은 여전히 의사 개인에게 귀속되는 구조다. 이 때문에 일선 의사들 사이에서는 "책임은 내가 지는데 판단은 기계가 한다"는 불만이 나온다.

환자 동의와 데이터 문제

AI 모델을 학습시키려면 방대한 의료 데이터가 필요하다. 국내에서는 2020년 데이터 3법 개정 이후 가명처리된 의료 데이터의 활용 범위가 넓어졌지만, 환자가 자신의 진료 기록이 어떤 AI 모델 학습에 쓰이는지 구체적으로 알기는 어렵다. 유럽에서는 GDPR을 근거로 "설명받을 권리"가 강조되지만, 복잡한 딥러닝 모델의 판단 근거를 환자가 이해할 수 있는 언어로 설명하는 일 자체가 기술적으로 쉽지 않다.

남은 과제

세계보건기구(WHO)는 2021년 의료 AI 윤리 가이드라인에서 투명성, 책임성, 공정성, 인간의 감독 유지를 핵심 원칙으로 제시했다. 그러나 원칙과 현장 사이의 간극은 여전히 넓다. 기술의 발전 속도가 규제와 윤리적 합의의 속도를 앞지르는 지금, 의료 AI가 신뢰받는 도구로 자리잡을지는 결국 이 간극을 얼마나 빨리 메우느냐에 달려 있다.