서울대병원 '안과 박기호·가정의학과 박상민 교수, 장주영 연구원' 팀
적대적 설명 방법론 적용해 '우수한 임상적 활용도' 갖췄다
장 연구원 "안과 의사 이해 도울 설명하는 인공지능 개발 매우 중요"
박기호 교수 "더 높은 설명력 가지며, 녹내장 진단 내리게 된 의학적 소견 제시"
박상민 교수 "향후 인간과 AI 상호 의사소통 촉진하는 인공지능 의료기기 개발할 예정"
논문, 안과학 분야 가장 권위학술지 미 AAO 'Ophthalmology’ 최근호에 게재
[보건타임즈] 병변 위치뿐 아니라 진단을 내리게 된 의학적 소견까지 보여주는 새로운 녹내장 진단 설명 가능 AI(eXplainable AI, XAI)가 개발됐다. [사진, 원본 안저(왼쪽)과 적대적 설명 방법론을 적용해 생성된 안저(가운데, 오른쪽)/논문]
녹내장은 실명을 일으키는 대표적인 안과 질환이다.
이 안과 질환은특별한 증상 없이 진행, 악화가 될 수 있으며 치료 시기를 놓치면 회복이 불가할 뿐만 아니라 치료비도 기하급수적으로 올라간다.
이 때문에 무엇보다 정확한 진단으로 조기 치료가 중요하다.
서울대병원은 안과 박기호·가정의학과 박상민 교수, 장주영 연구원 팀은 안과 의사가 녹내장을 진단할 때 임상적으로 해석할 수 있는 새로운 설명 가능 AI를 개발했다고 30일 밝혔다.
연구팀은 서울대병원 건강증진센터 환자 코호트의 안저 사진 6천 장을 3회 중복해 정밀 판독한 뒤 녹내장 진단을 위해 인공지능을 학습시켰다.
이후 녹내장 진단을 내린 과정을 설명하기 위해 완성된 인공지능에 적대적 설명(Adversarial Explanation) 방법론을 적용했다.
적대적 설명 방법론은 인공지능이 안저 사진을 판별, 녹내장이라고 판단할 수 하도록 변형시킨 적대적 예제를 생성해준다.
이때 적대적 예제에 녹내장 소견이 추가되거나 강조되는 것을 의사가 확인함으로써 인공지능의 녹내장 이해도를 확인할 수 있다.
반대로 인공지능이 정상으로 판단하는 적대적 예제를 생성, 실제 녹내장 소견이 제거되는지 확인할 수 있다.
이처럼 적대적 설명 방법론을 적용해 설명을 할 수 있는 의료영상판독용 인공지능을 개발한 것은 연구팀이 세계 최초다.
연구팀은 적대적 예제를 통해 실제로 녹내장 소견이 변화된 것을 확인했다.
이와 함께 안과 의사를 대상으로 한 설문조사 결과, 적대적 설명을 이용하는 것이 기존의 방식보다 인공지능을 더 잘 이해하는 데 도움이 된다고 알려졌다.
연구팀이 개발한 설명 가능 AI는 인공지능이 왜 녹내장으로 진단을 내렸는지 이유를 설명할 수 있어 우수한 임상적 활용도로 의료현장에 도입될 것으로 기대를 모으고 있다.
기존의 인공지능은 의사결정을 지원할 때 결과만 알려줄 뿐 어떤 근거로 이 판단에 이르렀는지를 논리적으로 설명할 수 없는 점이 한계로 지적돼왔다.
최근 인공지능의 발전으로 의료 영상 이미지를 통한 녹내장 진단 AI가 개발되곤 하지만 인공지능의 특성상 내부 구조나 작동 원리를 밝히기 어려운 데다 어떤 근거로 특정 질환을 판독했는지 논리적으로 설명할 수 없었던 것이 의료현장에 도입하기 어려웠던 이유다.
장주영 연구원(1저자) "단순히 진단의 정확도만 높이는 AI 기술뿐 아니라, 안과 의사들이 이해할 수 있도록 설명하는 인공지능을 개발하는 것이 매우 중요하다"고 말했다.
박기호 교수(안과)는 "새로 개발된 AI 설명 방법론은 병변의 위치만을 보여주는 기존의 히트맵(Heatmap) 방식보다 더 높은 설명력을 가지며, 녹내장 진단을 내리게 된 의학적 소견을 함께 보여준다"고 강조했다.
박상민 교수(가정의학과)는 "기존 AI가 가지던 블랙박스 문제를 해결한 새로운 설명 가능 AI 기술은 신뢰성을 높여 향후 인공지능 의료기기의 인증과 사용성 확대에 중요한 원천기술"이라면서 "이를 기반으로 해 인간과 AI의 상호 의사소통을 촉진하는 인공지능 의료기기를 개발할 예정"이라며 향후 계획을 공개했다.
서울대병원과 인더스마트(주)의 협력 연구로 수행됐다.
이 연구논문은 'Explaining the Rationale of Deep Learning Glaucoma Decisions with Adversarial Examples'란 제목으로 안과학 분야에서 국제적으로 가장 권위 있는 미국안과학회(AAO)의 공식 학술지 '옵살몰로지(Ophthalmology) 최근호'에 게재됐다.
기사최종편집일: 2024-04-26 22:33:08
다음기사 : 
