IBM 왓슨은 왜 암 전문의를 돕지 못했나 — 왓슨 헬스가 매각되기까지
목차
IBM은 왓슨을 암 진단과 치료 결정을 돕는 AI로 밀었지만, 정작 임상 현장에서는 신뢰를 얻지 못했습니다. 10년 가까운 투자 끝에 왓슨 헬스는 2022년 자산 매각으로 정리됐습니다.
한눈에 보기
| 항목 | 내용 |
|---|---|
| 기업/기관 | IBM (왓슨 헬스 사업부) |
| 산업군 | 헬스케어 / 의료 AI |
| 도입 AI 기술 | 왓슨 포 온콜로지(Watson for Oncology) 등 임상 의사결정 지원 시스템 |
| 도입 시점 | 2015년 왓슨 헬스 출범, 2016년 MD 앤더슨 프로젝트 중단 |
| 핵심 결과 | 2022년 1월 헬스케어 데이터·분석 자산을 프란시스코 파트너스에 매각 (Fierce Healthcare, 2022) |
배경 — 어떤 문제가 있었나
IBM은 2011년 퀴즈쇼 '제퍼디!'에서 인간 챔피언을 이긴 왓슨의 자연어 처리 능력을 의료 분야로 확장하려 했습니다. 암 환자마다 논문·임상시험·진료기록이 방대해 의사 한 명이 모두 따라가기 어렵다는 점에, 왓슨이 방대한 의학 문헌을 읽고 치료 옵션을 제시하면 의사의 판단을 보완할 수 있다는 구상이었습니다. 2015년 왓슨 헬스 사업부를 출범시키며 암 치료·신약 개발·보험 데이터 분석까지 영역을 넓혔습니다.
어떻게 도입했나
대표 사례가 MD 앤더슨 암센터와 함께한 '온콜로지 전문가 어드바이저(OEA)' 프로젝트입니다. 2016년 공개된 감사 보고서에 따르면 원래 계약은 6개월, 240만 달러 규모였지만 경쟁 재입찰 없이 12차례 연장됐고, 프로젝트는 임상 도구를 내놓지 못한 채 2016년 9월 중단됐습니다 (The Cancer Letter, 2017). 별도 제품인 왓슨 포 온콜로지는 메모리얼 슬론 케터링 암센터와 협력해 소수 전문의의 의견을 바탕으로 학습시킨 뒤 여러 병원에 라이선스로 공급하는 방식이었습니다.
결과 — 무엇이 어긋났나
- 감사 비용: MD 앤더슨 프로젝트에 IBM 3,900만 달러, 회계법인 PwC 2,300만 달러가 지급됐고 임상 도구는 나오지 않았습니다 (The Cancer Letter, 2017).
- 권고 품질: 2018년 STAT 보도에 따르면 2017년 작성된 IBM 내부 문서는 왓슨 포 온콜로지가 국가종합암네트워크(NCCN) 가이드라인과 상충하는 치료를 권고한 사례를 다수 지적했습니다 (STAT, 2018).
해석: 두 사례 모두 "왓슨이 쓸모없다"는 결론보다는, 임상처럼 오류 허용폭이 좁은 영역에 검증되지 않은 상태로 너무 빨리 들어갔다는 공통점을 보여줍니다. STAT 보도에 대해 IBM은 지속적인 피드백으로 왓슨 헬스를 개선해 왔다고 밝혔고, 메모리얼 슬론 케터링은 해당 사례가 실제 환자 진료가 아닌 시스템 테스트 과정에서 나온 것이라고 반박했습니다.
실패 원인
- 합성 데이터로 학습: 왓슨 포 온콜로지는 실제 환자 기록 대신 가상으로 구성한 소수의 사례와 몇몇 전문의의 개인적 판단을 학습 자료로 썼습니다. 특정 병원의 관행이나 편향이 그대로 모델에 반영돼, 다른 병원·다른 인구집단에는 일반화되지 않았습니다.
- 과도하게 야심적인 목표 설정: 암 치료처럼 변수가 많고 근거 수준이 자주 바뀌는 영역을 첫 상용화 타깃으로 잡았습니다. 전문가들은 과학적 근거를 충분히 쌓기 전에 제품화가 앞서갔다고 평가합니다.
- 느슨한 계약·거버넌스: MD 앤더슨 사례처럼 범위가 불분명한 계약이 경쟁 없이 반복 연장되면서, 중간 점검 없이 비용만 쌓이는 구조가 만들어졌습니다.
우리 조직에 적용한다면
- 대기업: 고위험 의사결정에 AI를 넣을 때는 파일럿 범위와 중단 기준(투입 비용·기간 상한)을 계약 시점에 명시하고, 외부 감사나 독립적인 임상 검증 단계를 처음부터 계약에 포함시키는 편이 안전합니다.
- 중소기업·스타트업: 왓슨처럼 전사적으로 베팅하기보다, 오류가 나도 되돌릴 수 있는 낮은 위험 영역(초안 작성·1차 분류 등)에서 먼저 정확도를 검증한 뒤 범위를 넓히는 접근이 현실적입니다.
- 모든 조직: "의사의 판단을 보완한다"는 설계 의도와 실제 배포 방식 사이의 간극을 주기적으로 점검해야 합니다. 보완 도구로 설계된 AI가 실제로는 검증 없이 최종 권고처럼 쓰이고 있다면, 그 간극이 가장 먼저 사고로 이어집니다.
참고 링크
목차
관련 글
아마존 AI 채용 도구가 여성을 걸러낸 이유 — 편향은 어디서 왔나
2018년 로이터 보도로 알려진 아마존의 AI 채용 도구는 10년치 이력서 데이터를 학습해 "women's"가 들어간 이력서를 감점했고, 엔지니어들이 끝내 신뢰할 수준으로 중립화하지 못해 실전 배치 전에 폐기 결정을 내렸다.
듀오링고는 왜 'AI 퍼스트' 선언을 되돌렸나
듀오링고 CEO의 'AI 퍼스트' 메모는 업무 효율화 선언이었지만 구성원과 이용자에게는 해고 선언으로 읽혔다. 거센 반발 뒤 입장을 수정한 과정은 AI 도입을 발표할 때 내부 설득과 외부 공개의 순서가 왜 중요한지를 보여준다.
질로우는 왜 자기 AI 가격 모델을 믿다가 수억 달러를 잃었나
2021년 질로우는 자체 AI 가격 모델을 과신해 수억 달러를 잃고 아이바잉 사업을 접었다. 현장 직원의 경고가 묵살된 거버넌스 공백과, 같은 리스크에서도 보수적으로 대응해 살아남은 Opendoor의 대조를 짚는다.
맥도날드가 AI 드라이브스루를 접은 이유 — 음성 AI 도입의 함정
맥도날드가 IBM과 2년 반 시범 운영한 AI 음성 드라이브스루 주문을 접은 사례를 통해, 목표 정확도 미달과 바이럴 오류 영상이 신뢰를 무너뜨린 과정, 파일럿 설계에서 반드시 점검해야 할 체크포인트를 함께 정리합니다.