에어캐나다 AI 챗봇 오안내 사건 — 책임은 누가 지나
목차
2022년 겨울, 에어캐나다 웹사이트 챗봇은 한 승객에게 "정가로 발권한 뒤 90일 안에 사별 운임을 신청하면 차액을 환불받을 수 있다"고 안내했다. 틀린 안내였다. 에어캐나다는 "챗봇은 스스로 책임지는 별도의 존재"라고 주장했지만, 캐나다 심판소는 받아들이지 않았다.
한눈에 보기
| 항목 | 내용 |
|---|---|
| 기업/기관 | 에어캐나다(Air Canada) |
| 산업군 | 항공 |
| 분쟁이 된 AI | 웹사이트 고객 응대 챗봇 |
| 사건·판결 시점 | 상담 2022년 11월 · 판결 2024년 2월 14일 |
| 핵심 결과 | 민사분쟁심판소(CRT), 챗봇 오안내에 대한 회사 책임 인정·배상 명령 |
배경 — 어떤 문제가 있었나
승객 제이크 모팻(Jake Moffatt)은 2022년 11월 할머니 장례식에 참석하려 급히 항공권을 구매해야 했다. 그는 에어캐나다 챗봇에게 사별 운임(bereavement fare, 상을 당한 승객에게 적용하는 할인 운임) 적용 방법을 물었다. 챗봇은 정가로 먼저 발권한 뒤 90일 안에 신청하면 차액을 환불받을 수 있다고 답했고, CTV News에 따르면 그는 이를 믿고 항공권을 구매했다. 그런데 같은 웹사이트의 다른 페이지에는 사별 운임을 여행 완료 후에는 신청할 수 없다는, 챗봇과 정반대되는 내용이 이미 게시돼 있었다.
법정 다툼의 핵심 쟁점
모팻은 차액 환불을 요청했지만 거부당했고, 소액 사건을 다루는 브리티시컬럼비아 민사분쟁심판소(Civil Resolution Tribunal)에 소를 제기했다. 에어캐나다는 "챗봇이 제공한 정보에 회사가 책임질 수 없다"고 주장했다. McCarthy Tétrault 분석에 따르면, 이는 챗봇을 "스스로 행동에 책임지는 별도의 법적 주체"처럼 취급해야 한다는 주장이었다.
심판을 맡은 크리스토퍼 리버스(Christopher Rivers) 위원은 이 주장을 "remarkable submission(놀라운 주장)"이라 평가하며 기각했다. 논리는 단순했다. 챗봇에 대화형 인터페이스가 있어도 그것은 여전히 에어캐나다 웹사이트의 일부이며, 정적 페이지든 챗봇 응답이든 고객이 접하는 정보는 모두 회사가 책임지는 "표시(representation)"라는 것이다. 심판소는 항공사-승객 간 상업적 관계에 따른 주의의무(duty of care)를 근거로, 챗봇 응답의 정확성을 합리적으로 관리하지 못한 과실(negligent misrepresentation)을 인정했다.
결과 — 배상과 파장
심판소는 에어캐나다에 환불 차액·이자·심판 수수료를 합쳐 총 812.02캐나다달러를 지급하라고 명령했다. Fox Business 등이 이 총액을 보도했다. 금액은 크지 않지만, "AI가 틀린 말을 하면 그 AI를 도입한 기업이 책임진다"는 원칙을 명시한 사례로 널리 인용되기 시작했다. 에어캐나다는 판결에 따르겠다고 밝히며 사건을 마무리했다.
심판소가 책임을 인정한 핵심 논리
- 챗봇은 법적 인격이 아니라 웹사이트의 기능이다. 대화형이라는 점이 책임 소재를 바꾸지 않는다.
- 기업은 모든 채널에서 일관되고 정확한 정보를 유지할 의무가 있다. 한쪽 페이지가 맞다는 사실이 다른 채널의 오류를 면제해 주지 않는다.
- 면책을 주장하려면 고지가 선행돼야 한다. McMillan LLP는 "응답이 부정확할 수 있다"는 경고 문구가 미리 있었다면 결과가 달랐을 수 있다고 본다.
이 판결의 한계 — 선례로서 무게는 제한적
분석: 이 판결은 일반 법원이 아니라 소액 사건을 다루는 행정심판 기구(CRT)의 결정이다. 다른 법원을 구속하는 선례가 아니고 배상액도 크지 않다. McCarthy Tétrault는 심판소가 과실을 인정한 근거를 깊이 설명하지 않았고 챗봇의 학습·검증 방식은 쟁점으로 다뤄지지 않았다는 점을 한계로 짚는다. 그럼에도 CTV News가 인용한 전문가들은, 구속력이 없어도 향후 유사 사건에서 법원이 같은 논리를 참고할 가능성이 높다고 본다.
우리 조직에 적용한다면
- 대기업: 챗봇 답변의 근거를 실시간 정책 데이터베이스에 묶어야 한다. 별도 지식베이스를 수동으로 입력해 두면 정책이 바뀔 때 챗봇만 뒤처진다.
- 중소기업: 환불·할인·보상처럼 금전이 걸린 질문은 챗봇 자동 응답에서 빼고 상담원에게 넘기는 편이 안전하다.
- 스타트업: Cloud Security Alliance 분석처럼, 응답에 "정확하지 않을 수 있다"는 고지를 넣고 이상 응답을 사람이 주기적으로 검토하는 체계를 설계 단계부터 넣어야 한다.
참고 링크
목차
관련 글

콜센터 AI 도입, 왜 롤백으로 끝나는가 — 실패 패턴과 피하는 법
콜센터 AI 챗봇을 도입한 기업의 74%가 결국 롤백한다는 최근 조사를 바탕으로, 에스컬레이션 설계 없이 실패한 Klarna 사례와 기준을 미리 정해 성공한 Carmoola 사례를 비교해 반복되는 원인 세 가지를 정리합니다.

AI 파일럿은 왜 전사 확산에서 멈추는가 — 반복되는 5가지 함정
기업 88%가 AI를 쓰지만 전사 단위 재무 임팩트를 보고한 곳은 6%대뿐이다. 맥킨지·MIT·가트너 리서치가 공통으로 지목한 데이터 품질·프로세스 미조정·거버넌스 후행·레거시 통합·체인지 매니지먼트, 파일럿이 막히는 다섯 가지 구조적 함정을 정리했다.

AI 생산성 역설 — 작업은 빠른데 왜 숫자는 그대로인가
AI로 특정 업무가 눈에 띄게 빨라졌다는 증언은 넘치는데, 왜 기업·경제 전체의 생산성 통계에는 그 효과가 보이지 않을까요. 솔로우의 생산성 역설부터 이어지는 이 간극이 반복되는 이유를 최근 CEO·연구 데이터로 짚어봅니다.

같은 AI를 도입해도 성과가 갈리는 이유 — 재설계와 도구 추가의 차이
같은 생성형 AI를 도입해도 성과가 갈리는 이유는 모델이 아니라 업무 절차를 다시 짰는지에 있다. 맥킨지·BCG·딜로이트 데이터로 워크플로우 재설계형과 도구 추가형 기업이 어디서, 왜 갈리는지 구조적 분기점을 짚어본다.