Tech AI News - 테카이

에어캐나다 AI 챗봇 오안내 사건 — 책임은 누가 지나

· 3분 읽기

Read this post in English →

2022년 겨울, 에어캐나다 웹사이트 챗봇은 한 승객에게 "정가로 발권한 뒤 90일 안에 사별 운임을 신청하면 차액을 환불받을 수 있다"고 안내했다. 틀린 안내였다. 에어캐나다는 "챗봇은 스스로 책임지는 별도의 존재"라고 주장했지만, 캐나다 심판소는 받아들이지 않았다.


한눈에 보기

항목내용
기업/기관에어캐나다(Air Canada)
산업군항공
분쟁이 된 AI웹사이트 고객 응대 챗봇
사건·판결 시점상담 2022년 11월 · 판결 2024년 2월 14일
핵심 결과민사분쟁심판소(CRT), 챗봇 오안내에 대한 회사 책임 인정·배상 명령

배경 — 어떤 문제가 있었나

승객 제이크 모팻(Jake Moffatt)은 2022년 11월 할머니 장례식에 참석하려 급히 항공권을 구매해야 했다. 그는 에어캐나다 챗봇에게 사별 운임(bereavement fare, 상을 당한 승객에게 적용하는 할인 운임) 적용 방법을 물었다. 챗봇은 정가로 먼저 발권한 뒤 90일 안에 신청하면 차액을 환불받을 수 있다고 답했고, CTV News에 따르면 그는 이를 믿고 항공권을 구매했다. 그런데 같은 웹사이트의 다른 페이지에는 사별 운임을 여행 완료 후에는 신청할 수 없다는, 챗봇과 정반대되는 내용이 이미 게시돼 있었다.

법정 다툼의 핵심 쟁점

모팻은 차액 환불을 요청했지만 거부당했고, 소액 사건을 다루는 브리티시컬럼비아 민사분쟁심판소(Civil Resolution Tribunal)에 소를 제기했다. 에어캐나다는 "챗봇이 제공한 정보에 회사가 책임질 수 없다"고 주장했다. McCarthy Tétrault 분석에 따르면, 이는 챗봇을 "스스로 행동에 책임지는 별도의 법적 주체"처럼 취급해야 한다는 주장이었다.

심판을 맡은 크리스토퍼 리버스(Christopher Rivers) 위원은 이 주장을 "remarkable submission(놀라운 주장)"이라 평가하며 기각했다. 논리는 단순했다. 챗봇에 대화형 인터페이스가 있어도 그것은 여전히 에어캐나다 웹사이트의 일부이며, 정적 페이지든 챗봇 응답이든 고객이 접하는 정보는 모두 회사가 책임지는 "표시(representation)"라는 것이다. 심판소는 항공사-승객 간 상업적 관계에 따른 주의의무(duty of care)를 근거로, 챗봇 응답의 정확성을 합리적으로 관리하지 못한 과실(negligent misrepresentation)을 인정했다.

결과 — 배상과 파장

심판소는 에어캐나다에 환불 차액·이자·심판 수수료를 합쳐 총 812.02캐나다달러를 지급하라고 명령했다. Fox Business 등이 이 총액을 보도했다. 금액은 크지 않지만, "AI가 틀린 말을 하면 그 AI를 도입한 기업이 책임진다"는 원칙을 명시한 사례로 널리 인용되기 시작했다. 에어캐나다는 판결에 따르겠다고 밝히며 사건을 마무리했다.

심판소가 책임을 인정한 핵심 논리

  1. 챗봇은 법적 인격이 아니라 웹사이트의 기능이다. 대화형이라는 점이 책임 소재를 바꾸지 않는다.
  2. 기업은 모든 채널에서 일관되고 정확한 정보를 유지할 의무가 있다. 한쪽 페이지가 맞다는 사실이 다른 채널의 오류를 면제해 주지 않는다.
  3. 면책을 주장하려면 고지가 선행돼야 한다. McMillan LLP는 "응답이 부정확할 수 있다"는 경고 문구가 미리 있었다면 결과가 달랐을 수 있다고 본다.

이 판결의 한계 — 선례로서 무게는 제한적

분석: 이 판결은 일반 법원이 아니라 소액 사건을 다루는 행정심판 기구(CRT)의 결정이다. 다른 법원을 구속하는 선례가 아니고 배상액도 크지 않다. McCarthy Tétrault는 심판소가 과실을 인정한 근거를 깊이 설명하지 않았고 챗봇의 학습·검증 방식은 쟁점으로 다뤄지지 않았다는 점을 한계로 짚는다. 그럼에도 CTV News가 인용한 전문가들은, 구속력이 없어도 향후 유사 사건에서 법원이 같은 논리를 참고할 가능성이 높다고 본다.

우리 조직에 적용한다면

  • 대기업: 챗봇 답변의 근거를 실시간 정책 데이터베이스에 묶어야 한다. 별도 지식베이스를 수동으로 입력해 두면 정책이 바뀔 때 챗봇만 뒤처진다.
  • 중소기업: 환불·할인·보상처럼 금전이 걸린 질문은 챗봇 자동 응답에서 빼고 상담원에게 넘기는 편이 안전하다.
  • 스타트업: Cloud Security Alliance 분석처럼, 응답에 "정확하지 않을 수 있다"는 고지를 넣고 이상 응답을 사람이 주기적으로 검토하는 체계를 설계 단계부터 넣어야 한다.

참고 링크

  • #AI
  • #인공지능
  • #챗봇
  • #법적 책임
  • #에어캐나다
  • #AI 거버넌스