영국서 AI 챗봇 오류로 인한 '보험 상품' 등장

 

"AI가 틀려도 누가 책임지나요?"

이 질문에 명확한 답을 내놓은 곳이 있습니다. 바로 영국 보험업계입니다.

이제는 AI 챗봇의 실수까지 보험으로 보장해주는 시대가 열렸습니다.

---

AI도 실수한다, 그리고 그 대가는 기업이 진다

AI 챗봇이 고객에게 잘못된 정보를 주거나, 존재하지 않는 할인 정보를 알려주면 그 피해는 누구 몫일까요?

최근 캐나다의 항공사 에어캐나다는 AI 챗봇이 거짓 정보를 안내한 탓에 법원에서 할인된 가격을 인정하라는 판결을 받았죠.

 

이처럼 AI의 오류로 인해 발생하는 피해가 현실화되고 있고, 이에 따라 AI 관련 리스크를 보장하는 보험 상품이 영국에서 정식으로 등장했습니다.

---

‘AI 오류 보험’을 만든 건 누구?

이 보험은 미국 스타트업 **아르밀라(Armilla)**가 개발했습니다.

실리콘밸리의 유명 엑셀러레이터인 Y 콤비네이터의 지원까지 받은 이들은, 챗봇이나 자동화된 AI 서비스가 발생시킬 수 있는 실수에 대비한 전문 보험 상품을 내놨습니다.

 

예를 들어,

• 고객에게 잘못된 의료 정보를 제공
• 거짓 할인 정보를 안내
• 폭언이나 부적절한 응답 등

이런 경우에 법적 비용과 피해 보상을 커버해주는 구조입니다.

---

AI 성능도 ‘보험 심사 대상’

흥미로운 점은, 이 보험은 그냥 무작정 보장해주는 게 아닙니다.

보험사 측은 AI 모델의 초기 성능을 먼저 평가하고, 그 성능이 시간이 지나며 의미 있게 저하되었을 때만 보상을 한다고 해요.

 

예를 들어, 처음엔 정확도가 95%였던 챗봇이 85%로 떨어졌다면? 그건 보상 대상입니다.

이처럼 보험사도 AI의 안정성과 품질을 기준 삼아 보장 여부를 따진다는 점이 매우 독특하죠.

---

기업들은 왜 이런 보험이 필요할까?

AI는 점점 더 많은 기업들이 채택하고 있는 기술입니다.

그러나 그만큼 “혹시나 틀리면?” “오류 나면 책임은 누구지?” 하는 불안도 커지고 있죠.

 

실제로 많은 기업들이 AI 도입을 주저하는 이유 중 하나가 바로 예측 불가능한 오류 때문입니다.

 

이 보험 상품은 그러한 불안감을 줄여주고, 더 많은 기업들이 AI를 채택할 수 있는 발판이 될 것으로 보입니다.

---

앞으로는 ‘AI 리스크 관리’도 기업 필수 조건

이제는 단순히 AI를 ‘잘 쓰는 것’만으로는 부족합니다.

AI가 잘못했을 때 어떻게 대응할지에 대한 준비가 필요하다는 시대가 된 것이죠.

 

AI를 비즈니스에 도입한 기업이라면, 기술 개발과 함께 리스크 관리 방안도 반드시 고민해야 할 시점입니다.

 

---

 

📝 함께 읽으면 좋아요

 

“부탁해요, 챗GPT” 공손함이 가져온 뜻밖의 결과는?

 

 

챗GPT 그림 퀄리티 갑자기 이상해졌을 때, 원인과 해결법 총정리!