답변대로 거래했는데 '규정 위반' 제재
미흡한 안내로 소비자 불편 사례 발생
당근(당근마켓) AI 고객센터의 안내를 믿고 물품을 판매한 소비자가 규정 위반으로 제재를 받으면서, AI 상담의 정확성과 신뢰성을 둘러싼 의문이 제기되고 있다.
지난 6일 한 소비자가 당근 AI 고객센터의 안내를 믿고 물품을 판매했다가 이용 제한 조치를 받았다며 온라인 커뮤니티에 사연을 공유했다.
소비자 A씨는 집에 있던 제로 맥주를 처분하려다 판매 가능 여부가 궁금해 당근 앱 내 고객센터를 눌렀고, 곧바로 AI 상담창으로 연결됐다.
A씨는 “제로 맥주 판매 못 하나요? 논알코올인데”라고 질문했고, 당근 AI는 “제로 맥주처럼 논알코올 음료는 주류로 분류되지 않아 당근에서 거래할 수 있다. 안심하고 판매해도 된다”고 답했다.
이에 A씨는 판매 글을 올렸지만, 이후 주류 판매를 이유로 게시글이 제재되고 일정 기간 당근 이용이 제한됐다. 무알코올 주류는 청소년유해약물로 분류돼 거래가 제한되고 있기 때문이다.
AI 상담창 하단에는 ‘AI 에이전트는 실수를 할 수 있어요. 정확한 정보는 FAQ를 확인해 주세요’라는 안내 문구가 있었지만, A씨는 AI 답변을 신뢰해 별도로 FAQ를 확인하지는 않았다고 설명했다.
A씨는 금요일 새벽 문의글을 남겼지만 답변을 받지 못한 채 주말 내내 이용 제한 상태를 겪어야 했다.
그는 과거에도 편의점 상품권 판매 글에 ‘담배 구매 불가’ 문구를 적었다가 담배 판매 게시물로 오인돼 비공개 처리된 경험이 있다고 밝히면서 "오답변 가능성이 있는 AI를 고객센터 메인에 둔 것은 문제"라고 지적했다.
A씨와 같은 사례와 관련해 당근 관계자는 "AI 고객센터에서 ‘문의하기’를 통해 상세 내용을 남기면 내부 확인을 거쳐 정식 고객 대응 채널로 안내하고 있다"며 "운영 과정에서 확인되는 미흡한 부분은 내부 정책에 따라 조치할 예정"이라고 밝혔다.
또한 "AI 상담의 안내 정확도를 높이기 위해 응답 기준과 정책 안내를 지속적으로 점검·개선하고 있다"며 "보다 정확한 안내를 제공하기 위한 보완 작업을 이어가겠다"고 말했다.
당근은 지난해 2월 ‘고객센터 AI 검색 및 요약 기능’을 도입해 가이드라인과 정책을 기반으로 한 상담을 제공하고 있다. 다만 도입 1년이 지났음에도 실제 정책과 다른 안내가 제공되면서 AI상담의 신뢰성에 대한 의문이 제기되고 있다.
[컨슈머치 = 전정미 기자]