번개장터, 사기범 말고 소비자 잡아…잦은 오탐지 불편

"사기 거래를 잡는다"는 중고거래 플랫폼 번개장터의 AI 시스템이 일부 소비자들에게 천덕꾸러기가 되고 있다.

AI의 오탐지로 정상 거래를 제한하는 사례가 빈번한 탓이다.

번개장터는 중고거래 사기범들이 안전결제 외 거래로 유도하는 것을 막기 위해 AI 기술을 사용중이다.

AI 채팅 감지봇이 사용자 간 대화에서 사기 거래 유도 정황을 실시간 분석하고, 사기 패턴 감지 시 자동으로 알림 메시지를 발송해 거래를 차단한다.

그런데 이 과정에서 AI가 정상 거래를 사기 거래로 오탐지해 소비자 불만이 이어지고 있다.

판매자 A씨는 구매자와의 채팅 과정에서 상품 설명에 대한 추가 사진을 보냈다. 상품 박스 한쪽 모서리가 눌렸다는 점을 알리기 위해서다.

그러나 사진 전송 후 '외부 채널 거래'를 금지하고 있다는 알림 메시지가 떴고, 운영 정책 위반으로 보이는 행위가 반복적으로 탐지된다며 5일 동안 판매가 제한됐다.

A씨는 "AI가 상품 박스 사진에 있는 문구를 외부 링크로 인식해 판매를 정지시킨 것 같다"며 황당해했다.

또 다른 판매자 B씨는 상품 배송 완료 후 구매자에게 '물건 잘 받으시라'고 말했는데 AI로부터 경고 메시지를 받았다. 

그는 "AI가 '배송 완료 전 구매확정 요청'으로 오인해 경고한 것 같다"며 불만을 표했다.

번개장터는 운영 정책 위반 행위로 ▲안전결제 거래 거부 ▲현금거래 및 외부 채널 거래 유도 ▲배송 완료 전 구매확정 요청 ▲안전결제 시 추가 금액 요청 ▲번개케어 거래 거부 등을 지정하고 있다.

위의 정황이 의심될 경우 판매자에게 알림 메시지를 전송하며 잘못된 탐지라면 '문의하기'로 알려달라고 안내하고 있지만, 이 과정에서 다수의 판매자들이 불편을 호소하고 있다. 

번개장터 관계자는 "이미지 내 텍스트 오탐지 등 오탐지가 되지 않도록 개선했고, 지속적으로 고도화 진행하고 있다"며 "내부 정책에 따라 정상적으로 안전결제 이력이 있는 이용자의 경우 패널티를 주지 않도록 패널티 대상에서 예외 적용하고 있다"고 말했다.

[컨슈머치 = 전정미 기자]