AI 챗봇, '미국산' 정보 제공 왜곡 의혹 제기
미국 상원의원들이 주요 전자상거래 기업인 아마존과 월마트의 인공지능(AI) 쇼핑 챗봇이 '미국산(Made in USA)' 제품에 대한 정보를 의도적으로 축소하고, 허위로 표기된 상품 정보를 제대로 걸러내지 못한다고 지적했습니다. 이에 따라 린나 칸 전 연방거래위원회(FTC) 위원장이 이끄는 싱크탱크의 연구 결과를 바탕으로, 탬미 볼드윈, 릭 스캇 상원의원은 FTC에 해당 사안에 대한 공식 조사 개시를 촉구하는 서한을 발송했습니다.
이들 의원은 서한에서 아마존의 '알렉사 포 쇼핑'과 월마트의 '스파키 AI 쇼핑 어시스턴트'가 미국 내 제조업 육성을 저해하고 소비자를 오도할 수 있다고 우려를 표명했습니다. 연구 결과에 따르면, 해당 챗봇들이 미국산 제품에 대한 정보를 억제하는 경향을 보이며 대신 중국산 등 해외 제조 상품 정보를 더 적극적으로 제공하는 것으로 나타났습니다. 이는 미국 소비자들이 구매하는 제품의 원산지에 대한 정확한 정보 습득 권리를 침해할 소지가 있다는 점에서 비판받고 있습니다.
챗봇 응답, '미국산' 정보 왜곡 의혹 해명
상원의원들이 공개한 서한 내용에 따르면, 연구진이 AI 챗봇에게 '미국산 제품 필터가 없는 이유'를 문의했을 때, 아마존의 알렉사는 '이것이 해외 제조업체들의 가장 큰 판매 기반을 상당 부분 다른 곳으로 돌릴 수 있기 때문'이라고 답한 것으로 인용되었습니다. 이 답변은 미국산 제품 정보를 우선적으로 제공하는 것이 특정 해외 판매업자들의 매출에 부정적인 영향을 미칠 수 있다는 기업의 입장을 시사하는 것으로 해석될 수 있습니다.
또한, 연구에서는 AI 쇼핑 도우미가 '미국산' 라벨이 허위일 가능성을 탐지할 수 있는 능력이 있음에도 불구하고, 대형 유통업체들이 이러한 기술을 활용하여 허위 표기 상품 단속에 적극적으로 나서지 않고 있다는 점도 지적되었습니다. 월마트의 스파키 챗봇은 이러한 허위 표기 문제에 대해, FTC의 소극적인 집행을 이유로 들며 이를 '법적 근거가 아닌 사업적 계산'이라고 설명한 것으로 알려졌습니다. 이러한 AI 챗봇의 답변은 소비자에게 정확한 상품 정보 제공이라는 본연의 역할 수행보다는 기업의 이익을 우선시하는 듯한 인상을 줄 수 있습니다.