무슨 일이 있었나

사기 점검 서비스 Ask Silver의 조사에 따르면, 챗GPT한테 영국 신발 브랜드 Russell & Bromley의 인기 상품을 추천해 달라고 물어봤어. 그랬더니 가격이랑 링크가 붙은 추천이 나왔는데, 그 출처 링크 일부가 진짜 매장이 아니라 사칭 쇼핑몰이었던 거야. 가짜 사이트들은 최대 80% 할인을 내걸고 있었고, 이 정도 할인은 온라인 쇼핑 사기에서 흔한 경고 신호야.

왜 이런 일이 생겼나

Russell & Bromley는 올해 1월 21일 법정관리에 들어갔고, 그 뒤 Next에 인수됐어. 독립된 공식 사이트가 사라진 틈을 사기꾼들이 파고든 거지. 실제로 등장한 가짜 도메인은 이렇게 네 개였어.

  • therussellbromleyofficial
  • russellandbromleylondon
  • russellbromleyonlineuk
  • russell-and-bromley

Ask Silver의 Anna Jones는 LLM이 학습하거나 참고하는 정보에 가짜 페이지 같은 나쁜 내용이 섞여 들어가는 ‘오염’이 원인일 수 있다고 봤어. 다만 이건 추정이고, 검색 결과에 가짜 사이트가 뜨는 것과 모델 학습 데이터 자체가 오염되는 건 다른 경로라 같이 묶어서 보면 안 돼.

어떤 의미인가

AI한테 쇼핑을 물어보고 링크를 그대로 누르는 사람이 늘고 있으니, 추천에 딸려 온 주소를 한 번 더 확인하는 습관이 필요해. 도메인이 공식 이름과 미묘하게 다르거나, 할인폭이 비정상적으로 크면 의심하는 게 맞아. OpenAI는 문제가 된 가짜 사이트를 검색 인덱스에서 지웠고, 정책 위반 사이트를 신고하는 양식도 두고 있어. 영국 National Trading Standards의 Louise Baxter는 사기꾼이 새 기술이면 뭐든 악용한다는 점을 다시 일깨운 사례라고 했어.