생성형 AI 검색이 추천한 약 판매 사이트는 모두 합법이었을까요?

상세 설명

온라인 약국 시장은 성장하고 있으며, 합법적인 온라인 약국은 편리성과 접근성이라는 이점을 제공할 수 있다. 하지만 수요 증가로 악의적인 행위자들도 유입됐다. 불법 판매업체는 검색 결과에서 더 높은 순위에 오르기 위해 기만적인 기법을 사용하고, 품질 미달 또는 위조 의약품을 조제·판매해 공중보건에 위험을 초래한다.

검색 엔진 제공업체들은 생성형 AI를 검색 화면에 통합하기 시작했으며, 이는 사용하기 쉬운 환경에서 더 개인화된 결과를 제공할 가능성이 있다. 그러나 기술이 부적절하게 통합되면 사용자를 의도치 않게 불법 판매업체로 안내해 기존 위험을 악화할 수 있다. 특히 온라인 약국과 관련해 생성형 AI 통합이 검색 결과를 어떻게 바꾸는지는 아직 연구되지 않았다. 연구진은 AI가 생성한 검색 결과와 추천에서 불법 온라인 약국 추천을 찾아내고, 그 비율과 특성을 파악하고자 했다.

연구진은 구글의 검색 생성 경험(Search Generative Experience, SGE)과 마이크로소프트 빙 챗의 AI 생성 추천을 비교 평가했다. 규제 약물을 포함해 여러 치료 범주에 속하는 인기 있고 널리 알려진 의약품에 초점을 맞췄다. 각 웹사이트의 합법성을 개별적으로 조사하고 미국 약사위원회 협회(National Association of Boards of Pharmacy)와 LegitScript 데이터베이스를 대조해 알려진 불법 판매업체를 확인했다.

추천된 웹사이트 262개 중 47.33%(124/262)는 운영 중인 온라인 약국에 속했고, 31.29%(82/262)는 합법적인 온라인 약국으로 연결됐다. 빙 챗 추천의 19.04%(24/126)와 구글 SGE 추천의 13.23%(18/136)는 불법 판매업체로 이어졌으며, 여기에는 규제 약물에 대한 추천도 포함됐다. 불법 약국의 비율은 의약품과 검색 엔진에 따라 달랐다. 불법 웹사이트의 분포는 두 검색 엔진 사이에서 유의하게 달랐다.

처방 의약품의 경우 불법 온라인 약국으로 연결되는 링크의 비율은 빙 챗(21/86, 24%)이 구글 SGE(6/92, 6%)보다 유의하게 높았다(P=.001). 규제 약물의 경우에는 구글의 추천이 빙의 추천(3/40, 7%)보다 유의하게 더 많은 불법 판매업체로 이어졌다(12/44, 27%; P=.02).

연구진은 검색 엔진에 생성형 AI를 통합하는 것이 유망하지만 상당한 위험도 수반한다고 결론지었다. 이들은 이번 연구가 해당 플랫폼의 취약성과 불법 약국을 의도치 않게 홍보할 때 생길 수 있는 공중보건상 영향을 처음으로 조명했다고 설명했다. 불법 약국으로 이어지는 추천이 우려할 만한 비율로 발견됐으며, 이는 해당 사이트의 유입량을 늘리고 기존 공중보건 위험을 악화할 가능성이 있다. 연구진은 생성형 검색에 대한 엄격한 감독과 적절한 안전장치가 시급하다며, 사용자를 검증된 약국으로 적극 안내하고 합법적인 출처를 우선하며 불법 판매업체를 추천에서 제외해야 한다고 제안했다.