영국 《가디언》은 27일 디지털 마케팅 업체 Hallam의 연구를 인용해, AI로 생성된 의사 이미지가 TikTok에서 의심스러운 건강 조언을 퍼뜨리고 있으며 인기 영상의 조회 수가 수백만 회에 달할 수 있다고 보도했다.
영국의학협회 이사회 부의장인 엠마 렌스윅 박사, 잉글랜드 국민보건서비스(NHS) 국가 의료책임자인 프랭키 소즈 교수, 영국왕립일반의학회 회장인 빅토리아 조지우 브라운 교수, 유니버시티 칼리지 런던의 건강 허위정보 연구원 알렉스 루아니, 잉글랜드 보건감시 정책·공공업무 임시 책임자인 윌리엄 페트 등 전문가들은 온라인의 오해를 불러일으키는 건강 정보가 공공 안전에 막대한 위협을 초래한다고 경고했다.
렌스윅은 일부 AI 계정이 의료적 궤변을 팔아넘기고 이른바 기적의 치료법을 홍보하고 있어 심각한 결과를 초래할 수 있다며, TikTok 등 플랫폼이 증가하는 위험한 허위 의료 조언을 막기 위해 더 적극적으로 나서야 한다고 경고했다. 그렇지 않으면 대중이 건강을 잃고 심지어 목숨까지 잃을 수 있다는 것이다.
연구진은 AI 가상 의사들이 이미 반박된 여러 발암 관련 주장을 퍼뜨리고 있다는 사실을 발견했다. 여기에는 플라스틱 용기에 담긴 음식을 전자레인지로 데우는 것, 데오도란트를 사용하는 것, 잠잘 때 휴대전화를 곁에 두는 것이 암을 유발할 수 있다는 주장이 포함됐다.
영국 암 연구소는 위와 같은 주장을 하나씩 부정했다.
TikTok의 건강 관련 인기 영상 중 AI 생성 콘텐츠는 40%를 차지했다. 대부분의 영상은 실제 의사를 외모와 신원 설정 모두 모방한, 계속 늘어나는 딥페이크 인플루언서 계정에서 나온 것이었다. ‘건강 조언’과 같은 특정 문구를 검색했을 때 영상의 84%가 AI로 생성됐거나 AI의 도움을 받아 제작된 것으로 판정됐다.
Hallam은 검색 결과에서 가장 인기가 높은 AI 의사 및 건강 관련 영상이 평균 250만 회의 조회 수를 기록했다고 밝혔다. 《가디언》이 일부 영상 샘플을 TikTok에 제출하자 TikTok은 지적된 영상들을 삭제했다.
일부 계정은 코카콜라와 양파를 섞어 통증 완화에 사용하라는 등의 황당한 건강 민간요법을 홍보하거나, 허구의 제품인 ‘Hyalethinap Plus Pro Max’를 노화 방지 제품으로 포장해 판매하기도 했다.
한 AI 가상 의사는 수년간 환자들에게 ‘Hyalethinap Plus Pro Max’를 추천해 왔다고 주장했다. 이 계정은 해당 제품이 인체가 ‘노화 방지 분자’를 자연적으로 생성하도록 돕고, 탈모와 피부 약화, 손발톱이 쉽게 부러지는 증상 및 관절 통증 등을 개선할 수 있다고 주장했다. 《가디언》은 온라인에서 ‘Hyalethinap Plus Pro Max’가 실제로 존재한다는 증거를 찾지 못했다.
소즈는 연구 결과에 대해 점점 늘어나는 온라인 의료 허위정보가 우려스럽다며 “많은 임상의가 단순히 조회 수를 얻기 위해 꾸며낸 허위 조언 때문에 불안과 혼란을 느끼는 환자가 늘고 있다고 호소한다”고 말했다.
브라운은 연구 결과가 역시 우려스럽다며 오해를 불러일으키는 AI 콘텐츠가 실제로 사람들에게 피해를 줄 수 있다고 밝혔다.
Hallam은 총 1198개의 영상을 분석했으며, ‘건강 조언’, ‘의사 조언’ 등 여러 검색어의 결과에서 각각 조회 수가 가장 높은 영상 50개를 선정했다. 연구 범위에는 개인 재정과 교육 등 인생의 선택에 영향을 미칠 수 있는 일반적인 조언도 포함됐다.
루아니는 AI 의사 영상이 급증하면서 대중이 무서운 규모로 허위 의료 콘텐츠에 노출되고 있다며, 누군가 산업적인 방식으로 대중의 신뢰를 착취하고 있다고 덧붙였다.
지난해 Savanta는 환자 권익 단체인 잉글랜드 보건감시의 의뢰를 받아 잉글랜드의 18세 이상 남성 3575명과 여성 3832명을 대상으로 조사했다. 조사 결과 응답자의 약 5분의 1이 소셜미디어에서 건강 정보를 얻는 것으로 나타났다.
페트는 “사람들이 신뢰할 수 있는 정보와 상업적 과장, 허위정보를 구분할 능력이 없다면 잘못된 정보를 믿게 되고, 그 결과 건강이 심각하게 손상될 수 있다”고 말했다.
TikTok 대변인은 “이번 연구는 상업적 이해관계를 가진 마케팅 업체가 수행했으며, 연구 결과가 TikTok의 실제 상황을 정확히 반영한다고 볼 수 없다. 우리는 AI 생성 콘텐츠를 비롯한 유해한 건강 허위정보를 삭제하고, 세계보건기구 및 영국 국민보건서비스와 협력해 앱 내에서 신뢰할 수 있는 건강 정보를 제공하고 있다. 또한 AI 리터러시 자원과 콘텐츠 라벨링 기술에 지속적으로 투자하고 있다”고 밝혔다.