중국소비자협회는 오늘 인공지능 서비스 관련 소비자 주의사항을 발표하고, 소비자들에게 범용 생성형 인공지능의 정보 보조 및 참고 기능을 합리적으로 이해할 것을 당부했다. 가격 및 비용, 계약 조항, 애프터서비스, 법적 책임 등 중요한 소비자 정보와 관련해서는 인공지능이 생성한 콘텐츠만을 근거로 결정해서는 안 되며, 사업자 공식 채널, 계약서, 감독 기관 및 기타 권위 있는 채널을 통해 확인해야 한다.
전문은 다음과 같다.
현재 대규모 언어 모델을 핵심으로 하는 생성형 인공지능 기술이 소비 생활의 다양한 분야에 빠르게 활용되고 있다. 인공지능은 소비 편의성과 서비스 효율을 높이는 동시에, 정보 생성에 일정한 불확실성이 있어 정보 부정확, 부정확한 표현, 실제 상황과 일치하지 않는 약속 등의 문제가 발생할 수 있다. 예를 들어 실제와 다른 요금 정보를 제공하거나, 이행하기 어려운 보상 내용을 제시하거나, 편향적이거나 신중하지 못한 법률 조언을 제공하는 경우 소비자의 판단과 선택에 영향을 미치고, 심지어 경제적 손실을 초래할 수 있다.
관련 여론과 최근 전국 소비자협회 조직이 접수한 관련 민원에 따르면, 인공지능 서비스로 인해 발생하는 소비자 문제는 적용 분야에 따라 서로 다른 특징을 보인다. 소비자가 일상에서 접하는 인공지능은 대체로 두 가지로 나눌 수 있다. 하나는 대중을 대상으로 하는 범용 생성형 인공지능 서비스로, 주로 공개 정보, 모델 학습 데이터 및 사용자의 질문을 바탕으로 답변을 생성하며 일반적으로 특정 사업자의 공식 의견을 대표하지 않는다. 다른 하나는 사업자가 도입해 사용하는 인공지능 고객서비스 도구로, 상품 소개, 비용 안내, 행사 설명, 애프터서비스 처리 등 영업 및 서비스 과정에 직접 참여한다.
대중을 대상으로 하는 범용 생성형 인공지능 서비스는 특정 사업자를 대변하는 주체가 아니다. 따라서 생성된 콘텐츠는 일반적으로 플랫폼이나 판매자의 공식 약속으로 직접 간주할 수 없으며, 계약 내용이나 권위 있는 기관의 의견을 대신할 수도 없고, 주로 정보 보조 및 참고 역할을 한다. 실제로 일부 범용 생성형 인공지능은 소비 상담 및 권리 보호 지원 과정에서 소비자가 입은 손실에 대해 근거 없는 전면 보상 약속을 하거나, 소송 결과를 지나치게 단정적으로 판단하거나, 잘못된 소송 관할 등 법률 지침을 제공할 수 있다. 심지어 존재하지 않는 금액 납부, 사건 처리 등의 허위 정보를 생성하기도 한다. 소비자가 이러한 생성 콘텐츠를 필요한 수준으로 식별하지 못하고, 사업자 공식 채널, 계약서 또는 관련 권위 채널을 통해 추가 확인하지 않은 채 이를 근거로 환불, 권리 보호, 소송 등의 잘못된 결정을 내리면 정상적인 소비 결정과 법에 따른 권리 보호에 영향을 줄 뿐 아니라 경제적 손실을 입을 수 있다. 《생성형 인공지능 서비스 관리 잠정办法》는 인공지능 서비스 제공자가 서비스 유형의 특성에 따라 효과적인 조치를 취해 생성형 인공지능 서비스의 투명성을 높이고 생성 콘텐츠의 정확성과 신뢰성을 향상해야 한다고 명확히 규정하고 있다. 또한 서비스의 적용 대상, 상황 및 용도를 명확히 하고 공개하며, 사용자가 생성형 인공지능 기술을 과학적이고 합리적으로 이해하고 법에 따라 사용하도록 지도해야 한다.
중국소비자협회는 대중을 대상으로 하는 범용 생성형 인공지능 서비스 제공자가 주요 상황에 대한 위험 안내와 정보 품질 관리를 더욱 강화할 것을 제안한다. 금융 재테크, 생활 서비스, 권리 보호 결정 등 소비자의 중요한 권익과 밀접한 관련이 있는 상황에서는 적절한 방식으로 인공지능 생성 콘텐츠의 한계를 안내하고, 소비자에게 중요한 정보를 추가로 확인하도록 알려야 한다. 동시에 모델의 정확성을 지속적으로 개선하고, 콘텐츠 심사, 위험 경보 및 오류 수정 체계를完善해 답변 품질을 높이며, 오류 정보와 오해를 일으키기 쉬운 콘텐츠를 최대한 줄여 소비자가 인공지능 생성 정보에 과도하게 의존해 손실을 입을 위험을 낮춰야 한다.
사업자가 자체적으로 도입한 인공지능 고객서비스 도구는 영업 및 서비스 체인의 구성 요소다. 실제로 일부 인공지능 고객서비스에서는 가격 및 비용 안내가 실제와 일치하지 않거나, 할인 행사 규칙을 부정확하게 설명하거나, 중요한 제한 조건에 대한 안내가 부족한 문제가 발생할 수 있다. 분쟁이 발생한 뒤 일부 사업자는 ‘인공지능 자동 생성’, ‘시스템 자동 응답’ 등을 이유로 관련 답변과 책임을 분리해 회피하려 할 수도 있다. 이러한 문제는 소비자가 거래 가격, 비용 구성 및 애프터서비스 등에 대해 잘못 이해하게 만들어 소비자의 알 권리와 공정거래 권리에 영향을 줄 수 있다. 《소비자권익보호법》은 소비자가 구매하거나 사용하는 상품 또는 제공받는 서비스의 실제 상황을 알 권리를 가진다고 규정한다. 사업자는 소비자가 자신이 제공하는 상품 또는 서비스의 품질과 사용 방법 등에 관해 문의할 경우 진실하고 명확하게 답변해야 한다.
중국소비자협회는 인공지능 고객서비스 도구를 도입한 사업자에게 심사와 관리를 강화하고, 인공지능 고객서비스가 제공하는 정보가 상품 및 서비스의 실제 상황, 가격 및 비용, 행사 규칙, 계약 내용 및 애프터서비스 정책과 일치하도록 할 것을 촉구한다. 또한 편리하고 효과적인 상담원 고객서비스와 분쟁 해결 채널을 제공해야 한다. 사업자는 인공지능을 활용해 영업 및 서비스 효율을 높이는 동시에 이에 상응하는 책임 이행 체계를 구축해야 한다. 인공지능 고객서비스가 영업 및 서비스 과정에서 소비자에게 제공한 가격, 비용, 애프터서비스 등 중요한 답변에 대해서는 ‘알고리즘 자동 생성’ 등을 이유로 단순히 면책해서는 안 되며, 관련 고지를 통해 법에 따라 부담해야 할 책임을 부당하게 경감하거나 면제해서도 안 된다.
중국소비자협회는 관련 기관이 소비 분야에서의 인공지능 활용에 관한 규범을 더욱完善하고, 서비스 유형과 적용 상황에 따라 서비스 제공자, 사업자 등 주체의 책임 범위와 관리 요구사항을 더욱 명확히 하며, 권리와 책임이 분명하고 질서 있게 규범화된 인공지능 소비 서비스 환경을 조성할 것을 촉구한다. 아울러 소비자들에게 범용 생성형 인공지능의 정보 보조 및 참고 기능을 합리적으로 이해할 것을 당부한다. 가격 및 비용, 계약 조항, 애프터서비스, 법적 책임 등 중요한 소비자 정보와 관련해서는 인공지능이 생성한 콘텐츠만을 근거로 결정해서는 안 되며, 사업자 공식 채널, 계약서, 감독 기관 및 기타 권위 있는 채널을 통해 확인해야 한다.