OpenAI는 이번 주 청소년용 ChatGPT를 출시했다. 이 서비스는 젊은 사용자를 대상으로 하며, 연령 인식 메커니즘을 통해 일부 기능을 제한한다.
이에 외신 Engadget은 여러 아동 안전 전문가를 인터뷰했다. 청소년용 ChatGPT에 대한 이들의 평가는 엇갈렸지만, 모두 부모와 청소년에게 추천하기 전에 이 시스템이 대규모 독립 테스트를 거쳐야 하며 OpenAI가 안전 메커니즘의 작동 방식을 더욱 투명하게 설명해야 한다고 지적했다.
가정에 엔터테인먼트 및 기술 제품 관련 조언을 제공하는 Common Sense Media의 AI·디지털 평가 책임자 로비 토니는 “OpenAI는 이번에 매우 중요한 약속을 했다. 하지만 이러한 안전 약속과 기능이 실제로 효과가 있다는 증거를 제시해야 한다”고 말했다.
아동 온라인 안전 단체 Fairplay의 전무이사 조시 골린은 더욱 강경한 태도를 보였다. 그는 “문서상으로 보면 OpenAI가 공개한 일부 조치는 분명 올바른 방향으로 나아가는 것처럼 보인다. 하지만 더 깊이 살펴보면 우려할 만한 부분이 여전히 많으며, 그중 하나가 책임 체계의 부재다. 소셜 미디어는 아동 보호 문제에서 기업을 그저 믿는 것만으로는 충분하지 않다는 사실을 이미 보여줬고, OpenAI에서도 같은 문제가 나타났다. 그 이전에도 OpenAI에는 자살, 폭력, 약물 남용 관련 콘텐츠 제한이 있었지만, 이러한 제한은 효과가 없거나 시간이 지나면서 점차 무력화됐다”고 말했다.
두 전문가는 OpenAI의 자동 연령 인식 시스템이 청소년을 안정적으로 식별하고 청소년용 ChatGPT로 전환할 수 있을지 의문을 제기했다. 토니는 “OpenAI는 이 시스템의 성능 데이터를 공개하지 않았기 때문에 오탐률과 누락률을 알 수 없다. 자동화 시스템이 ChatGPT를 사용하는 모든 청소년을 식별하는 것은 결코 불가능하다. OpenAI가 과거 일부 성인용 콘텐츠 기능 출시를 계획했을 때, 당시 보도됐지만 결국 출시되지 않은 이유 중 하나가 연령 추정 기술로 충분히 많은 청소년을 정확하게 식별할 수 없었기 때문이라는 점을 떠올려볼 필요가 있다”고 지적했다.
토니는 또한 청소년들이 거의 확실히 연령 인식을 우회하려 하고, 더욱 예상하기 어려운 회피 방법을 찾을 것이라고 봤다.
OpenAI가 내놓은 가장 구체적인 약속은 역설적으로 전문가들이 이행 가능성을 가장 의심하는 부분이기도 하다. OpenAI의 청소년·가정 업무 책임자 로런 조너스는 “표시된 모든 콘텐츠는 부모에게 알리기 전에 먼저 OpenAI 정규직 직원이 검토한다. 우리의 목표는 사용자가 프롬프트를 보낸 뒤 1시간 이내에 부모에게 알리는 것”이라고 밝힌 바 있다.
그녀는 이어 OpenAI가 표시된 모든 콘텐츠를 수동으로 검토하고 1시간 이내에 부모에게 알릴 수 있을 만큼 충분한 인력과 처리 역량을 갖추고 있다고 강조했다.
토니는 이에 대해 “이 과정 역시 자동화된 의사결정에 의존한다. 그렇다면 콘텐츠를 선별한 뒤 인간 검토자에게 넘기는 자동 분류기를 과연 신뢰할 수 있는가?”라고 반문했다.
골린도 “하루에 실제로 얼마나 많은 대화가 표시되고 검토되는지, 검토 담당자는 몇 명인지, 각 검토에 평균적으로 얼마나 시간이 걸리는지와 같은 구체적인 데이터를 보고 싶다. OpenAI가 충분한 인력을 확보하고 위험할 가능성이 있는 모든 대화를 세심하게 검토할 수 있다는 것은 상상하기 어렵다”고 말했다.
세 전문가는 또한 부모와 자녀가 직접 ChatGPT 계정을 연동해야 하는 방식이 이 기능의 실제 효과를 약화한다고 입을 모았다. 골린은 “대부분의 부모는 부모 감독 도구를 사용하지 않을 것이다. 그 이유 중 하나는 이러한 도구가 대개 찾기 어렵고 사용하기도 어렵게 설계되기 때문”이라고 지적했다.
그는 더 효과적인 방법은 기능을 기본적으로 활성화하고 제품 설계 단계에서부터 보호 장치를 적용하는 것이라고 봤다. “처음부터 가장 엄격한 보호 설정을 적용해야 한다. 예를 들어 사용 시간 제한을 기본값으로 설정한 뒤 부모가 변경 여부를 결정하게 하는 방식이다. 부모에게 책임을 떠넘겨 직접 제한을 설정하도록 요구해서는 안 된다”고 말했다.