외신 퓨처리즘은 오늘(12일) 스탠퍼드대학교 의과대학 의대생이자 기자인 시말 바자지와 존스홉킨스 메디슨센터 외상외과 의사이자 외과 집행 부책임자인 조지프 사클런이 의대생의 AI 사용으로 인한 문제가 이미 상당히 우려스러운 수준이라고 지적했다고 보도했다.
바자지와 사클런은 《가디언》에 게재한 글에서 의대생의 AI 사용으로 인한 위험은 단순한 기술 퇴화가 아니라, 처음부터 실제로 기술을 형성하지 못하는 것일 수 있다고 밝혔다. “추론하는 법을 잊은 의사는 다시 그 능력을 익힐 가능성이 있지만, 추론하는 법을 한 번도 배우지 못한 의사는 그러지 못할 수도 있다”고 설명했다.
바자지와 사클런은 최근 특히 우려스러운 발견이 두 가지 있다고 지적했다.
첫 번째는 내부 데이터에서 나온 결과다. 미국 의사의 약 3분의 2가 이미 임상의 전용 AI 챗봇 OpenEvidence를 사용하고 있으며, 이는 해당 기술이 의료 업무 흐름에 광범위하게 진입해 의료진의 일상 업무에 깊이 통합됐음을 보여준다.
두 번째는 《Nature Medicine》에 발표된 새로운 연구로, 연구진은 의료 전용 대규모 언어 모델의 신뢰성을 평가했다. 결과는 의외였다. 이러한 임상 AI 도구의 의료 질문 답변 성능이 오히려 ChatGPT와 Claude 같은 범용 챗봇보다 떨어진 것이다.
연구진은 전체적인 성능이 대체로 구글의 ‘AI 개요’와 비슷했다고 밝혔다. 앞서 AI 개요는 불안정한 성능과 부정확한 답변으로 악명을 얻은 바 있다.
AI 도구가 자료 검색을 도울 수 있더라도, 신뢰성 자체에 여전히 중대한 문제가 있다는 점은 차치하고 학습자가 직접 머리를 써서 생각하는 일을 대신할 수는 없다. 학습 과정에서는 어려운 사고 자체가 핵심이기 때문이다.
바자지와 사클런은 다음과 같이 썼다. “예를 들어 과거에는 훈련생에게 가능한 진단을 나열하도록 요구하면, 훈련생은 힘들게 생각한 끝에 불완전한 목록만 제시할 수도 있었고, 누락을 통해 배우며 때로는 진단을 빠뜨린 것에 당혹감을 느끼기도 했다. 이제 훈련생은 OpenEvidence에 묻기만 하면 자신이 전혀 고려하지 않았던 가능성까지 포함된 거의 완벽한 답을 바로 얻을 수 있으며, 진단을 빠뜨리는 데 따른 당혹감도 겪지 않는다.”
바자지와 사클런은 AI가 과거 의학 기술 발전과 다른 점은 의사가 볼 수 있는 범위를 넓히는 데 그치지 않고, 의학 교육이 본래 형성해야 할 인지 메커니즘에 개입한다는 데 있다고 썼다.
바자지와 사클런은 몇 가지 해결책을 제시했다. 그중 하나는 훈련생이 정기적으로 AI의 도움을 전혀 받지 않고 독립적으로 증례를 처리하도록 요구하는 것이다. 이는 미국 연방항공청이 조종사에게 정기적으로 자동조종장치를 끄고 항공기를 수동 조종하도록 권고하는 방식과 유사하다. 또 다른 강력한 제약은 어쩌면 ‘수치심’에서 비롯될 수도 있다.