Theo Futurism, một trang tin nước ngoài, đưa tin hôm nay (12), Simal Bajaj, sinh viên y khoa kiêm nhà báo tại Trường Y Stanford, và Joseph Sakran, bác sĩ phẫu thuật chấn thương kiêm Phó trưởng khoa phẫu thuật tại Trung tâm Y tế Johns Hopkins, cho rằng những vấn đề do sinh viên y khoa sử dụng AI gây ra đã trở nên rất đáng lo ngại.
Bajaj và Sakran viết trong một bài đăng trên The Guardian rằng mối nguy hiểm từ việc sinh viên y khoa sử dụng AI không chỉ là sự mai một kỹ năng, mà còn có thể là họ chưa từng thực sự hình thành kỹ năng ngay từ đầu. “Một bác sĩ đã quên cách suy luận vẫn có thể học lại năng lực này, nhưng một bác sĩ chưa bao giờ học cách suy luận có thể sẽ không làm được điều đó.”
Bajaj và Sakran chỉ ra rằng gần đây có hai phát hiện đặc biệt đáng lo ngại.
Phát hiện thứ nhất đến từ dữ liệu nội bộ. Khoảng hai phần ba bác sĩ tại Mỹ đã sử dụng chatbot AI OpenEvidence dành riêng cho bác sĩ lâm sàng, cho thấy công nghệ này đã được đưa rộng rãi vào quy trình chăm sóc y tế và thâm nhập sâu vào công việc hằng ngày của nhân viên y tế.
Phát hiện thứ hai là một nghiên cứu mới được công bố trên Nature Medicine, trong đó các nhà nghiên cứu đánh giá độ tin cậy của các mô hình ngôn ngữ lớn chuyên dụng cho y tế. Kết quả khá bất ngờ: hiệu suất trả lời câu hỏi y khoa của những công cụ AI lâm sàng này lại kém hơn các chatbot đa dụng như ChatGPT và Claude.
Các tác giả nghiên cứu cho biết hiệu suất tổng thể của những công cụ này gần tương đương với “AI Overviews” của Google. Trước đó, AI Overviews đã “nổi tiếng” vì hoạt động thiếu ổn định và đưa ra câu trả lời không chính xác.
Ngay cả khi các công cụ AI có thể hỗ trợ tìm kiếm tài liệu, chưa nói đến những vấn đề nghiêm trọng về độ tin cậy, chúng cũng không thể thay thế việc người học tự mình suy nghĩ. Bởi trong quá trình học tập, chính việc suy nghĩ khó khăn mới là trọng tâm.
Bajaj và Sakran viết: “Ví dụ, trước đây khi được yêu cầu liệt kê các chẩn đoán có thể xảy ra, học viên có thể phải vất vả suy nghĩ, cuối cùng vẫn chỉ đưa ra một danh sách chưa đầy đủ, rồi học hỏi từ những chẩn đoán bị bỏ sót và đôi khi còn cảm thấy bối rối vì điều đó. Giờ đây, học viên chỉ cần hỏi OpenEvidence là có thể nhận được ngay một câu trả lời gần như hoàn hảo, bao gồm cả những khả năng mà họ chưa từng nghĩ tới, đồng thời không phải trải qua sự lúng túng do bỏ sót chẩn đoán.”
Bajaj và Sakran viết rằng điểm khác biệt giữa AI và những tiến bộ công nghệ y khoa trước đây là AI không chỉ mở rộng phạm vi những gì bác sĩ có thể nhìn thấy, mà còn can thiệp vào các cơ chế nhận thức vốn cần được hình thành trong quá trình đào tạo y khoa.
Bajaj và Sakran đề xuất một số giải pháp. Một trong số đó là yêu cầu học viên định kỳ xử lý ca bệnh một cách độc lập hoàn toàn, không có sự hỗ trợ của AI. Cách tiếp cận này tương tự khuyến nghị của Cục Hàng không Liên bang Mỹ rằng phi công định kỳ tắt hệ thống lái tự động và điều khiển máy bay thủ công. Một biện pháp ràng buộc mạnh mẽ khác có lẽ đến từ “cảm giác xấu hổ”.