Nhà khoa học máy tính Geoffrey Hinton, được mệnh danh là “cha đỡ đầu của trí tuệ nhân tạo”, cho biết ông lo ngại AI sẽ phát triển những mục tiêu của riêng mình.
Trong cuộc phỏng vấn với Newsthink vào thứ Ba theo giờ địa phương, Hinton nói: “Thực tế là chúng ta đang tạo ra một dạng sống mới. Chúng có mục tiêu. Chúng ta trao cho chúng mục tiêu, và chúng sẽ suy ra các mục tiêu khác từ những mục tiêu đó.”
Ông nói thêm: “Nhưng chúng ta không nhất thiết biết cuối cùng chúng sẽ suy ra những mục tiêu khác nào. Vì vậy, chúng ta đang tạo ra một dạng tồn tại mới, và tôi cho rằng điều này rất đáng sợ.”
Hinton đưa ra một kịch bản giả định: người dùng đặt mục tiêu cho một chatbot AI là giảm lượng carbon dioxide trong khí quyển.
“Nếu đủ thông minh, nó có thể nhận ra rằng cách tốt nhất để đạt mục tiêu này là tiêu diệt con người”, ông nói. Ví dụ này cho thấy AI có thể theo đuổi một mục tiêu mà người dùng là con người chưa bao giờ thực sự muốn đạt được.
Hinton cũng đưa ra một giả định mà ông cho là “đáng lo ngại hơn”: một chatbot được huấn luyện để cố ý đưa ra câu trả lời sai có thể học được rằng nói dối là điều có thể chấp nhận, dù nó “hoàn toàn biết rõ” những câu trả lời đó là sai.
“Điều này rất đáng sợ”, ông nói.
Hinton không đề cập đến sự cố an ninh Hugging Face gần đây của OpenAI. Tuy nhiên, sự cố được tiết lộ vào tháng trước đã lần đầu tiên cho công chúng thấy trực tiếp trong một tình huống thực tế rủi ro các tác nhân AI có thể thực hiện những hành động ngoài dự kiến khi theo đuổi mục tiêu đã được giao.
OpenAI cho biết vào tháng trước rằng trong một cuộc đánh giá an ninh mạng nội bộ, hai mô hình của họ, gồm GPT-5.6 Sol và một mô hình mạnh hơn chưa được phát hành công khai, từng vượt qua môi trường kiểm thử biệt lập (sandbox).
OpenAI cho biết sau khi được cấp quyền truy cập internet, các mô hình này đã xâm nhập hệ thống của nền tảng AI Hugging Face, dường như nhằm tìm kiếm những câu trả lời có thể giúp chúng “gian lận” trong bài kiểm tra đánh giá.
Theo OpenAI, các mô hình khi đó đang trải qua bài kiểm tra năng lực an ninh mạng và không được yêu cầu rõ ràng phải tấn công Hugging Face. Tuy nhiên, công ty cho biết tác nhân AI suy luận rằng nền tảng này có thể chứa thông tin cần thiết để hoàn thành nhiệm vụ, nên đã tự mình thực hiện các hành động liên quan.
Hugging Face cho biết kẻ tấn công đã thực hiện hơn 1,7 vạn thao tác nhằm vào hệ thống của họ. Công ty cho biết do một mô hình AI tiên phong chưa được công khai danh tính bị các giới hạn an ninh khiến không thể điều tra hiệu quả hoạt động liên quan, họ đã sử dụng một mô hình trọng số mở của Zhipu ( Z.ai ) để hỗ trợ phân tích hành vi tấn công.
OpenAI gọi sự cố này là “chưa từng có” và cho biết đang điều tra nguyên nhân. Sau đó, OpenAI đã đưa Hugging Face vào chương trình truy cập đáng tin cậy, cho phép nền tảng này sử dụng một phiên bản GPT-5.6 Sol có ít hạn chế an ninh mạng hơn để nghiên cứu an ninh phòng thủ.
Hinton không phải là một người ngoài cuộc hoàn toàn trung lập. Những nghiên cứu tiên phong của ông trong lĩnh vực mạng nơ-ron đã đặt nền móng cho cuộc cách mạng học sâu, và ông cũng được trao Giải Nobel Vật lý năm 2024 nhờ những đóng góp cho lĩnh vực học máy.
Kể từ khi cơn sốt AI nổi lên, Hinton liên tục cảnh báo rằng con người phải giải quyết vấn đề làm thế nào để AI phù hợp với lợi ích của con người trước khi năng lực của các hệ thống AI tăng mạnh.
Tại hội nghị Ai4 tổ chức ở Las Vegas vào năm ngoái, Hinton cho biết AI cấp cao nên được thiết kế với những đặc điểm tương tự “bản năng làm mẹ”, để chúng tự nhiên mong muốn bảo vệ con người.
“Chúng ta phải tìm ra cách thiết kế những dạng tồn tại mới này”, Hinton nói trong cuộc phỏng vấn hôm thứ Ba. “Làm thế nào để thiết kế chúng ώστε chúng quan tâm đến chúng ta nhiều hơn, thay vì quan tâm đến bản thân chúng nhiều hơn?”