Rich Sutton là một trong những người tiên phong về các công nghệ chủ chốt đứng sau làn sóng trí tuệ nhân tạo hiện nay. Tuy nhiên, ông cho rằng hướng đi mà các tập đoàn công nghệ đang lựa chọn để duy trì đà phát triển của AI có những vấn đề nghiêm trọng.
Nhà khoa học máy tính người Canada và chủ nhân Giải Turing cho biết trong tập podcast của Sequoia Capital phát hành vào thứ Ba theo giờ địa phương rằng ngành AI ngày càng phụ thuộc vào dữ liệu huấn luyện tổng hợp, điều này có thể đang đẩy toàn ngành đi sai hướng.
Khi được hỏi liệu việc sử dụng dữ liệu tổng hợp có thể giúp các mô hình ngôn ngữ lớn tiếp tục mở rộng hay không, Sutton thẳng thắn nói: “Đó chắc chắn là một sai lầm lớn. Có lẽ đây sẽ trở thành bài học quan trọng tiếp theo.”
Dữ liệu tổng hợp là thông tin do thuật toán hoặc mô hình AI tạo ra nhân tạo, thay vì được thu thập từ dữ liệu gốc trong thế giới thực. Khi các công ty AI không ngừng tìm kiếm dữ liệu huấn luyện trên internet và từ những nguồn mới khác, dữ liệu tổng hợp ngày càng trở nên hấp dẫn. Chẳng hạn, việc huấn luyện xe tự lái có thể sử dụng hình ảnh ô tô do máy tính tạo ra, còn hệ thống phát hiện gian lận bằng AI có thể sử dụng hồ sơ giao dịch ngân hàng hư cấu.
Ở một mức độ nào đó, các tập đoàn công nghệ cũng đồng tình với quan điểm của Sutton.
Các công ty công nghệ lớn đang tìm kiếm thêm dữ liệu thực bằng mọi giá. Trước đây, OpenAI từng công khai tìm kiếm các bộ dữ liệu quy mô lớn và độc quyền, với hy vọng có được những dữ liệu khó dễ dàng thu thập từ internet để huấn luyện mô hình AI. Đầu tuần này, Google đồng ý chi 10 triệu USD (lưu ý: theo tỷ giá hiện tại tương đương khoảng 67,569 triệu nhân dân tệ) để mua dữ liệu và phần mềm nội bộ của Spirit Airlines, hãng đã phá sản. Điều này cũng cho thấy giá trị của dữ liệu thực độc quyền đối với việc huấn luyện AI đang không ngừng tăng lên.
Trong podcast hôm thứ Ba, Sutton cho biết dữ liệu nhân tạo không thể thay thế đầy đủ dữ liệu thực.
Ông lấy hành vi của con người làm ví dụ minh họa. “Chúng ta không thể tạo ra dữ liệu tổng hợp về suy nghĩ của người khác,” ông nói.
Sutton thiên về việc sử dụng dữ liệu trải nghiệm thực tế, tức những thông tin mà tác nhân AI thu thập được thông qua tương tác với môi trường thực, quan sát những gì thực sự xảy ra và không ngừng học hỏi từ kết quả hành động.
“Bạn không thể dùng dữ liệu tổng hợp để dự đoán máy bay không người lái sẽ tương tác với môi trường như thế nào trong thế giới vật lý thực,” Sutton nói. Ông cũng chỉ ra rằng trong động cơ robot tồn tại những biến số như ma sát và hao mòn. “Thế giới này vô cùng phức tạp, mọi mô phỏng về nó cũng chỉ cho thấy một phần rất nhỏ.”
Ngày nay,理念 này đã trở thành định hướng phát triển của một công ty khởi nghiệp.
Tháng trước, Sutton cùng cựu sinh viên Khurram Javed đồng sáng lập Oak Lab. Công ty khởi nghiệp này đang phát triển các tác nhân AI có thể liên tục học hỏi từ trải nghiệm của chính mình, thay vì chủ yếu phụ thuộc vào những bộ dữ liệu khổng lồ được chuẩn bị sẵn.
Hiện Oak Lab chưa công bố thông tin về các vòng gọi vốn hoặc nhà đầu tư.