Theo Business Insider đưa tin hôm nay (ngày 6), Nvidia đang âm thầm thành lập một đội ngũ kỹ thuật mới chuyên về an toàn AI và an ninh mạng.
Một loạt tin tuyển dụng được đăng tập trung vào cuối tháng trước lần đầu tiết lộ sự tồn tại của đội ngũ này. Nvidia dự định tuyển một kỹ sư xuất sắc làm trưởng bộ phận kỹ thuật sáng lập của đội ngũ mới. Các vị trí khác gồm kỹ sư nghiên cứu an toàn, kỹ sư đánh giá và quản lý cấp cao. Đội ngũ này sẽ đánh giá mức độ an toàn của các tác nhân AI chưa được triển khai, đồng thời phát triển công cụ sử dụng AI để tự động sửa lỗ hổng phần mềm.
Báo cáo nhận định động thái này cho thấy, trong khi đặt cược vào các mô hình có trọng số mở và tác nhân AI, Nvidia cũng đang nâng an toàn AI lên vị trí quan trọng hơn. Các mô hình có trọng số mở công khai các tham số huấn luyện quyết định cách mô hình vận hành, nhưng dữ liệu huấn luyện và mã nguồn vẫn có thể được giữ kín.
Trong một tin tuyển dụng, Nvidia cho biết đội ngũ này theo đuổi một “niềm tin vững chắc”: các mô hình có trọng số mở, tính minh bạch về công nghệ và hoạt động thẩm định khoa học rộng rãi là nền tảng để Mỹ duy trì vị thế dẫn đầu về AI và tăng cường năng lực phòng thủ an ninh mạng.
Theo IT之家, trong những tháng gần đây, Nvidia ngày càng thường xuyên công khai ủng hộ các mô hình AI có trọng số mở, tạo ra sự tương phản rõ rệt với hướng phát triển mô hình khép kín mà các doanh nghiệp như OpenAI và Anthropic áp dụng.
Tháng trước, nhà sáng lập kiêm CEO Nvidia Jensen Huang lần đầu đăng bài trên nền tảng X, chia sẻ lại một bức thư ngỏ kêu gọi các nhà hoạch định chính sách Mỹ ủng hộ các mô hình mở. Ông chỉ ra rằng các mô hình mở có thể nâng cao mức độ an toàn của AI và tăng cường an ninh mạng.
Khi AI chuyển từ những chatbot chỉ có thể trò chuyện sang các tác nhân có khả năng đọc dữ liệu nhạy cảm của doanh nghiệp, gọi công cụ và thực hiện nhiệm vụ trong thế giới thực, liệu doanh nghiệp có thể tin tưởng các hệ thống AI hay không rất có thể sẽ trở thành yếu tố then chốt quyết định tốc độ phổ cập.