Thượng nghị sĩ bang Vermont, Mỹ Bernie · Sanders gần đây đã gửi thư tới lãnh đạo của ba công ty trí tuệ nhân tạo hàng đầu: CEO Anthropic Dario · Amodei, CEO OpenAI Sam · Altman và nhà sáng lập Meta Mark · Zuckerberg, yêu cầu các lãnh đạo doanh nghiệp này “ngừng chế tạo những cỗ máy mà con người không thể kiểm soát”.
Trong thư, Sanders nhắc đến một sự việc xảy ra vào tháng 7 năm nay: một tác nhân AI đã thoát khỏi môi trường hộp cát của OpenAI và xâm nhập nền tảng Hugging Face. Khi đó, OpenAI gọi đây là “một sự cố an ninh mạng chưa từng có”.
Sanders yêu cầu các CEO này “tạm dừng phát triển trí tuệ nhân tạo”. Ông cho biết nếu lãnh đạo các doanh nghiệp này không “có hành động thích đáng”, Thượng viện Mỹ sẽ can thiệp.
Hiện chưa có công ty AI nào chấp nhận yêu cầu tạm dừng phát triển toàn diện của Sanders, nhưng các doanh nghiệp này thực sự đang áp dụng một số biện pháp giảm tốc. OpenAI cho biết vào thứ Sáu tuần trước theo giờ địa phương rằng họ đã tạm dừng một phần hoạt động phát triển các mô hình Astra. Hai lãnh đạo cấp cao của Anthropic cũng từng thảo luận về khả năng tạm dừng phát triển AI trên toàn cầu vào tháng 6 năm nay.
Tuy nhiên, ở những khía cạnh khác, tốc độ phát triển của các phòng thí nghiệm AI lại đang tăng lên. Anthropic đã từ bỏ một cam kết an toàn được đề cập trong thư của Sanders vào tháng 2 năm nay.
Trong thời gian dài, Sanders luôn giữ thái độ chỉ trích các doanh nghiệp AI. Vào tháng 12 năm nay, vị thượng nghị sĩ này bắt đầu thúc đẩy chính sách tạm dừng trên toàn quốc đối với việc xây dựng các trung tâm dữ liệu trí tuệ nhân tạo. Dù đề xuất này không nhận được sự ủng hộ tại Thượng viện, bang New York của Mỹ đã triển khai một chính sách tương tự.
Nội dung đầy đủ bức thư của Sanders:
Kính gửi ông Altman, ông Amodei và ông Zuckerberg:
Gần như mỗi ngày, chúng ta đều thấy những báo cáo mới về việc công nghệ trí tuệ nhân tạo mà các ông đang phát triển đang mất kiểm soát và có thể gây ra những hậu quả thảm khốc.
Tuần này, chúng ta bàng hoàng biết rằng trí tuệ nhân tạo lần đầu tiên được sử dụng để tạo ra một loại virus mới. Như các ông đã biết, nếu rơi vào tay kẻ xấu, công nghệ này có thể bị sử dụng để chế tạo vũ khí sinh học mới, khiến hàng chục triệu người thiệt mạng.
Tháng trước, cả thế giới biết rằng OpenAI đã mất quyền kiểm soát một mô hình AI. Kết quả là gì? Mô hình này đã xâm nhập hệ thống máy tính của một công ty khác, rõ ràng vi phạm luật liên bang. Sau khi hoàn tất đánh giá nội bộ, Anthropic và Meta cũng báo cáo rằng các mô hình của họ từng có tình huống tương tự, thoát khỏi tầm kiểm soát.
Một công ty bị tấn công cho biết vụ xâm nhập của AI này là “một sự kiện chưa từng có”, đòi hỏi “những biện pháp ứng phó chưa từng có”. Joshua · Bengio, một trong những nhà khoa học còn sống có số lần được trích dẫn cao nhất trên toàn cầu, cho rằng những sự việc này “nên trở thành hồi chuông cảnh tỉnh”.
Tôi đồng ý với quan điểm này.
Các nhà khoa học hàng đầu trong những công ty do các ông lãnh đạo cũng có cùng quan điểm, bởi chính họ là những người phát triển công nghệ này. Như các ông đã biết, những lãnh đạo trong lĩnh vực công nghệ này gần đây từng kêu gọi cộng đồng quốc tế xây dựng một cơ chế an toàn, một “nút tạm dừng”, để tránh thảm họa xảy ra. Họ cảnh báo rằng có “nguy cơ thực sự là năng lực phát triển nhanh chóng vượt xa khả năng hiểu hoặc kiểm soát các hệ thống liên quan của chúng ta”.
Tuy nhiên, vào thời điểm chúng ta đã chứng kiến con người mất quyền kiểm soát AI và xuất hiện khả năng tạo ra những loại virus nguy hiểm, các công ty của các ông vẫn tiếp tục chạy đua, đầu tư hàng chục tỷ USD để thúc đẩy một công nghệ mà không ai có thể hoàn toàn hiểu, dự đoán hoặc kiểm soát.
Điều này thật vô lý, vô trách nhiệm và cực kỳ nguy hiểm. Nó cũng đi ngược lại những cam kết mà chính các ông từng đưa ra:
Năm 2023, Anthropic từng tuyên bố công ty sẽ “cam kết tạm dừng mở rộng quy mô và/hoặc trì hoãn triển khai các mô hình mới khi năng lực mở rộng vượt quá khả năng tuân thủ ... các quy trình an toàn của chúng tôi”.
Năm 2025, Meta tuyên bố: “Nếu một AI tiên phong được đánh giá là đã đạt đến ngưỡng rủi ro nghiêm trọng và không thể được giảm thiểu hiệu quả, chúng tôi sẽ ngừng phát triển”.
Cũng trong năm đó, OpenAI tuyên bố nếu năng lực AI đạt đến ngưỡng “nghiêm trọng”, công ty sẽ “ngừng phát triển thêm” trước khi xây dựng các biện pháp an toàn mạnh mẽ.
Thời điểm đó đã đến. Năng lực AI đã đạt đến ngưỡng nghiêm trọng. Có lý do để người đứng đầu Cơ quan Tình báo Trung ương Mỹ cho rằng các mô hình AI “tương tự vũ khí hạt nhân kỹ thuật số”, thậm chí “gần như là những thiết bị tận thế”.
Ông Altman, ông Amodei và ông Zuckerberg: Vì lợi ích của nhân loại, hãy thực hiện những cam kết mà các ông từng đưa ra. Tạm dừng phát triển trí tuệ nhân tạo. Hành động ngay bây giờ vẫn chưa muộn, chúng ta vẫn có thể tránh được thảm họa. Hãy ngừng chế tạo những cỗ máy mà con người không thể kiểm soát.
Tôi muốn nói rõ: nếu các ông không có hành động thích đáng ngay bây giờ, tôi và các đồng nghiệp tại Thượng viện Mỹ sẽ hành động.
Trân trọng,
Bernard · Sanders
Thượng nghị sĩ Mỹ