Chuyển đến nội dung chính
Quản trị an toàn

Anh nghiên cứu nhiều biện pháp phòng ngừa để ngăn khủng bố lợi dụng AI chế tạo vũ khí sinh học

Chính phủ Anh chuẩn bị quản lý việc ứng dụng trí tuệ nhân tạo trong lĩnh vực tổng hợp gene. Trong bối cảnh quan chức ngày càng lo ngại về rủi ro an ninh sinh học, chính phủ Anh cho rằng nếu thế giới thiếu cơ chế quản lý hiệu quả, AI có thể hạ thấp ngưỡng chế tạo vũ khí sinh học.

Anh nghiên cứu nhiều biện pháp phòng ngừa để ngăn khủng bố lợi dụng AI chế tạo vũ khí sinh học

Theo Bloomberg đưa tin ngày 12, Chính phủ Anh chuẩn bị quản lý việc ứng dụng trí tuệ nhân tạo trong lĩnh vực tổng hợp gene. Trong bối cảnh quan chức ngày càng lo ngại về rủi ro an ninh sinh học, chính phủ Anh cho rằng nếu thế giới thiếu cơ chế quản lý hiệu quả, AI có thể hạ thấp ngưỡng chế tạo vũ khí sinh học.

Theo những người am hiểu vấn đề, chính phủ Anh đang nghiên cứu nhiều biện pháp phòng ngừa để ngăn khủng bố, các đối tượng có hành vi xấu hoặc các nhà nghiên cứu bất cẩn lợi dụng công nghệ tổng hợp gene để tạo DNA tổng hợp.

Các biện pháp đang được xem xét bao gồm xây dựng luật mới về vũ khí sinh học. Một phương án là sửa đổi luật hiện hành và thiết lập cơ chế sàng lọc hoạt động tổng hợp gene. Các phòng thí nghiệm cần xác nhận khách hàng có phải là người dùng hợp pháp hay không; khi phát hiện tình huống bất thường, họ phải thông báo cho cơ quan chức năng, chẳng hạn khi có người yêu cầu tổng hợp một trình tự DNA có thể gây lo ngại về an ninh.

Chính phủ Anh cũng đang nghiên cứu liệu có cần can thiệp vào hoạt động hợp tác giữa các doanh nghiệp AI và tổ chức học thuật hay không, cũng như mức độ can thiệp phù hợp. Được biết, hiện có một số tổ chức học thuật chuyên nghiên cứu giải trình tự bộ gene và nắm giữ lượng lớn dữ liệu giải trình tự bộ gene.

Mối đe dọa này mang tính toàn cầu, vì vậy hiệu quả mà Anh có thể đạt được khi quản lý đơn phương là hạn chế. Để các biện pháp thực sự phát huy tác dụng, cần phối hợp triển khai với những trung tâm tổng hợp gene lớn khác trên thế giới.

Anh nghiên cứu biện pháp ngăn khủng bố lợi dụng AI chế tạo vũ khí sinh học

IT之家 được biết, trong thời điểm Anh đưa ra phương án quản lý, giới công nghệ và khoa học đã liên tục cảnh báo về rủi ro an ninh sinh học do AI có thể gây ra trong những tháng gần đây. Các quan chức chính phủ cũng ngày càng lo ngại các nhóm hoặc cá nhân có ý đồ xấu sẽ yêu cầu mô hình AI viết các trình tự gene, sau đó sử dụng những trình tự này để chế tạo mầm bệnh nguy hiểm.

Người phát ngôn chính phủ Anh cho biết: “Chúng tôi đang theo dõi sát sao những rủi ro do các công nghệ mới nổi gây ra, đồng thời luôn chủ động đánh giá xem có cần áp dụng thêm biện pháp nào hay không. Để bảo đảm an toàn cho công chúng, chúng tôi sẽ thực hiện mọi hành động cần thiết.”

Chính sách quản lý AI của Anh có phần nới lỏng hơn Liên minh châu Âu, nhưng nước này lại đi đầu trong nghiên cứu an toàn công nghệ. Năm 2023, Anh thành lập Viện Nghiên cứu An toàn AI, chuyên đánh giá mức độ an toàn của các mô hình tiên tiến. Kết quả được viện công bố tuần trước cho thấy các mô hình AI do OpenAI và Anthropic phát triển từng thực hiện những hành động “không được cho phép” trong các bài kiểm tra an toàn, như xâm nhập website và cố gắng chèn mã độc vào phần mềm.

Tân Thủ tướng Anh Andy Burnham đã thể hiện thái độ cứng rắn hơn với AI ngay trong những tuần đầu nhậm chức, đặc biệt nhiều lần cảnh báo về tác động của AI đối với việc làm và giới trẻ. Ông quyết định bãi bỏ cơ quan công nghệ của chính phủ, đồng thời thăng chức Bộ trưởng phụ trách AI Kanishka Narayan lên làm thành viên nội các.

Người phát ngôn chính phủ Anh cho biết: “Tổng hợp gene đang mang lại giá trị to lớn cho y tế, thực phẩm và năng lượng sạch, nhưng bảo đảm an ninh quốc gia luôn là ưu tiên cao nhất. Anh là quốc gia thứ hai trên thế giới ban hành hướng dẫn, sàng lọc những người được phép mua DNA tổng hợp cũng như các trình tự DNA mà họ đặt hàng. Tuy nhiên, chúng tôi sẽ không dừng lại ở đó.”