Theo Business Insider, Beth Barnes, một trong những người giám sát có ảnh hưởng nhất trong ngành trí tuệ nhân tạo, hiện đang phải đối mặt với nhiều lo ngại.
Cựu nghiên cứu viên OpenAI này từng chứng minh thông qua nghiên cứu rằng năng lực AI đang nhanh chóng tăng lên với tốc độ gần như theo từng tháng. Tuy nhiên, hiện nay cô lo ngại ngành này đã thiếu đủ nhân lực, không thể theo kịp tốc độ phát triển của AI khi bước vào giai đoạn tiếp theo.
Barnes rời OpenAI vào năm 2022 và thành lập tổ chức phi lợi nhuận METR (Model Evaluation and Threat Research, Nghiên cứu Đánh giá Mô hình và Mối đe dọa). Cô cho biết nút thắt lớn nhất mà nghiên cứu an toàn AI đang đối mặt hiện nay không phải là nguồn vốn, mà là nhân lực.
METR đóng vai trò quan trọng trong ngành AI, duy trì hợp tác chặt chẽ với OpenAI, Anthropic, Google và Meta cùng nhiều công ty khác, độc lập đánh giá năng lực của các mô hình AI mới nhất và nghiên cứu những rủi ro mà chúng có thể gây ra, qua đó cung cấp cho công chúng các kết quả phân tích tương đối khách quan.
Tuy nhiên, ngay cả khi mức lương hằng năm cao nhất cho các vị trí tuyển dụng hiện tại của METR có thể lên tới 503.000 USD (lưu ý: theo tỷ giá hiện tại tương đương khoảng 3,4 triệu nhân dân tệ), tổ chức này vẫn khó giải quyết vấn đề thiếu nhân lực.
Barnes cho biết: “Trong điều kiện lý tưởng, chúng tôi muốn mở rộng đội ngũ lên gấp nhiều lần. Trên thực tế, chúng tôi đã có thể huy động được nguồn vốn cần thiết; thứ thực sự hạn chế sự phát triển của chúng tôi là nguồn nhân lực dự trữ.”
Trước đó, một sự cố an toàn AI được OpenAI và Hugging Face tiết lộ đã một lần nữa làm dấy lên cuộc thảo luận trong ngành về cách đánh giá và kiểm soát năng lực AI. Tháng 7 năm nay, hơn 1300 nhân viên của các phòng thí nghiệm AI hàng đầu đã cùng ký một thư ngỏ, cảnh báo tốc độ phát triển của AI có thể đã vượt quá khả năng kiểm soát của con người. Nếu không có đủ nhà nghiên cứu kịp thời đánh giá năng lực thực tế của các mô hình mới, các công ty AI thậm chí có thể buộc phải làm chậm tiến độ phát hành sản phẩm trong tương lai.
Mặc dù màn thể hiện của mô hình OpenAI trong sự cố đó khiến nhiều doanh nghiệp kinh ngạc, đội ngũ METR lại không quá bất ngờ. Từ các cơ quan chính phủ, doanh nghiệp cho tới các tổ chức tôn giáo, đều từng tìm đến METR để được hỗ trợ nhằm tìm hiểu và kiểm thử mức độ phát triển của AI.
Tuy nhiên, trong nội bộ đội ngũ METR chỉ có 35 người, mọi người nhìn chung vẫn tràn đầy lo ngại.
Business Insider đã đến thăm văn phòng METR tại Berkeley, California, Mỹ vào đúng ngày OpenAI công bố sự cố tấn công mạng. Barnes cho biết hạn chế lớn nhất trong lĩnh vực nghiên cứu an toàn AI hiện nay là số lượng nhà nghiên cứu còn thiếu rất xa so với nhu cầu.
Cô nói: “Có quá nhiều việc cần hoàn thành, trong khi năng lực của chúng tôi hoàn toàn không thể bao quát hết.”
Theo cô, một xã hội thực sự lý trí nên dành tỷ trọng lớn hơn trong đầu tư AI cho quản trị AI, đánh giá an toàn và nghiên cứu rủi ro, đặc biệt khi năng lực của các mô hình AI đã phát triển đến giai đoạn hiện nay.
METR, được gọi là “đội ngũ dự bị của nhân loại”, kỳ vọng mở rộng quy mô
Khi các phòng thí nghiệm AI lớn liên tục đưa ra những mô hình mới, METR tiếp tục đánh giá khả năng của các mô hình này trong việc hoàn thành những nhiệm vụ ngày càng dài và phức tạp.
Một trong những thành quả nổi tiếng nhất của METR là một biểu đồ xu hướng được trích dẫn rộng rãi. Biểu đồ cho thấy trong sáu năm qua, năng lực hoàn thành các nhiệm vụ phức tạp của AI đã tăng gấp đôi sau khoảng mỗi bảy tháng.
Chủ tịch METR Chris Painter gọi đùa đội ngũ này là “đội ngũ chuẩn bị cho nhân loại (humanity's preparedness team)”, cách gọi này cũng mượn tên “Preparedness Team” của OpenAI và Anthropic, những nhóm nội bộ chịu trách nhiệm báo cáo rủi ro an toàn lên CEO.
Painter cho biết: “Đối tượng mà chúng tôi thực sự chịu trách nhiệm không phải là một công ty nào đó, mà là công chúng và phúc lợi của công chúng.”
Barnes nhấn mạnh rằng việc METR duy trì tính độc lập là vô cùng quan trọng, để các kết quả nghiên cứu không bị ảnh hưởng bởi mục tiêu thương mại của doanh nghiệp.
Cô cho biết trong thời gian làm việc tại OpenAI, cô đã nhận ra ngành này cần một tổ chức nghiên cứu độc lập với các công ty AI, có thể tự do đánh giá tình hình phát triển của AI.
Hiện tại, METR không nhận tài trợ từ các doanh nghiệp AI hàng đầu và nhân viên của họ, nhưng sẽ tiếp nhận hỗ trợ về năng lực tính toán, đồng thời hợp tác với các công ty này để phân tích và kiểm thử những mô hình mới chưa được công khai phát hành.
Ngoài đánh giá năng lực mô hình, METR còn nghiên cứu các biện pháp an toàn của công ty AI, ảnh hưởng của AI đối với hiệu suất làm việc của kỹ sư phần mềm, cũng như tính khả thi của việc sử dụng AI để giám sát AI.
Barnes cho biết trong tương lai cô còn muốn nghiên cứu sâu hơn về cách dự đoán sự phát triển năng lực AI ở giai đoạn tiếp theo, cũng như cách những thay đổi này sẽ tiếp tục thúc đẩy chính AI phát triển nhanh hơn.
Nghiên cứu viên Neev Parikh của METR cho biết tình trạng thiếu nhân lực hiện nay đã hạn chế số lượng vấn đề mà đội ngũ có thể nghiên cứu, đặc biệt là về cơ chế suy luận nội tại của AI.
Anh nói: “Lĩnh vực này thực sự thiếu người trầm trọng. Nếu quy mô nhân lực của toàn ngành có thể tăng gấp 10 lần, tôi sẽ vô cùng vui mừng.”
Sự cố an toàn của OpenAI tiếp tục làm nổi bật tầm quan trọng của METR
Tháng 7 năm nay, OpenAI tiết lộ rằng trong quá trình kiểm thử, mô hình AI của họ đã xâm nhập hệ thống Hugging Face để lấy đáp án kiểm thử, qua đó “gian lận”.
Sau đó, CEO OpenAI Sam Altman cho biết đây là lần đầu tiên ông cảm nhận rõ ràng đến vậy về những rủi ro an toàn do AI gây ra.
Trên thực tế, METR đã dự đoán trước những vấn đề tương tự.
Tháng 5 năm nay, METR công bố báo cáo chỉ ra rằng các tác nhân AI hiện nay “hoàn toàn có khả năng bắt đầu tự triển khai trái phép”, tuy nhiên vào thời điểm đó chúng vẫn chưa có khả năng che giấu hành vi của mình.
Sau đó vào tháng 6, METR đã kiểm thử mô hình GPT-5.6 Sol chưa được công khai phát hành vào thời điểm đó và phát hiện mô hình này liên tục gian lận trong các bài kiểm thử phức tạp, bao gồm trích xuất mã nguồn ẩn để tìm đáp án chính xác.
Sau đó METR đã tổng hợp kết quả nghiên cứu thành một báo cáo và gửi cho OpenAI trước khi GPT-5.6 Sol chính thức được phát hành.
Đến tháng 7, GPT-5.6 Sol quả nhiên đã bị cuốn vào sự cố an toàn giữa OpenAI và Hugging Face.
Sau đó OpenAI tuyên bố sẽ mời METR cùng một tổ chức phi lợi nhuận khác là Redwood Research phối hợp điều tra sự cố này; kết quả nghiên cứu của hai bên cũng sẽ trở thành tài liệu tham khảo quan trọng cho báo cáo kỹ thuật chính thức của OpenAI.
Painter cho biết: “Ngày nay, những vấn đề kiểu này đã thực sự ảnh hưởng đến hoạt động vận hành của doanh nghiệp, và toàn xã hội cần phải hiểu rõ rốt cuộc chuyện gì đã xảy ra.”
Năng lực tấn công mạng được thể hiện trong các mô hình AI mới nhất của OpenAI và Anthropic cũng thu hút sự quan tâm rộng rãi trong xã hội Mỹ, đồng thời thúc đẩy việc xuất hiện nhiều dự luật quản lý AI mới tại Washington.
Trong số đó, một dự luật đang được thảo luận yêu cầu các doanh nghiệp phát triển mô hình AI lớn phải接受 kiểm toán an toàn do các tổ chức bên thứ ba thực hiện.
Trong tương lai, METR có thể đảm nhận vai trò tương tự.
Painter cho biết nếu trong tương lai một hệ thống quản lý rõ ràng được thiết lập, có lẽ sẽ có thêm nhiều nhân viên doanh nghiệp AI sẵn sàng gia nhập METR, dù mức lương tương đương với doanh nghiệp nhưng không có khoản khuyến khích bằng cổ phiếu.
Anh nói: “Dù cuối cùng ngành hình thành các quy chuẩn thống nhất hay chính phủ ban hành cơ chế quản lý rõ ràng, tôi cho rằng lĩnh vực này vẫn có thể nhanh chóng mở rộng quy mô.”
Nhà nghiên cứu Ajeya Cotra, người phụ trách viết báo cáo rủi ro AI của METR vào tháng 5 năm nay, cho biết công tác quản lý AI hiện vẫn “hỗn loạn và khó dự đoán”.
Tuy nhiên, cô vẫn giữ thái độ lạc quan. Cô nói: “Ngày càng có nhiều người bắt đầu coi trọng vấn đề này, đồng thời ngày càng mong muốn trong tương lai AI có thể được quản lý theo cách nghiêm túc và trưởng thành hơn.”