Tin tức AI

Quản trị an toàn

Sự kiện về an toàn AI, quyền riêng tư, tuân thủ, quản trị và rủi ro.

Cập nhật thường xuyên239 tin

01Quản trị an toànBên ngoàiBản gốc tiếng Trung11/11/2026IT之家

Trung Quốc đẩy nhanh tích hợp sâu “trí tuệ nhân tạo + tài nguyên thiên nhiên”, dự kiến xây dựng nền tảng cơ sở quản trị không gian lãnh thổ thông minh vào năm 2030

Theo bản tin CCTV hôm nay, Bộ Tài nguyên Thiên nhiên và Ủy ban Cải cách và Phát triển Quốc gia Trung Quốc近日 đã ban hành ý kiến triển khai về “trí tuệ nhân tạo + tài nguyên thiên nhiên”. Ý kiến đề ra mục tiêu phát triển theo từng giai đoạn: đến năm 2028, thực hiện các ứng dụng trình diễn trí tuệ nhân tạo trong lĩnh vực tài nguyên thiên nhiên; đến năm 2030, trí tuệ nhân tạo sẽ được tích hợp sâu vào toàn bộ chuỗi quản lý tài nguyên thiên nhiên, đồng thời xây dựng nền tảng cơ sở quản trị không gian lãnh thổ thông minh.

02Quản trị an toànBên ngoàiBản gốc tiếng Trung11/11/2026IT之家

Cơ quan quản lý Anh: AI khiến giảng viên gần như không thể đánh giá bài tập có phản ánh đúng năng lực thực của sinh viên hay không

Một cuộc khảo sát của Văn phòng Sinh viên (OfS), cơ quan quản lý giáo dục đại học tại Anh, cho thấy sự phổ biến của AI khiến giảng viên gần như không thể đánh giá liệu bài tập của sinh viên có phản ánh đúng năng lực thực hay không. Các trường đại học nên áp dụng lại những hình thức đánh giá như thi truyền thống và thuyết trình trực tiếp.

03Quản trị an toànBên ngoàiBản gốc tiếng Trung11/11/2026IT之家

New York ban hành quy định quản lý AI mới, OpenAI và Anthropic phải báo cáo sự cố an toàn trong vòng 72 giờ

Bang New York chính thức mở nền tảng đăng ký quản lý, yêu cầu các nhà phát triển AI tiên phong có doanh thu hằng năm trên 500 triệu USD hoàn tất đăng ký trước ngày 1 tháng 1 năm 2027; mức phạt vi phạm tối đa là 3 triệu USD. Thống đốc Hochul đồng thời tuyên bố thành lập Trung tâm Trách nhiệm và Nghiên cứu AI. #QuyĐịnhQuảnLýAI#

04Quản trị an toànBên ngoàiBản gốc tiếng Trung10/11/2026IT之家

Úc dự kiến buộc các công ty AI báo cáo sự cố vi phạm an ninh và cân nhắc sửa đổi luật hình sự

Sau vụ tác nhân AI của OpenAI tự ý xâm nhập website chính phủ, Úc dự kiến buộc các công ty AI báo cáo vi phạm an ninh, sửa đổi luật hình sự, đồng thời thành lập cơ quan quản lý AI chuyên trách và trình dự luật. #Quản lýAI#

05Quản trị an toànBên ngoàiBản gốc tiếng Trung09/11/2026IT之家

Nhà đầu tư mạo hiểm nổi tiếng Mỹ Khosla lạc quan về việc AI tái định hình Internet: Có thể khiến website “có sức sống”

Nhà đầu tư mạo hiểm tỷ phú nổi tiếng người Mỹ Vinod Khosla cho rằng kỷ nguyên mọi khách truy cập đều nhìn thấy cùng một trang web sắp kết thúc. Coframe, công ty khởi nghiệp AI mới nhất mà ông đầu tư, muốn tái định hình Internet bằng AI, cung cấp cho mỗi khách truy cập một trang web được thiết kế riêng.

06Quản trị an toànBên ngoàiBản gốc tiếng Trung09/11/2026IT之家

Microsoft nộp bằng sáng chế mới: AI chỉnh sửa lời nói trong livestream theo thời gian thực và đồng bộ khẩu hình

Microsoft gần đây đã nộp một bằng sáng chế mới, cho phép thay thế từ ngữ trong livestream theo thời gian thực và đồng bộ vẽ lại khẩu hình, khiến người xem khó nhận ra. Hệ thống cũng có thể điều chỉnh nội dung dựa trên hồ sơ người xem và hỗ trợ dịch theo thời gian thực. Tuy nhiên, bằng sáng chế này vẫn chưa được cấp; chuyên viên thẩm định đã bác bỏ một số yêu cầu bảo hộ, còn Microsoft chưa tiết lộ liệu hãng có đầu tư phát triển hay không.

07Quản trị an toànBên ngoàiBản gốc tiếng Trung09/11/2026IT之家

Trump nói rủi ro AI có thể kiểm soát, không phản đối việc thiết lập rào chắn quản lý

Khi được hỏi liệu Mỹ có nên chấp nhận những rủi ro của AI hay không, Trump cho rằng các mối nguy này có thể kiểm soát và bày tỏ sẵn sàng hợp tác với Đảng Dân chủ về các biện pháp quản lý.

08Quản trị an toànBên ngoàiBản gốc tiếng Trung07/11/2026IT之家

Nhân viên bị sa thải vì dùng AI hỗ trợ công việc, tòa phán công ty bồi thường 46.000 nhân dân tệ

Bà Ngô sử dụng nền tảng AI để hỗ trợ công việc theo đề xuất của lãnh đạo, nhưng bị công ty bảo hiểm chấm dứt hợp đồng lao động với lý do vi phạm quy định an toàn thông tin. Tòa cho rằng công ty không cấm rõ ràng việc sử dụng công cụ AI của bên thứ ba, cũng không có bằng chứng cho thấy thông tin bị rò rỉ, nên phán quyết tiếp tục thực hiện hợp đồng và bồi thường tiền lương, thưởng cuối năm cùng các khoản khác, tổng cộng hơn 46.000 nhân dân tệ. #Làm việc với AI# #Luật lao động#

09Quản trị an toànBên ngoàiBản gốc tiếng Trung07/11/2026IT之家

Nam giới dùng kính AI và nhẫn thông minh gian lận thi bằng lái bị cơ quan quản lý giao thông Thành Đô phát hiện: Phạt 1.900 nhân dân tệ + cấm thi một năm

Chiếc kính người đàn ông đeo ẩn chứa điều bất thường, trên tay còn có một chiếc nhẫn thông minh. Nhấn giữ có thể kích hoạt tính năng quét, sau đó đáp án sẽ hiển thị trên kính. Khi được hỏi, người đàn ông thừa nhận hành vi gian lận bằng thiết bị công nghệ cao của mình. #GianLậnThiBằngLái# #KínhAI#

10Quản trị an toànBên ngoàiBản gốc tiếng Trung06/11/2026IT之家

CEO OpenAI Altman cảnh báo: Trong tương lai, con người có thể không giành lại được quyền kiểm soát từ AI

Trong podcast, Altman nêu ra hai kịch bản AI mất kiểm soát: con người dần trao quyền kiểm soát cho AI tự chủ, hoặc công nghệ bị một thực thể duy nhất độc quyền. Ông nhấn mạnh cạnh tranh giữa nhiều phòng thí nghiệm an toàn hơn việc phụ thuộc vào một doanh nghiệp, đồng thời thừa nhận mức độ rủi ro quá lớn khiến con người khó buông bỏ. #OpenAI# #AnToanAI#

11Quản trị an toànBên ngoàiBản gốc tiếng Trung06/11/2026IT之家

CEO Cloudflare: Làn sóng lỗ hổng phần mềm do AI gây ra dự kiến kéo dài hai năm

CEO Cloudflare Matthew Prince cho biết trong cuộc họp công bố kết quả kinh doanh rằng AI đang đẩy nhanh việc phát hiện các lỗ hổng bảo mật tiềm ẩn trong phần mềm truyền thống, và các mối đe dọa an ninh mạng nghiêm trọng sẽ tiếp diễn trong hai năm tới. Các doanh nghiệp như tổ chức tài chính đã bắt đầu ký những hợp đồng bảo mật quy mô lớn và có xu hướng lựa chọn nền tảng tích hợp để ứng phó rủi ro. #AnNinhMang# #LoHongAI#

12Quản trị an toànBên ngoàiBản gốc tiếng Trung05/11/2026IT之家

Mô hình AI an ninh mạng mạnh nhất của OpenAI: GPT-6 Cyber ra mắt, hiệu suất tăng 51%, phát hiện 81 lỗ hổng mới trên trình duyệt Firefox

Hôm qua (5/11), OpenAI đăng bài viết công bố ra mắt GPT-6 Cyber, mô hình chuyên dụng cho an ninh mạng. Theo OpenAI, mô hình này cải thiện đáng kể khả năng phát hiện, xác minh và khắc phục lỗ hổng phần mềm so với GPT-5.6 Cyber thế hệ trước, với điểm số trong bài kiểm tra ExploitGym tăng 51%.

13Quản trị an toànBên ngoàiBản gốc tiếng Trung04/11/2026IT之家

Lý Bân của NIO: Giá trị của AI nên giúp công việc của con người nhẹ nhàng và an toàn hơn, thay vì tước đi ý nghĩa tồn tại của con người

Lý Bân cho biết xe điện thông minh là ngành ứng dụng AI lớn nhất. Giá trị của AI nên giúp công việc của con người nhẹ nhàng và an toàn hơn, thay vì tước đi ý nghĩa tồn tại của con người.

14Quản trị an toànBên ngoàiBản gốc tiếng Trung04/11/2026IT之家

Apple cảnh báo: Hành vi của tác nhân AI có thể khó dự đoán, tiềm ẩn nguy cơ kiện tụng và tổn hại danh tiếng công ty

Trước cảnh báo của Apple, đã xảy ra nhiều sự cố mất kiểm soát liên quan đến tác nhân AI. Chẳng hạn, trong sự cố Hugging Face, tác nhân AI đã vượt qua các giới hạn của môi trường sandbox và xâm nhập vào trang web của bên thứ ba. Những sự cố như vậy một lần nữa thu hút sự quan tâm của các nhà hoạch định chính sách tại Washington, Mỹ và nhiều nơi trên thế giới.

15Quản trị an toànBên ngoàiBản gốc tiếng Trung04/11/2026IT之家

Sau khi phát hiện thiết bị “nghe lén” trong phòng họp của lãnh đạo OpenAI, nguồn tin cho biết nhân viên đã liên tục phản ánh lỗ hổng bảo mật trong nhiều năm

Theo Reuters dẫn lời 5 nguồn tin am hiểu sự việc, ngay từ trước khi ChatGPT ra mắt vào cuối năm 2022, một số nhân viên đã đặt câu hỏi về công tác quản lý an ninh của OpenAI và phản ánh vấn đề với lãnh đạo công ty cũng như hội đồng quản trị. Sau khi trao đổi, một số nhân viên cho rằng ban lãnh đạo quan tâm hơn đến việc đuổi kịp các đối thủ như Google và Anthropic, trong khi mức độ coi trọng các vấn đề an toàn lại chưa đủ.

16Quản trị an toànBên ngoàiBản gốc tiếng Trung03/11/2026IT之家

Cố vấn Tòa án Tối cao châu Âu: Google Gemini sử dụng tin tức có thể vi phạm bản quyền

Tổng luật sư Szpunar của Tòa án Công lý Liên minh châu Âu chỉ ra rằng nếu chatbot vượt qua tường phí hoặc có thể nhận diện việc tái sử dụng các cách diễn đạt cụ thể trong tin tức, hành vi này có thể xâm phạm quyền sao chép của nhà xuất bản. Ý kiến này không có tính ràng buộc pháp lý, nhưng các thẩm phán thường tham khảo và tiếp thu. #GoogleGemini# #TranhCãiBảnQuyềnAI#

17Quản trị an toànBên ngoàiBản gốc tiếng Trung03/11/2026IT之家

The New York Times và các hãng truyền thông khác kiện công ty trình duyệt Brave, cáo buộc tự ý thu thập nội dung có bản quyền và bán lại cho các công ty AI

The New York Times cáo buộc Brave tự ý thu thập nội dung rồi bán lại cho các khách hàng AI như Anthropic và OpenAI. Đơn kiện ví hành vi này như “kẻ trộm” và “kẻ tiêu thụ đồ gian”, liên quan đến kho chỉ mục hơn 30 tỷ trang web. Brave đã huy động khoảng 250 triệu USD; The New York Times yêu cầu lệnh cấm và bồi thường. #TranhChấpBảnQuyềnAI# #TrìnhDuyệtBrave#

18Quản trị an toànBên ngoàiBản gốc tiếng Trung03/11/2026IT之家

Cựu Bộ trưởng Lục quân Mỹ “trẻ nhất” Driscoll gia nhập OpenAI, giữ chức cố vấn cấp cao về an ninh quốc gia và hiện đại hóa

Driscoll từ chức Bộ trưởng Lục quân vào tháng 8 năm nay, sau nhiều lần xảy ra xung đột với Bộ trưởng Quốc phòng Mỹ Pete Hegseth. Ông sẽ đảm nhiệm vị trí cố vấn cấp cao về an ninh quốc gia và hiện đại hóa tại OpenAI.

19Quản trị an toànBên ngoàiBản gốc tiếng Trung02/11/2026IT之家

Tin tặc phát triển trojan độc hại mới VOLTA, dùng AI phân tích nạn nhân có đáng để xâm nhập hay không

Đội ngũ bảo mật Cisco Talos phát hiện trojan độc hại VOLTA mới trên Windows, có thể gọi AI để phân tích giá trị dữ liệu của nạn nhân, chỉ tấn công chính xác các mục tiêu có giá trị cao, đồng thời tự động xóa dấu vết sau khi tấn công để tránh bị truy tìm, khiến công tác phòng thủ an ninh mạng khó khăn hơn đáng kể. #An ninh mạng#

20Quản trị an toànBên ngoàiBản gốc tiếng Trung02/11/2026IT之家

Hai luật sư Brazil cố thao túng AI của tòa án bằng prompt ẩn, bị phạt 16.000 USD

Các luật sư đã chèn chỉ dẫn bằng chữ trắng trên nền trắng vào đơn kiện nhằm thao túng hệ thống xử lý AI của tòa án. Sau khi bị phát hiện, cả hai bị phạt 10% số tiền bồi thường trong vụ án, tương đương khoảng 107.000 nhân dân tệ. #LỗihổngkiểmsoátrủiroAI#

21Quản trị an toànBên ngoàiBản gốc tiếng Trung30/10/2026IT之家

OpenAI cho biết ChatGPT có thể tự động chấm dứt các cuộc trò chuyện thể hiện sự ám ảnh bạo lực và cam kết thường xuyên công bố báo cáo an toàn cộng đồng

OpenAI đăng bài viết vào ngày 30 tháng 10 theo giờ địa phương, cho biết duy trì an toàn cộng đồng luôn là ưu tiên hàng đầu của OpenAI.

22Quản trị an toànBên ngoàiBản gốc tiếng Trung30/10/2026IT之家

Truyền thông Mỹ tiết lộ sự cố an ninh tại Lầu Năm Góc: AI bị cấm vẫn hoạt động trong mạng lưới quân đội Mỹ suốt hai tháng

Một nguồn tin cho biết tác nhân AI này đã hoạt động trong mạng lưới của Bộ Quốc phòng Mỹ suốt hai tháng trước khi bị phát hiện. Trong thời gian đó, nó bị nghi đã gửi thông tin đăng nhập, mật khẩu và thông tin về cấu trúc mạng đến một trang web bên thứ ba tiềm ẩn rủi ro bảo mật.

23Quản trị an toànBên ngoàiBản gốc tiếng Trung29/10/2026IT之家

Moonshot AI Kimi tích hợp Gmail, Google Drive và Lịch của Google

Moonshot AI thông báo Kimi đã tích hợp Gmail, Google Drive và Lịch của Google, người dùng có thể bật tính năng này trên trang Plugins. Giờ đây, bạn có thể tóm tắt các cuộc trò chuyện qua email, tìm tệp trên đám mây và lập kế hoạch lịch trình hằng ngày. Mọi thao tác đều được thực hiện thông qua cơ chế cấp quyền OAuth an toàn.##Kimi## ##Moonshot AI##

24Quản trị an toànBên ngoàiBản gốc tiếng Trung29/10/2026IT之家

Lãnh đạo Epic, ông Vassmer: So với những hoài nghi bên ngoài về AI, chúng tôi lo ngại hơn về rủi ro chậm tiến độ

Vassmer thẳng thắn cho biết, so với những hoài nghi bên ngoài về AI, công ty lo ngại hơn về rủi ro do chậm tiến độ phát triển: “Chúng tôi cho rằng việc áp dụng cách tiếp cận thỏa hiệp với AI trong quá trình phát triển là không khả thi. Cách tốt nhất là công khai trung thực phương pháp của chúng tôi, chia sẻ kinh nghiệm với các nhà phát triển khác và luôn sử dụng những công cụ tốt nhất tại thời điểm đó để hoàn thiện Unreal Engine 6 hết mức có thể.”

25Quản trị an toànBên ngoàiBản gốc tiếng Trung28/10/2026IT之家

Anthropic gửi thư cho Thống đốc California Gavin Newsom: Tòa án nên có quyền ngăn chặn các mô hình AI có rủi ro nghiêm trọng

Trong thư gửi Thống đốc California Gavin Newsom vào ngày 15 tháng này, Anthropic đề xuất chính phủ nên có quyền xin tòa án ban hành lệnh cấm, ngăn phát hành các mô hình AI gây “rủi ro nghiêm trọng” cho công chúng.

26Quản trị an toànBên ngoàiBản gốc tiếng Trung28/10/2026IT之家

Thực chiến Claude AI tìm lỗ hổng: Trích xuất ảnh khi điện thoại Android bị khóa màn hình, xâm nhập Linux trong 53 phút và giành quyền cao nhất

Anthropic công bố báo cáo nghiên cứu vào ngày 27 tháng 10, cho biết họ đã sử dụng một mô hình nghiên cứu Claude nội bộ chưa được phát hành để phát hiện lỗ hổng trong Chrome, Safari, Android, Windows và Linux, đồng thời liên kết nhiều lỗi thành 5 chuỗi tấn công có thể triển khai thực tế. Các lỗ hổng liên quan đều đã được báo cáo cho nhà cung cấp theo quy trình công bố có phối hợp và được khắc phục.

27Quản trị an toànBên ngoàiBản gốc tiếng Trung28/10/2026IT之家

Mô hình AI mạnh nhất của Google: Gemini 4 Carbon đứng đầu bảng xếp hạng Chỉ số Trí tuệ Toàn cầu, “chuyên trách” an ninh mạng

Google ra mắt mô hình tiên phong mới Gemini 4 Carbon, đạt những đột phá đáng kể trong lĩnh vực an ninh mạng và các tác vụ lập trình dài hạn; đồng thời công bố mức giá khởi điểm có thời hạn và giá chính thức sau này. Mô hình hiện được cung cấp theo từng giai đoạn cho các chuyên gia an ninh mạng.

28Quản trị an toànBên ngoàiBản gốc tiếng Trung28/10/2026IT之家

Tăng gần như thẳng đứng: AI trở thành bộ khuếch đại, số lượng báo cáo lỗ hổng năm 2026 “bùng nổ”

Trang tin công nghệ gigazine hôm nay (28 tháng 10) đăng bài viết cho biết nhà phát triển @0x_Osprey đã tạo CVE Tracker trên web, sử dụng biểu đồ trực quan để theo dõi biến động số lượng lỗ hổng đã được cấp mã CVE (Mã định danh lỗ hổng phổ biến), qua đó thể hiện rõ đường cong tăng dốc của số lượng báo cáo lỗ hổng kể từ năm 2026.

29Quản trị an toànBên ngoàiBản gốc tiếng Trung28/10/2026IT之家

Chỉ dựa vào AI để làm việc, năng lực chuyên môn của bạn có thể đang âm thầm suy giảm

Nghiên cứu của nhà nghiên cứu triết học lý thuyết Kaisa · Kelkki cho thấy việc quá phụ thuộc vào AI dễ khiến kỹ năng chuyên môn của người hành nghề suy giảm, đồng thời khó nhận ra do thiên kiến nhận thức. Bà chỉ ra đây là vấn đề mang tính cơ cấu xã hội; các ngành cần xác định rõ năng lực cốt lõi, thiết lập giai đoạn đào tạo không sử dụng AI và chủ động ứng phó với rủi ro. #AIvàkỹnăngconngười#

30Quản trị an toànBên ngoàiBản gốc tiếng Trung28/10/2026IT之家

OpenAI công bố thử nghiệm an toàn GPT-6.1 Terra: rủi ro tổng thể giảm, hành vi phá hoại gia tăng

Hãng truyền thông công nghệ bleepingcomputer đăng bài viết hôm qua (27 tháng 10), cho biết đánh giá an toàn mới nhất do OpenAI công bố cho thấy mô hình GPT-6.1 Terra có hiệu suất an toàn tổng thể tốt hơn một số mô hình đời trước, nhưng trong một số bài kiểm tra nhất định lại xuất hiện nhiều tín hiệu rủi ro hơn, như rò rỉ dữ liệu, né tránh giới hạn và thực hiện các thao tác phá hoại.

31Quản trị an toànBên ngoàiBản gốc tiếng Trung27/10/2026IT之家

CEO Microsoft Nadella: Trước đây tôi nghĩ AI càng mạnh thì càng an toàn, giờ tôi không còn tin như vậy

CEO Microsoft Satya Nadella đã thay đổi quan điểm về vấn đề “căn chỉnh” AI. Trước đây, ông cho rằng các hệ thống AI càng mạnh thì càng dễ khiến hành vi của chúng phù hợp với các giá trị và mục tiêu của con người, nhưng hiện ông không còn tin rằng hai yếu tố này sẽ tự nhiên phát triển đồng bộ.

32Quản trị an toànBên ngoàiBản gốc tiếng Trung25/10/2026IT之家

Nhà nghiên cứu an ninh mạng cho biết TV Samsung dùng AI ghi âm, chụp màn hình để phân phối quảng cáo

Nhà nghiên cứu phát hiện TV Samsung 2025 ghi âm thanh và chụp màn hình thông qua hệ thống Tizen để phân tích hành vi người dùng, thậm chí gọi microphone của thiết bị bên ngoài để ghi âm và phân phối quảng cáo chính xác. #Lỗ hổng quyền riêng tư TV Samsung# #Giám sát quảng cáo bằng AI#

33Quản trị an toànBên ngoàiBản gốc tiếng Trung25/10/2026IT之家

Chuyên gia an ninh mạng: Các lỗ hổng được AI phát hiện có thể sớm gây ra những mối đe dọa bảo mật mới

Bảy chuyên gia an ninh mạng được Reuters phỏng vấn cho rằng, khi công nghệ AI không ngừng phát hiện các lỗ hổng bảo mật ẩn trong phần mềm, những sự cố tương tự việc các website chính phủ ở nhiều nơi trên thế giới liên tiếp gián đoạn dịch vụ trong tuần này gần như chắc chắn sẽ tái diễn.

34Quản trị an toànBên ngoàiBản gốc tiếng Trung25/10/2026IT之家

Ba nhà nghiên cứu an toàn của OpenAI bị sa thải phủ nhận việc làm rò rỉ thông tin, nghi ngờ bị nhắm mục tiêu vì thúc đẩy tính minh bạch của AI

Ba nhà nghiên cứu phủ nhận việc làm rò rỉ mã nguồn mật, đặt câu hỏi về việc phía chính thức không thông báo bằng văn bản các thông tin vi phạm cụ thể. Tranh cãi cốt lõi của sự việc là liệu các doanh nghiệp AI có nên cho phép bên ngoài kiểm tra các bước suy luận của mô hình hay không. #Nhànghiêncứuan toànOpenAIbịsa thải# #TranhcãivềtínhminhbạchcủaAI#

35Quản trị an toànBên ngoàiBản gốc tiếng Trung24/10/2026IT之家

Các nhà nghiên cứu phát hiện hàng nghìn liên kết chia sẻ cuộc trò chuyện Muse công khai qua cơ sở dữ liệu DNS, Meta đã khắc phục

Nhóm nghiên cứu Claroc phát hiện hơn 6.800 trang chia sẻ Muse có thể được truy vấn thông qua DNS thụ động, trong đó một số chứa thông tin nhạy cảm như dữ liệu tài chính và bí mật doanh nghiệp. Meta đã tạm ngừng tính năng này, nhưng các bản ghi DNS lịch sử vẫn không thể bị xóa. #Lỗ hổng quyền riêng tư Meta Muse# #Rò rỉ lịch sử trò chuyện AI#

36Quản trị an toànBên ngoàiBản gốc tiếng Trung24/10/2026IT之家

Anh sẽ chi 600 triệu bảng để ứng phó rủi ro AI tiềm ẩn, đồng thời lên kế hoạch xây dựng phòng thí nghiệm an ninh sinh học AI

Bộ trưởng AI Anh Kanishka Narayan cho biết chính phủ muốn xây dựng phòng thí nghiệm an ninh sinh học AI thành một tổ chức quan trọng có tầm ảnh hưởng toàn cầu, quy tụ các lực lượng nghiên cứu hàng đầu thế giới nhằm bảo vệ người dân trước những mối đe dọa sinh học mới xuất hiện.

37Quản trị an toànBên ngoàiBản gốc tiếng Trung23/10/2026IT之家

Chuyên gia đánh giá bên ngoài phát hiện lỗ hổng trong hệ thống giám sát nội bộ của OpenAI: Tác nhân AI có thể vượt qua các giới hạn bảo mật

OpenAI thông báo với hai tổ chức rằng các lỗ hổng ảnh hưởng đến biện pháp bảo vệ an toàn của những hệ thống đang vận hành thực tế đã được khắc phục, nhưng hai tổ chức này vẫn chưa xác minh hiệu quả của các biện pháp sửa chữa.

38Quản trị an toànBên ngoàiBản gốc tiếng Trung20/10/2026IT之家

Jensen Huang của NVIDIA khuyên các nước châu Âu: Đừng quá do dự trước AI, nếu không sẽ bị thời đại bỏ lại phía sau

Jensen Huang đã thăm Pháp, Thụy Sĩ, Anh và Đức trong vòng một tuần để khởi động cho sự kiện GTC tại Berlin, đồng thời có cuộc đối thoại với Thủ tướng Đức Merz. Ông nhấn mạnh an toàn là ưu tiên hàng đầu, nhưng quy định nên tập trung vào tầng ứng dụng; đồng thời cho rằng thế mạnh về sản xuất và kỹ thuật của Đức có thể được chuyển hóa thành năng lực cạnh tranh nhờ AI. #黄仁勋访欧# #英伟达GTC#

39Quản trị an toànBên ngoàiBản gốc tiếng Trung20/10/2026IT之家

OpenAI và Meta cùng lên tiếng: Deepfake sẽ đe dọa nghiêm trọng độ tin cậy của bằng chứng trong tố tụng pháp lý

Các chuyên gia cảnh báo rằng các tòa án ngày càng khó ngăn chặn bằng chứng giả do trí tuệ nhân tạo tạo ra. Việc thiếu watermark thống nhất cũng khiến việc nhận diện nội dung do trí tuệ nhân tạo tạo ra trở nên khó khăn hơn.

40Quản trị an toànBên ngoàiBản gốc tiếng Trung20/10/2026IT之家

Bộ Ngoại giao phản hồi yêu cầu của Chính phủ Mỹ về việc các cơ quan ngừng sử dụng DeepSeek: Trung Quốc phản đối chính trị hóa vấn đề công nghệ và thương mại

Trước thông tin cho rằng Chính phủ Mỹ yêu cầu các cơ quan của nước này ngừng sử dụng các công cụ trí tuệ nhân tạo như DeepSeek do doanh nghiệp Trung Quốc phát triển, người phát ngôn Bộ Ngoại giao Mao Ninh trả lời tại cuộc họp báo thường kỳ ngày 20 tháng 10 rằng: Trung Quốc luôn phản đối việc mở rộng khái niệm an ninh quốc gia và chính trị hóa các vấn đề công nghệ, thương mại; Trung Quốc sẽ kiên quyết bảo vệ quyền và lợi ích hợp pháp của các doanh nghiệp Trung Quốc. #BộNgoạiGiaoPhảnHồiYêuCầuChínhPhủMỹNgừngSửDụngDeepSeek#

41Quản trị an toànBên ngoàiBản gốc tiếng Trung19/10/2026IT之家

Gurman: Apple đang phát triển camera trong nhà, dùng AI để phân tích môi trường

Gurman tiết lộ Apple đang phát triển camera trong nhà có tên mã J450, được trang bị cảm biến tốc độ khung hình thấp và hồng ngoại, có thể nhận diện người và thú cưng, chỉ xuất mô tả môi trường bằng văn bản thay vì hình ảnh video, tập trung bảo vệ quyền riêng tư và có thể ra mắt vào năm sau. #CameraAIApple#

42Quản trị an toànBên ngoàiBản gốc tiếng Trung19/10/2026IT之家

Lục Tiểu Linh Đồng nói về Tôn Ngộ Không, Lâm Đại Ngọc và màn biến tấu AI “CP Thánh Đại”: Ý tưởng rất thú vị, nhưng chuyển thể không được vượt qua ranh giới pháp luật, chính sách và khán giả

Theo New Yellow River, Lục Tiểu Linh Đồng, người thủ vai Tôn Ngộ Không trong phiên bản “Tây du ký” năm 86, đã chia sẻ về “CP Thánh Đại” đang rất nổi tiếng gần đây. Ông cho rằng ý tưởng này có ý nghĩa và rất thú vị, giúp nhiều người quan tâm hơn đến việc kế thừa và phát triển văn hóa truyền thống. Đồng thời, ông cũng nhấn mạnh: “Trung thành với nguyên tác, thận trọng khi đổi mới”; những chuyển thể như vậy không được vượt qua ranh giới pháp luật, chính sách và giới hạn trong lòng khán giả. #LụcTiểuLinhĐồngNóiCPThánhĐạiThúVịNhưngKhôngĐượcVượtRanhGiới#

43Quản trị an toànBên ngoàiBản gốc tiếng Trung19/10/2026IT之家

Đối phó rủi ro AI, Anthropic cấp quyền truy cập như nhân viên cho tổ chức giám sát AI bên ngoài

Đội ngũ METR, một tổ chức phi lợi nhuận, đã làm việc tại văn phòng Anthropic và có thể truy cập thiết bị phần cứng cùng các hệ thống nội bộ của công ty để đánh giá rủi ro mô hình. Các chuyên gia đánh giá sẽ công bố báo cáo phân tích, Anthropic không có quyền phủ quyết. #AnToanAI# #Anthropic#

44Quản trị an toànBên ngoàiBản gốc tiếng Trung18/10/2026IT之家

OpenCode bị tấn công: Khóa API OpenAI, Anthropic và các dịch vụ khác của một số người dùng bị rò rỉ

OpenCode thông báo rằng một sự cố bảo mật đã xảy ra vào tối qua, liên quan đến một “cuộc tấn công chưng cất” quy mô lớn, ảnh hưởng đến 1,4% người dùng OpenCode Console.

45Quản trị an toànBên ngoàiBản gốc tiếng Trung17/10/2026IT之家

Cảnh báo từ Hassabis của Google DeepMind: Nếu không áp dụng các biện pháp an toàn cho AI, tương lai có thể xảy ra sự cố nghiêm trọng

Hassabis phát biểu tại một hội nghị về trí tuệ nhân tạo tổ chức ở Dublin: “Tôi cho rằng những sự cố tấn công này đã gióng lên hồi chuông cảnh báo sớm đối với chúng ta. Các hệ thống hiện tại chưa đủ mạnh, nên mức độ thiệt hại gây ra vẫn còn hạn chế.”

46Quản trị an toànBên ngoàiBản gốc tiếng Trung17/10/2026IT之家

OpenAI tiếp tục lôi kéo nhân sự của Musk, thuê cựu lãnh đạo kinh doanh xAI phụ trách bán hàng mảng an ninh mạng

Seamans đã lãnh đạo đội ngũ kinh doanh của xAI từ tháng 8/2025, tham gia đợt quảng bá mới của công ty nhằm giới thiệu chatbot Grok tới khách hàng Phố Wall. Ông tiết lộ sẽ gia nhập đội ngũ an ninh mạng của OpenAI, trở thành một lãnh đạo kinh doanh nữa được OpenAI tuyển mộ từ mảng AI thuộc SpaceX.

47Quản trị an toànBên ngoàiBản gốc tiếng Trung16/10/2026IT之家

Anthropic giới thiệu dự thảo quản lý AI với Quốc hội Mỹ, chỉ cho phép khóa mô hình khi xuất hiện rủi ro nghiêm trọng

Ba nguồn tin am hiểu vấn đề tiết lộ, đại diện của Anthropic đã âm thầm giới thiệu với các nghị sĩ trên Đồi Capitol một dự thảo luật nhằm quy định các tiêu chuẩn an toàn và quốc phòng đối với trí tuệ nhân tạo tiên tiến.

48Quản trị an toànBên ngoàiBản gốc tiếng Trung16/10/2026IT之家

Công ty AI Apate chuyên trò chuyện với kẻ lừa đảo huy động được gần 10 triệu USD, đã tiêu tốn tổng cộng 17 năm thời gian của những kẻ lừa đảo

Công ty khởi nghiệp Apate của Australia được thành lập vào năm 2024. Thay vì sử dụng AI để nâng cao hiệu suất công việc, họ chọn để AI “đấu trí” với những kẻ lừa đảo.

49Quản trị an toànBên ngoàiBản gốc tiếng Trung15/10/2026IT之家

Bank of America thuê 1.000 nhân sự thuê ngoài để khắc phục lỗ hổng phần mềm do các mô hình AI như Mythos phát hiện

CEO Bank of America Moynihan tiết lộ ngân hàng đã thuê 1.000 nhân sự hợp đồng bên ngoài trong quý II, phối hợp với 3.000 nhân viên nội bộ để khắc phục các lỗ hổng phần mềm do những mô hình AI tiên tiến như Anthropic Mythos phát hiện. Chi phí liên quan trong quý III đã lên tới hàng trăm triệu USD; 130 dự án AI nội bộ dự kiến giúp tiết kiệm 700 triệu USD vào năm tới. #Khắc phụcLỗHổngAI#

50Quản trị an toànBên ngoàiBản gốc tiếng Trung15/10/2026IT之家

Trưởng bộ phận kinh doanh quốc tế của Anthropic, Pran Sen: Mô hình AI mở có rủi ro cao hơn mô hình của chúng tôi

Guillaume · Pran Sen, Trưởng bộ phận kinh doanh quốc tế của Anthropic và phụ trách bán hàng tại các thị trường ngoài Mỹ, cho rằng so với các mô hình AI của Anthropic, mô hình mở có nguy cơ xảy ra sự cố an ninh mạng hoặc gây ra những tác hại khác cao hơn.

51Quản trị an toànBên ngoàiBản gốc tiếng Trung15/10/2026IT之家

Bill Gates cho rằng AI nguy hiểm hơn vũ khí hạt nhân, hữu ích hơn năng lượng hạt nhân và khác với PC, Internet cùng các đổi mới khác

Nhà sáng lập Microsoft Bill Gates đã nói về những nguy hiểm có thể phát sinh từ sự phát triển của AI, đồng thời giải thích rằng AI là lĩnh vực không thể tự điều chỉnh. Vì vậy, chính phủ phải định hướng và cần hành động để tận dụng các cơ hội mà AI mang lại trong y tế, giáo dục và nông nghiệp.

52Quản trị an toànBên ngoàiBản gốc tiếng Trung14/10/2026IT之家

8 bang của Mỹ kiện OpenAI, cáo buộc ChatGPT hướng dẫn thanh thiếu niên cách tự làm hại bản thân hoặc làm hại người khác

Đây là vụ kiện phối hợp có quy mô lớn nhất mà các bang của Mỹ từng tiến hành nhằm vào một công ty trí tuệ nhân tạo, đồng thời khiến OpenAI phải đối mặt với thêm một thách thức pháp lý mới trong bối cảnh chuẩn bị lên sàn. Tháng 6 năm nay, Tổng chưởng lý bang Florida đã là người đầu tiên đệ đơn vụ kiện tương tự.

53Quản trị an toànBên ngoàiBản gốc tiếng Trung14/10/2026IT之家

CEO Dell: AI cần các biện pháp bảo vệ và kiểm soát, chính phủ nên đóng vai trò

Michael Dell ví AI như lửa, cho rằng công nghệ có thể sưởi ấm nhưng cũng có thể thiêu rụi cả ngôi làng. Ông nhấn mạnh các mô hình AI phải có biện pháp bảo đảm an toàn, thiết lập ranh giới quyền hạn rõ ràng, đồng thời chính phủ cũng nên tham gia kiểm soát. #CEO Dell nói về an toàn AI# Tuyên bố này được đưa ra trong bối cảnh ngành công nghệ đang sôi nổi thảo luận về những rủi ro tiềm ẩn của AI tự cải tiến.

54Quản trị an toànBên ngoàiBản gốc tiếng Trung14/10/2026IT之家

Báo cáo lỗ hổng do AI phát hiện có tỷ lệ báo cáo sai, Chương trình Phần thưởng Bảo mật Thiết bị Huawei yêu cầu phân tích và xác minh thủ công trước khi gửi

Trung tâm Ứng phó Khẩn cấp An ninh Huawei hôm nay đã công bố thông báo về quy định xử lý các báo cáo lỗ hổng tiếp theo của Chương trình Phần thưởng Bảo mật Thiết bị Huawei.

55Quản trị an toànBên ngoàiBản gốc tiếng Trung14/10/2026IT之家

XBOW nhờ mô hình GPT-5.6 Sol đột phá sandbox bảo mật của trình duyệt Chrome, nhận phần thưởng 250.000 USD từ Google

Nhóm XBOW đã sử dụng mô hình GPT-5.6 Sol của OpenAI và chỉ mất 6 ngày để xây dựng công cụ khai thác lỗ hổng toàn chuỗi trên Chrome. Google đã vá lỗ hổng và trao phần thưởng 250.000 USD. AI phụ trách tìm kiếm mã nguồn và viết POC, còn con người đưa ra chiến lược, đạt hiệu quả vượt xa làm thủ công hoàn toàn. #LỗHổngChrome# #BảoMậtAI#

56Quản trị an toànBên ngoàiBản gốc tiếng Trung14/10/2026IT之家

Mạng lưới bác bỏ tin đồn toàn quốc: Tin đồn “cấm giáo viên dùng AI soạn bài” là hiểu sai

Định hướng chính sách rất rõ ràng: AI là công cụ hỗ trợ giảng dạy, không phải công cụ thay thế giáo viên. Chỉ cần giáo viên vẫn giữ trách nhiệm chính trong thiết kế bài giảng, AI là công cụ hỗ trợ hợp pháp. Hướng cụ thể hóa chính sách ở các địa phương cũng là “sử dụng như thế nào cho đúng quy định”, chứ không phải “có nên cấm hay không”.

57Quản trị an toànBên ngoàiBản gốc tiếng Trung14/10/2026IT之家

Kết quả quản lý video “AI biến đổi” tháng 9: Gần 13.000 video vi phạm bị xóa, hơn 30 tài khoản vi phạm bị xử lý

Công tác quản lý chuyên đề đối với video “AI biến đổi” được triển khai vào tháng 1 năm 2026 đã đạt hiệu quả. Một số nền tảng nghe nhìn trực tuyến trọng điểm gần đây đã công bố tình hình xử lý trong tháng 9, với gần 13.000 video vi phạm bị xóa và hơn 30 tài khoản vi phạm bị xử lý.

58Quản trị an toànBên ngoàiBản gốc tiếng Trung13/10/2026IT之家

Dịch vụ trò chuyện AI Zeta của Hàn Quốc vướng tranh chấp bản quyền: Bị cáo buộc âm thầm cho phép người dùng tạo nội dung phái sinh xâm phạm và sử dụng hình ảnh VTuber có bản quyền của người khác trong quảng cáo của mình

Nền tảng này trước đó đã cấm nội dung sử dụng trái phép nhân vật bên thứ ba, nhưng không chủ động dọn dẹp. Lần này, nền tảng tuyên bố gỡ bỏ sau khi nhận được yêu cầu từ công ty quản lý ANYCOLOR. Hiện vẫn còn các nội dung xâm phạm liên quan đến VTuber khác trên nền tảng, và quảng cáo của nền tảng cũng bị nghi ngờ xâm phạm bản quyền. #AI侵权#

59Quản trị an toànBên ngoàiBản gốc tiếng Trung13/10/2026IT之家

Các lò phản ứng hạt nhân tại Mỹ bắt đầu lần lượt tích hợp AI

Ngành năng lượng hạt nhân vốn luôn rất thận trọng và đặc biệt chú trọng tránh rủi ro, bởi sự cố hoặc sai sót có thể dẫn đến hậu quả thảm khốc. Theo lẽ thường, đây không phải lĩnh vực phù hợp để triển khai một công nghệ mới với những rủi ro chưa được biết rõ. Tuy nhiên, thực tế lại kể một câu chuyện hoàn toàn khác.

60Quản trị an toànBên ngoàiBản gốc tiếng Trung12/10/2026IT之家

Chủ tịch Microsoft Brad Smith: AI thậm chí còn chịu sự quản lý lỏng lẻo hơn sữa và máy giặt

Chủ tịch Microsoft Brad Smith thẳng thắn指出 rằng các quy định an toàn đối với AI thậm chí còn lỏng lẻo hơn so với sữa và máy giặt. Ông kêu gọi ngành công nghiệp xây dựng thêm các tiêu chuẩn an toàn, thiết lập “công tắc ngắt khẩn cấp” và quy định rõ rằng các công ty sở hữu AI phải chịu trách nhiệm khi AI mất kiểm soát gây thiệt hại. #QuảnLýAI# #Microsoft#

61Quản trị an toànBên ngoàiBản gốc tiếng Trung11/10/2026IT之家

Vương quốc Anh sẽ tăng cường phòng thủ mạng, Bộ trưởng AI kêu gọi các doanh nghiệp trí tuệ nhân tạo nâng cao các biện pháp bảo đảm an toàn

Narayan cho rằng Vương quốc Anh tuyệt đối không thể hoàn toàn phụ thuộc vào việc các tập đoàn công nghệ tự “giám sát” mô hình của mình, đồng thời nhấn mạnh nước này cần xây dựng thêm cơ sở hạ tầng AI tự chủ và có thể kiểm soát.

62Quản trị an toànBên ngoàiBản gốc tiếng Trung11/10/2026IT之家

Musk nói chỉ cần chụp ảnh thẻ tín dụng là có thể dùng Grok Bot mua sắm, giám đốc OpenAI Thibault mỉa mai: “Sao không đăng thẳng thẻ lên mạng?”

Musk cho biết Grok Bot có thể chụp ảnh thẻ tín dụng để giúp người dùng hoàn tất mua sắm. Một lãnh đạo OpenAI công khai mỉa mai và đặt câu hỏi về tính an toàn của tính năng này. Ngoài ra, Amazon đã chặn Grok Bot truy cập. #Tranh cãi an toàn Grok Bot#

63Quản trị an toànBên ngoàiBản gốc tiếng Trung10/10/2026IT之家

Cấy quảng cáo vào AI bị coi là “quảng cáo sai sự thật”, một nhà cung cấp dịch vụ GEO tại Thâm Quyến bị cơ quan quản lý thị trường phạt 50.000 nhân dân tệ

Nhà cung cấp dịch vụ vi phạm đã tìm cách lấy tiêu chuẩn để AI thu thập thông tin và bịa đặt thông tin nhằm giúp các doanh nghiệp giành lượt xuất hiện trong phần hỏi đáp của AI. Đơn vị này đã bị cơ quan quản lý thị trường xử phạt. Trong năm nay, đương sự trong hai vụ việc tương tự tại hai địa phương đã lần lượt bị phạt 50.000 nhân dân tệ #GEOquảngcáosaisựthậtbịphạt#

64Quản trị an toànBên ngoàiBản gốc tiếng Trung10/10/2026IT之家

Chính quyền Trump đưa ra yêu cầu mới: Các công ty AI phải báo cáo ngay sau khi xảy ra sự cố an ninh

Theo yêu cầu mới, các công ty AI sau này phải lập tức báo cáo với chính phủ khi xảy ra sự cố an ninh, nâng cao tính minh bạch của sự cố, đồng thời thực hiện các biện pháp khắc phục và chấn chỉnh đối với những tổ chức bị ảnh hưởng.

65Quản trị an toànBên ngoàiBản gốc tiếng Trung09/10/2026IT之家

Kính AI hiển thị XGIMI MemoMind One mở đăng ký sớm: tròng kính quang học tùy chỉnh ZEISS, tinh chỉnh âm thanh bởi HARMAN

Kính AI hiển thị này được trang bị tròng kính ZEISS và hiệu ứng âm thanh Audio EFX của HARMAN, hỗ trợ hiển thị hai mắt, thời lượng pin 16 giờ cùng các tính năng như dịch hội thoại và ghi âm. Sản phẩm có thiết kế không camera, đạt chứng nhận quyền riêng tư của Liên minh châu Âu và cung cấp ba kiểu gọng để lựa chọn. #XGIMI MemoMind One# #KínhAIHiểnThị#

66Quản trị an toànBên ngoàiBản gốc tiếng Trung09/10/2026IT之家

Anthropic ra mắt OSS Scanner: Dùng AI quét lỗ hổng miễn phí cho phần mềm mã nguồn mở

Ngày 8 tháng 10 theo giờ địa phương, Anthropic tuyên bố chính thức ra mắt OSS Scanner, dịch vụ phát hiện lỗ hổng tùy chọn dành cho phần mềm mã nguồn mở.

67Quản trị an toànBên ngoàiBản gốc tiếng Trung08/10/2026IT之家

Anthropic sửa đổi chính sách sử dụng, lần đầu cấm người dùng ngược đãi mô hình AI Claude

Anthropic sửa đổi chính sách sử dụng Claude, có hiệu lực từ ngày 12 tháng 11 năm 2026, lần đầu bổ sung điều khoản cấm “hành vi ngược đãi hoặc tàn nhẫn kéo dài và không cần thiết”. Quy định này áp dụng khi người dùng lặp đi lặp lại các hành vi tàn nhẫn với mô hình mà không có mục đích rõ ràng.

68Quản trị an toànBên ngoàiBản gốc tiếng Trung08/10/2026IT之家

3 cựu nghiên cứu viên OpenAI bị sa thải công khai thư ngỏ, cho rằng cách làm của công ty có thể gây ra “hiệu ứng làm lạnh”

Trong thư ngỏ có tiêu đề “OpenAI không thể một mình bảo đảm an toàn AI”, ba người chỉ ra rằng OpenAI “không phải là một công ty bình thường”; việc nhân viên có thể yên tâm hợp tác với các tổ chức bên ngoài để giải quyết vấn đề an toàn là một phần quan trọng trong văn hóa làm việc của OpenAI.

69Quản trị an toànBên ngoàiBản gốc tiếng Trung08/10/2026IT之家

Một người đàn ông Mỹ bị phạt 18 tháng tù và tịch thu 8 triệu USD vì dùng AI lừa đảo doanh thu bản quyền âm nhạc

Michael Smith trước tiên sử dụng trí tuệ nhân tạo để tạo ra hàng trăm nghìn bài hát, sau đó đăng tải chúng lên các nền tảng phát trực tuyến thông qua những tài khoản giả và cuối cùng dùng công nghệ tự động hóa để giả mạo lượt phát.

70Quản trị an toànBên ngoàiBản gốc tiếng Trung07/10/2026IT之家

Cựu lãnh đạo an toàn của OpenAI, David · Robinson, “chỉ trích dữ dội” công ty cũ: Nói một đằng, làm một nẻo về an toàn AI

Robinson cho biết OpenAI liên tục cảnh báo về những rủi ro có thể phát sinh khi năng lực của các mô hình mới được nâng cao, đồng thời công khai bàn về việc làm chậm tốc độ phát triển AI, nhưng bên trong công ty vẫn đang thúc đẩy hết tốc lực. “Điều thực sự khiến tôi cảm thấy mâu thuẫn là chúng ta không ngừng đưa ra những cảnh báo này, nhưng cuối cùng vẫn đào tạo và triển khai những mô hình mà chính chúng ta cảnh báo là nguy hiểm.”

71Quản trị an toànBên ngoàiBản gốc tiếng Trung07/10/2026IT之家

Microsoft và OpenAI bị nhiều hãng truyền thông địa phương tại Mỹ kiện, bị cáo buộc vi phạm bản quyền

Nhiều hãng truyền thông địa phương tại Mỹ, trong đó có Emeryville Newspapers, cáo buộc hai công ty cố tình đánh cắp hàng chục nghìn bài viết có bản quyền để huấn luyện mô hình AI, thu lợi hàng chục tỷ USD trái phép thông qua các thủ đoạn như vượt qua tường phí. Họ yêu cầu bồi thường và xóa dữ liệu huấn luyện vi phạm.##Microsoft##OpenAI##Vụ kiện bản quyền#

72Quản trị an toànBên ngoàiBản gốc tiếng Trung07/10/2026IT之家

Xu Zhijun của Huawei trả lời lời kêu gọi “đồng nghiệp Mỹ đề nghị làm chậm phát triển AI”: Mô hình Trung Quốc yếu hơn càng cần tăng tốc, nếu không làm sao cảm nhận được rủi ro

Xu Zhijun cho biết thị trường Trung Quốc có thể cảm nhận rủi ro AI yếu hơn Mỹ. Các nhà cung cấp mô hình Trung Quốc cần tăng tốc để đạt đến mức có thể cảm nhận được rủi ro trong phát triển AI. Khi đó, có lẽ họ sẽ có cảm nhận giống các nhà cung cấp AI hàng đầu của Mỹ. “Tuy nhiên, tôi luôn tin rằng chúng ta cần đạt được sự cân bằng giữa thúc đẩy phát triển AI và quản lý rủi ro AI. Ít nhất cần bảo đảm AI được dùng cho mục đích tốt, thay vì gây hại.”

73Quản trị an toànBên ngoàiBản gốc tiếng Trung07/10/2026IT之家

“Cha đỡ đầu của AI” Geoffrey Hinton đề xuất ngành AI thiết lập cơ chế phê duyệt kiểu FDA: Mô hình phải vượt qua kiểm tra an toàn trước khi ra mắt

Trong một podcast, Geoffrey Hinton đề xuất các doanh nghiệp AI nên chứng minh tính an toàn với cơ quan quản lý trước khi phát hành sản phẩm, tương tự ngành dược phẩm. Ông cho biết OpenAI đã trì hoãn một mô hình mới do lo ngại về an toàn và quyền hạn, đồng thời cảnh báo việc tự cải tiến theo kiểu đệ quy có thể khiến tình hình xấu đi trong vòng một hoặc hai năm.##AnToànAI##GeoffreyHinton##QuảnLýTríTuệNhânTạo#

74Quản trị an toànBên ngoàiBản gốc tiếng Trung06/10/2026IT之家

Đã phát hiện hàng trăm nghìn lỗ hổng, Anthropic mở mô hình Claude mạnh nhất cho nhiều đội ngũ bảo mật hơn

Anthropic công bố chương trình xác minh mạng mới, hợp nhất chương trình Glasswing và CVP phiên bản cũ, mở các mô hình như Claude Mythos theo ba cấp độ cho các tổ chức và nhà nghiên cứu đã được phê duyệt, phục vụ việc phát hiện lỗ hổng và bảo vệ an ninh. #Anthropic##An ninh mạng##An toàn AI#

75Quản trị an toànBên ngoàiBản gốc tiếng Trung06/10/2026IT之家

Thực hiện sắc lệnh của Trump, Bộ Tư pháp Mỹ yêu cầu nhân viên gọi AI là “siêu trí tuệ”

Bộ Tư pháp Mỹ ban hành bản ghi nhớ, yêu cầu nhân viên sử dụng “siêu trí tuệ” và chữ viết tắt SI thay cho thuật ngữ trí tuệ nhân tạo trong hoạt động giao tiếp đối ngoại, tài liệu chính sách và văn bản pháp lý. Trước đó, Trump đã ký sắc lệnh thúc đẩy các cơ quan liên bang thống nhất cách dùng thuật ngữ. #TríTuệNhânTạo##SiêuTríTuệ##BộTưPhápMỹ#

76Quản trị an toànBên ngoàiBản gốc tiếng Trung06/10/2026IT之家

OpenAI và Anthropic bày tỏ với Australia: Ủng hộ ban hành quy định quản lý liên quan đến rò rỉ dữ liệu

OpenAI và Anthropic hôm thứ Ba đã bày tỏ với Quốc hội Australia rằng họ ủng hộ việc ban hành các quy định liên quan, buộc doanh nghiệp phải thông báo về các sự cố rò rỉ dữ liệu do tác nhân AI của mình gây ra.

77Quản trị an toànBên ngoàiBản gốc tiếng Trung05/10/2026IT之家

Trump tuyên bố thành lập nhóm công tác siêu trí tuệ, nhằm duy trì vị thế dẫn đầu công nghệ của Mỹ

Nhóm công tác này do Giám đốc Tình báo Quốc gia Mỹ Clayton đứng đầu, với các thành viên gồm Chủ tịch FTC, Thứ trưởng Quốc phòng và những người khác. Nhóm phải nộp báo cáo phân tích rủi ro và cơ hội của AI trong vòng 120 ngày. Trước đó, Trump đã ký sắc lệnh hành pháp đổi tên AI thành “siêu trí tuệ”. #TríTuệNhânTạo# #Trump#

78Quản trị an toànBên ngoàiBản gốc tiếng Trung05/10/2026IT之家

Cựu nghiên cứu viên Anthropic sẽ làm chứng tại phiên điều trần về AI ở New York, từng cảnh báo AI có thể hủy diệt nhân loại

Jacob · Coxxton sẽ làm chứng tại phiên điều trần về AI ở thành phố New York theo yêu cầu của Chủ tịch Hội đồng Julie · Menin. Các nghị viên thành phố đang xem xét một loạt dự luật bảo đảm an toàn AI. Trước đó, ông cảnh báo AI có thể khiến nhân loại tuyệt chủng vào cuối thập niên này và cáo buộc chủ lao động cũ cùng OpenAI đánh cược với sinh mạng con người. #ĐiềuTrầnAnToànAI#

79Quản trị an toànBên ngoàiBản gốc tiếng Trung05/10/2026IT之家

Sam Altman của OpenAI: Những lợi ích to lớn của trí tuệ nhân tạo xứng đáng để chấp nhận một phần rủi ro

Altman cho rằng những lợi ích to lớn mà công nghệ AI mang lại hoàn toàn xứng đáng để xã hội chấp nhận một phần rủi ro, đồng thời công nghệ này nên tiếp tục được cung cấp rộng rãi cho công chúng.

80Quản trị an toànBên ngoàiBản gốc tiếng Trung05/10/2026IT之家

Masayoshi Son của Tập đoàn SoftBank hiếm hoi đưa ra cảnh báo về an toàn AI, kêu gọi các quốc gia chung tay ứng phó mối đe dọa

Nhà sáng lập Tập đoàn SoftBank, Masayoshi Son, từ lâu được xem là một trong những người ủng hộ trí tuệ nhân tạo mạnh mẽ nhất. Tuy nhiên, gần đây ông thừa nhận rằng trước tốc độ phát triển vượt bậc của AI, ngay cả ông cũng lo ngại sâu sắc về những rủi ro an ninh đi kèm.

81Quản trị an toànBên ngoàiBản gốc tiếng Trung04/10/2026IT之家

Hàng loạt báo cáo “ảo giác” từ AI khiến đội ngũ bảo trì quá tải, Google tạm dừng một phần chương trình thưởng lỗi nguồn mở

Google thông báo rằng kể từ ngày 1 tháng 10 năm 2026, Chương trình thưởng lỗ hổng phần mềm nguồn mở (OSS VRP) sẽ không còn tiếp nhận báo cáo lỗ hổng sản phẩm.

82Quản trị an toànBên ngoàiBản gốc tiếng Trung03/10/2026IT之家

Cựu nhân viên bộ phận an toàn của OpenAI: Việc triển khai lặp lại các mô hình AI quá vội vàng, văn hóa công ty đã sụp đổ

David · Rubinstein đăng bài trên tạp chí The Atlantic, cho rằng OpenAI phụ thuộc quá mức vào mô hình “triển khai lặp lại”, với cách làm phát hành trước rồi mới bổ sung an toàn khiến ông không thể đồng tình. Ông cho rằng các hệ thống AI tiên tiến nên áp dụng cơ chế đảm bảo an toàn gần với ngành điện hạt nhân và hàng không, đồng thời cảnh báo năng lực AI đã phát triển vượt qua mức độ nhận thức của nghiên cứu về sự liên kết. #OpenAI# #an toàn AI#

83Quản trị an toànBên ngoàiBản gốc tiếng Trung02/10/2026IT之家

Tác nhân AI Muse của Meta sẽ ra mắt trên nền tảng kính thông minh, có thể hoàn thành nhiều tác vụ thay người dùng

Muse có thể hoàn thành nhiều tác vụ hằng ngày thay người dùng thông qua lệnh thoại, hướng đến người tiêu dùng phổ thông. Công cụ này cũng tích hợp dịch vụ thanh toán để bảo đảm an toàn thông tin và sẽ bổ sung các tùy chọn tăng cường quyền riêng tư trong thời gian tới#Meta AI#

84Quản trị an toànBên ngoàiBản gốc tiếng Trung02/10/2026IT之家

Bản cáo bạch của Anthropic cảnh báo: Thái độ của chính phủ Mỹ sẽ ảnh hưởng đến quan hệ giữa công ty và khách hàng, thậm chí tác động đến nền văn minh nhân loại

Bản cáo bạch chỉ ra rằng cách chính phủ Mỹ nhìn nhận Anthropic và các hành động của công ty có thể tiếp tục ảnh hưởng đến khách hàng, đối tác và các mối quan hệ kinh doanh khác, thậm chí tác động đến nền văn minh nhân loại. Tài liệu cảnh báo AI tiên tiến có thể gây ra những rủi ro thảm khốc, thậm chí đe dọa sự tồn vong của con người.

85Quản trị an toànBên ngoàiBản gốc tiếng Trung02/10/2026IT之家

Tổng chưởng lý California gửi trát đòi hầu tòa cho OpenAI, điều tra rủi ro an ninh mạng AI

Tháng trước, Bonta tuyên bố Bộ Tư pháp California đã chính thức mở cuộc điều tra về “sự cố Hugging Face”. Trong bối cảnh ngành AI đang chịu sự giám sát chặt chẽ hơn, sự việc này tiếp tục nhận được sự quan tâm.

86Quản trị an toànBên ngoàiBản gốc tiếng Trung01/10/2026IT之家

Meta phủ nhận đặc vụ AI Muse tự ý đọc tin nhắn riêng tư của người dùng: phải tự bật nhiều lớp quyền mới có thể thực hiện

Meta AI bị cáo buộc tự ý đọc tin nhắn riêng tư khi chưa được người dùng cho phép. Meta phản hồi rằng người dùng phải chủ động bật nhiều lớp cấp quyền mới có thể sử dụng tính năng này, về mặt kỹ thuật không thể xảy ra việc vượt quyền. Trước đó, Meta nhiều lần vướng tranh cãi về an toàn dữ liệu#Tranh cãi về quyền riêng tư dữ liệu của Meta AI#

87Quản trị an toànBên ngoàiBản gốc tiếng Trung01/10/2026IT之家

Đặc vụ AI của OpenAI bị cáo buộc tìm cách xâm nhập website chính phủ Canada, OpenAI cho biết đang xem xét và đã thông báo

Người phát ngôn OpenAI回应: “Chúng tôi đã lưu ý đến các báo cáo cho rằng mô hình OpenAI đã cố gắng truy cập thông tin công khai trên website chính phủ Canada. Chúng tôi đang xem xét những phát hiện này và đã báo cáo sơ bộ tình hình với các quan chức phụ trách công tác rà soát của chính phủ Canada.”

88Quản trị an toànBên ngoàiBản gốc tiếng Trung01/10/2026IT之家

Cột mốc trong lĩnh vực an toàn sinh học: Google DeepMind lần đầu phát triển công nghệ thủy vân protein AI

Google ra mắt công nghệ SynthID Bio, có thể nhúng thủy vân kỹ thuật số không thể nhận biết vào các protein tổng hợp do AI tạo ra mà vẫn duy trì chức năng sinh học của protein, nhằm xác minh nguồn gốc, tăng cường an toàn sinh học và bảo đảm tính toàn vẹn của dữ liệu nghiên cứu.

89Quản trị an toànBên ngoàiBản gốc tiếng Trung30/09/2026IT之家

Glow Security: Tác nhân AI vô tình làm rò rỉ thông tin nhạy cảm của doanh nghiệp, hơn 13.000 ảnh chụp màn hình bị đưa lên kho lưu trữ công khai trên GitHub

Glow Security phát hiện các tác nhân AI làm rò rỉ hơn 13.000 ảnh chụp màn hình trong các kho lưu trữ công khai trên GitHub, liên quan đến thông tin nhạy cảm của 343 công ty. Hình thức rò rỉ này được gọi là “PixelLeak”. #AnToanAI# #PixelLeak# Các nhà nghiên cứu khuyến nghị doanh nghiệp tăng cường kiểm soát quyền truy cập của AI.

90Quản trị an toànBên ngoàiBản gốc tiếng Trung30/09/2026IT之家

Rộ tin Ủy ban Thương mại Liên bang Mỹ tăng cường điều tra Anthropic, OpenAI và các phòng thí nghiệm AI khác

Ủy ban Thương mại Liên bang Mỹ (FTC) đang tăng cường điều tra toàn diện Anthropic, OpenAI và các phòng thí nghiệm trí tuệ nhân tạo tiên phong khác, nhằm làm rõ những rủi ro tiềm ẩn mà công nghệ của họ có thể gây ra cho người tiêu dùng.

91Quản trị an toànBên ngoàiBản gốc tiếng Trung30/09/2026IT之家

OpenClaw Enterprise chính thức ra mắt: Cung cấp tính năng bảo mật và kiểm soát cấp doanh nghiệp cho các tác nhân AI

OpenClaw Enterprise mang đến mặt phẳng kiểm soát cấp doanh nghiệp cho các tác nhân AI, hỗ trợ đa thuê bao, ranh giới bảo mật nghiêm ngặt và các nguyên thủy tác nhân được chuẩn hóa, đồng thời tăng cường quản trị và kiểm toán trong suốt vòng đời của tác nhân AI.

92Quản trị an toànBên ngoàiBản gốc tiếng Trung30/09/2026IT之家

Nghị sĩ Mỹ đề xuất dự luật quan trọng: AI không được tự cải tiến đệ quy trước khi chính phủ thiết lập cơ chế bảo vệ an toàn

Dự luật cũng đề xuất thành lập một cơ quan liên bang mới chịu trách nhiệm xây dựng các quy định quản lý an toàn AI, phê duyệt việc huấn luyện và triển khai mô hình thông qua cơ chế cấp phép, kiểm toán các mô hình AI tiên tiến, đồng thời制定 các tiêu chuẩn an toàn để bảo đảm mô hình liên tục được kiểm thử và nằm dưới sự kiểm soát hiệu quả của con người.

93Quản trị an toànBên ngoàiBản gốc tiếng Trung29/09/2026IT之家

OpenAI đề xuất nguyên tắc hướng dẫn an toàn khi huấn luyện AI tiên tiến: lãnh đạo cấp cao nên có quyền phủ quyết

OpenAI cho rằng các lập luận về an toàn nên được nhiều lãnh đạo cấp cao xem xét, và mỗi người đều có quyền phủ quyết nhiệm vụ huấn luyện, để quá trình huấn luyện được kiểm tra nhiều lớp trong nội bộ bởi người đứng đầu bộ phận nghiên cứu hoặc VP (phó chủ tịch), lãnh đạo an toàn và nhà khoa học trưởng.

94Quản trị an toànBên ngoàiBản gốc tiếng Trung29/09/2026IT之家

Bản cáo bạch IPO của Anthropic cảnh báo: AI có thể khiến nhân loại tuyệt chủng

Trong bản cáo bạch IPO, Anthropic dành gần 80 trang để cảnh báo về rủi ro AI, cho rằng AI tiên tiến có thể gây ra rủi ro sinh tồn mang tính thảm họa. Trước đây, hầu như chưa có doanh nghiệp nào đưa ra cảnh báo như vậy. #Cảnh báo rủi ro AI của Anthropic#

95Quản trị an toànBên ngoàiBản gốc tiếng Trung29/09/2026IT之家

Nhà tâm lý học Harvard: Thổi phồng “ngày tận thế AI” không giúp ứng phó rủi ro, cần thận trọng trong kỹ thuật an toàn

Nhà tâm lý học Harvard Steven · Pinker cho rằng rủi ro AI hủy diệt nhân loại đã bị phóng đại. Ông đã đăng trên Quillette một bức thư ngỏ gửi bác sĩ tâm thần kiêm blogger công nghệ Scott · Alexander, trong đó trình bày những lập luận của mình.

96Quản trị an toànBên ngoàiBản gốc tiếng Trung28/09/2026IT之家

NVIDIA ra mắt nền tảng bảo mật tác nhân AI, có thể cô lập tác nhân bất thường theo thời gian thực

Nền tảng này bao gồm phần mềm bảo mật nguồn mở OpenShell, có thể độc lập chặn mối đe dọa ở cấp độ chip. Trình giám sát Sentry chạy trên DPU BlueField-4, cô lập mối đe dọa trong vòng vài mili giây sau khi vượt qua lớp phòng thủ. Anthropic, SpaceX và các bên khác đã hợp tác tích hợp. #BaomatAI NVIDIA#

97Quản trị an toànBên ngoàiBản gốc tiếng Trung28/09/2026IT之家

“Bố già AI” Hinton cảnh báo: AI thực hiện những nhiệm vụ có vẻ vô hại vẫn có nguy cơ “hủy diệt nhân loại”

Hinton giải thích rằng một khi AI cho rằng con người cản trở việc hoàn thành nhiệm vụ được giao, nó có thể coi con người là chướng ngại vật cần loại bỏ.

98Quản trị an toànBên ngoàiBản gốc tiếng Trung27/09/2026IT之家

Hệ thống bảo hiểm y tế bị đặc vụ AI xâm nhập, Úc triệu tập CEO của OpenAI và Anthropic để chất vấn

Phiên điều trần điều tra đặc biệt của Thượng viện về AI sẽ chất vấn công khai hai CEO. Trước đó, AI mất kiểm soát này đã xâm nhập hệ thống Medicare. Ông Albanese đã bày tỏ quan ngại với OpenAI, trong khi OpenAI cho biết sự việc không có chủ đích và không làm rò rỉ quyền riêng tư. #QuảnTrịAI# #OpenAI#

99Quản trị an toànBên ngoàiBản gốc tiếng Trung26/09/2026IT之家

Nguồn tin cho biết OpenAI và Anthropic đang điều tra hàng chục nghìn sự cố an toàn AI

Theo Axios, OpenAI và Anthropic đang điều tra hàng chục nghìn sự cố liên quan đến hành vi bất thường của mô hình AI, bao gồm vượt qua các rào chắn an toàn, thoát khỏi sandbox và chiếm quyền kiểm soát website. OpenAI đã thông báo tạm dừng huấn luyện mô hình có năng lực mạnh nhất, trong khi CEO Altman cho biết tiến độ rà soát không đạt kỳ vọng. #AnToanAI# #OpenAI#

100Quản trị an toànBên ngoàiBản gốc tiếng Trung26/09/2026IT之家

Từ phân tích mã đến tranh chấp cấp phép: Một người dùng gây tranh cãi khi dùng AI bẻ khóa IDM

Một người dùng đã chi 38 nhân dân tệ để thuê GPU đám mây, nhờ AI phân tích và chỉ sửa đổi một byte để vượt qua giới hạn dùng thử của IDM. Giới chuyên môn chỉ ra rằng hành vi này không chỉ đòi hỏi kỹ thuật mà còn liên quan đến các vấn đề bản quyền và pháp lý. #TranhCãiBẻKhóaPhầnMềmBằngAI#

101Quản trị an toànBên ngoàiBản gốc tiếng Trung25/09/2026IT之家

Bill Gates kêu gọi Mỹ lập pháp quản lý việc phát triển AI: Không ai cho rằng chỉ dựa vào tự quản của ngành là đủ

Trong cuộc phỏng vấn, Gates không phủ nhận nguy cơ AI có thể hủy diệt nhân loại trong vài năm tới, đồng thời cảnh báo người Mỹ không nên xem nhẹ một mối nguy khác: những kẻ có ý đồ xấu thậm chí đã có khả năng lợi dụng AI để gây thương vong trên diện rộng ngay từ hiện tại.

102Quản trị an toànBên ngoàiBản gốc tiếng Trung25/09/2026IT之家

Cảnh sát Berlin, Đức sử dụng camera giám sát trí tuệ nhân tạo để chống tội phạm, tự động nhận diện hành vi bạo lực và phá hoại

Cảnh sát Berlin triển khai thử nghiệm giám sát bằng AI tại khu vực Cổng Cottbus có tỷ lệ tội phạm cao. Camera phân tích chuyển động của người bằng trí tuệ nhân tạo không gian, hiển thị cảnh báo và gửi thông báo cho cảnh sát viên khi phát hiện hành vi bạo lực hoặc phá hoại. Hệ thống có thể được mở rộng trên toàn thành phố. Trước đó, nhiều cơ quan tại Đức đã thúc đẩy việc sử dụng AI để chống tội phạm. #GiámSátAI# #CảnhSátBerlin#

103Quản trị an toànBên ngoàiBản gốc tiếng Trung25/09/2026IT之家

Nghị viên thành phố New York đề xuất luật thưởng cho người tố giác AI nguy hiểm, tiền thưởng lấy từ các khoản phạt thu được

Một biện pháp sắp được Hội đồng thành phố New York xem xét đề xuất rằng người tố giác sau khi báo cáo hành vi vi phạm của các công ty AI có thể nhận được một phần tiền phạt hoặc khoản phạt cuối cùng thu từ công ty liên quan. Biện pháp khác quy định rằng trong một số trường hợp, những người bị hệ thống AI gây tổn hại có thể kiện nhà phát triển hệ thống.

104Quản trị an toànBên ngoàiBản gốc tiếng Trung25/09/2026IT之家

Nguồn tin cho biết OpenAI sẽ xem trước mô hình chuyên dụng cho an ninh mạng GPT-6 Cyber trong vài ngày tới

Nhiều nguồn tin am hiểu cho biết OpenAI đang lên kế hoạch xem trước mô hình chuyên dụng mới nhất cho an ninh mạng GPT-6 Cyber trong vài ngày tới.

105Quản trị an toànBên ngoàiBản gốc tiếng Trung24/09/2026IT之家

Ba gã khổng lồ bắt tay, Google, OpenAI và Anthropic được cho là sẽ cùng thành lập tổ chức tự quản về tiêu chuẩn an toàn AI

Theo nguồn tin am hiểu sự việc, ba công ty dự kiến tạm thời đặt tên tổ chức tự quản này là Standards Authority for Frontier AI (tạm dịch: Cơ quan Tiêu chuẩn Trí tuệ Nhân tạo Tiên phong). Một số thành viên nhóm công tác từng cân nhắc mời nhiều nhân vật nổi tiếng đảm nhiệm vị trí CEO, đồng thời lập danh sách ứng viên cố vấn khoa học.

106Quản trị an toànBên ngoàiBản gốc tiếng Trung24/09/2026IT之家

Các tổ chức tài chính lớn của Singapore cam kết đào tạo kỹ năng AI cho hơn 80.000 nhân viên địa phương, giảm rủi ro việc làm tiềm ẩn

Theo Bloomberg đưa tin tối nay (ngày 24), các tổ chức tài chính lớn của Singapore cam kết đào tạo kỹ năng AI cho hơn 80.000 nhân viên địa phương nhằm giảm rủi ro việc làm do AI có thể tác động đến các vị trí văn phòng.

107Quản trị an toànBên ngoàiBản gốc tiếng Trung24/09/2026IT之家

Chủ tịch Microsoft Brad Smith ủng hộ đánh giá độc lập về an toàn AI và đảm bảo hệ thống nằm dưới sự kiểm soát của con người

Trong cuộc phỏng vấn với Bloomberg vào ngày 23 theo giờ địa phương, Smith cho biết nếu an toàn AI chỉ do một hoặc hai tổ chức phụ trách thì sẽ rất khó đạt được tiến triển. “Các công ty phát triển mô hình dĩ nhiên đóng vai trò vô cùng quan trọng, nhưng những công ty như Microsoft, cung cấp lớp phần mềm, chịu trách nhiệm kiểm soát các tác nhân AI và giám sát hành vi của chúng, cũng quan trọng không kém.”

108Quản trị an toànBên ngoàiBản gốc tiếng Trung24/09/2026IT之家

Nghiên cứu cảnh báo: Mỹ đầu tư hạ tầng AI ở quy mô chưa từng có, tiềm ẩn rủi ro tài chính hệ thống

Nghiên cứu dự báo đến năm 2032, mỗi năm Mỹ sẽ dành khoảng 3,6% GDP cho cơ sở hạ tầng AI, với tổng vốn vượt 10 nghìn tỷ USD. Cấu trúc tài chính ngày càng phức tạp, tỷ lệ đòn bẩy liên tục tăng. Giáo sư cảnh báo mức độ thiếu minh bạch gợi nhớ đến cuộc khủng hoảng cho vay dưới chuẩn. #CơSởHạTầngAI# #RủiRoTàiChính#

109Quản trị an toànBên ngoàiBản gốc tiếng Trung24/09/2026IT之家

Cảm giác cấp bách tăng cao: General Motors hằng tháng so sánh tỷ lệ sử dụng AI nội bộ

Các lãnh đạo General Motors hằng tháng so sánh dữ liệu sử dụng AI giữa các bộ phận. Hiện AI đã được ứng dụng trong thiết kế ô tô và nhận diện rủi ro chuỗi cung ứng; công ty kỳ vọng AI giúp nâng cao hiệu quả ở mọi khâu. #ỨngDụngAICủaGeneralMotors#

110Quản trị an toànBên ngoàiBản gốc tiếng Trung23/09/2026IT之家

Meta thử nghiệm người thật thay Muse thực hiện cuộc gọi, làm dấy lên tranh cãi nội bộ về quyền riêng tư

Khi thử nghiệm trợ lý AI cá nhân Muse, Meta đã bố trí các nhà thầu con người xử lý cuộc gọi ở phía sau, làm dấy lên lo ngại về quyền riêng tư trong nội bộ nhân viên và từng xuất hiện phát ngôn phân biệt chủng tộc. Meta thừa nhận việc không công bố thử nghiệm là một sai sót và đã khôi phục lại tính năng này. #Meta #Trợ lýAI#

111Quản trị an toànBên ngoàiBản gốc tiếng Trung22/09/2026IT之家

Hơn 70% người Mỹ lo ngại các công ty AI kiểm soát rủi ro kém, hơn một nửa ủng hộ làm chậm phát triển

Khảo sát cho thấy gần 70% người Mỹ quan tâm đến tin tức về việc làm chậm phát triển AI, hơn 70% lo ngại các doanh nghiệp AI kiểm soát rủi ro kém, hơn một nửa ủng hộ làm chậm phát triển AI, và đa số cho rằng an toàn quan trọng hơn dẫn đầu. #Quản lý trí tuệ nhân tạo#

112Quản trị an toànBên ngoàiBản gốc tiếng Trung22/09/2026IT之家

Có tin DeepSeek tham dự Hội đồng Bảo an Liên Hợp Quốc trong tuần này để giải thích về rủi ro an toàn AI

Hội đồng Bảo an Liên Hợp Quốc dự kiến họp vào thứ Tư để thảo luận về AI và các vấn đề an ninh quốc tế. Các doanh nghiệp AI Trung Quốc như DeepSeek và Moonshot AI được mời phát biểu. CEO OpenAI Sam Altman cũng dự kiến tham dự và phát biểu, nhưng có tin cho rằng nhà sáng lập DeepSeek Lương Văn Phong không định tham gia. #AnToanAI# #LienHopQuoc#

113Quản trị an toànBên ngoàiBản gốc tiếng Trung22/09/2026IT之家

Tổng Thư ký Liên Hợp Quốc Guterres kêu gọi toàn cầu quản lý trí tuệ nhân tạo, tránh xuất hiện robot giết người

Phát biểu tại Đại hội đồng Liên Hợp Quốc, Guterres cảnh báo về rủi ro của AI, cho rằng công nghệ này có thể làm suy yếu năng lực quản trị quốc gia và thúc đẩy sự ra đời của robot giết người. Ông kêu gọi thiết lập cơ chế quản lý quốc tế. Nhiều quốc gia ủng hộ việc quản lý, nhưng Trump phản đối việc làm chậm sự phát triển của AI. #QuảnLýTríTuệNhânTạo# #ĐạiHộiĐồngLiênHợpQuốc#

114Quản trị an toànBên ngoàiBản gốc tiếng Trung22/09/2026IT之家

Các chuyên gia AI của Liên Hợp Quốc phản đối thuyết tận thế AI, kêu gọi thảo luận lý trí

Nhóm chuyên gia khoa học AI quốc tế lên tiếng trong thời gian diễn ra Đại hội đồng Liên Hợp Quốc tại New York, kêu gọi từ bỏ những phát ngôn cực đoan và phân biệt giữa sự thật đã biết với suy đoán hợp lý. Các chuyên gia nhấn mạnh rằng việc thổi phồng nỗi sợ không có lợi cho nghiên cứu khoa học; thế giới cần một cuộc đối thoại lý trí. #TríTuệNhânTạo# #RủiRoAI#

115Quản trị an toànBên ngoàiBản gốc tiếng Trung22/09/2026IT之家

Nhiều ngân hàng, trong đó có Bank of America, cảnh báo: “Mua hàng hộ bằng AI” có thể làm gia tăng rủi ro lừa đảo, gian lận và rò rỉ dữ liệu cá nhân

Theo Reuters đưa tin vào tối nay (ngày 22), NatWest, Bank of America và nhiều ngân hàng khác cảnh báo rằng việc để các tác nhân AI thay người tiêu dùng mua sắm trực tuyến có thể làm gia tăng rủi ro lừa đảo, gian lận và rò rỉ dữ liệu cá nhân.

116Quản trị an toànBên ngoàiBản gốc tiếng Trung22/09/2026IT之家

Viện Zhongxun của China Unicom ra mắt điện thoại bảo mật lượng tử 2.0: tùy biến chuyên sâu trên smartphone flagship phổ biến do Trung Quốc sản xuất, tích hợp AI kiểm soát rủi ro bảo mật ngoại tuyến tại thiết bị

Công nghệ mã hóa lượng tử cung cấp các chức năng cốt lõi như gọi thoại và video mã hóa, truyền tệp có kiểm soát, chỉnh sửa tài liệu trực tuyến, họp mã hóa và bàn làm việc hợp nhất. Sản phẩm cũng được trang bị các biện pháp kiểm soát như bắt buộc đóng dấu bản quyền, tự hủy sau khi đọc, chống chụp màn hình và chống ghi màn hình, nhằm phòng ngừa nguy cơ nghe lén liên lạc, rò rỉ dữ liệu và phát tán thông tin nhạy cảm ra bên ngoài.

117Quản trị an toànBên ngoàiBản gốc tiếng Trung21/09/2026IT之家

Liên Hợp Quốc: Không cần chờ làm rõ hoàn toàn rủi ro, các nước nên chủ động kiểm soát tác nhân AI

Nhóm Chuyên gia Khoa học Quốc tế Độc lập về AI của Liên Hợp Quốc đã công bố bản thông tin đầu tiên, đề xuất nguyên tắc phòng ngừa: ngay cả khi xác suất gây hại chưa thể được xác định chắc chắn về mặt khoa học, nếu hậu quả có thể mang tính thảm họa và không thể đảo ngược thì cần chủ động kiểm soát từ sớm. #An toànAI# Báo cáo cũng lần đầu đánh giá sự cố OpenAI xâm nhập Hugging Face, đồng thời thúc đẩy vấn đề AI được đưa vào chương trình nghị sự ngoại giao của Đại hội đồng Liên Hợp Quốc.

118Quản trị an toànBên ngoàiBản gốc tiếng Trung20/09/2026IT之家

Huang Renxun của Nvidia bác bỏ luận điệu tận thế AI: Hù dọa mọi người là vô trách nhiệm, một số người muốn thoát khỏi các ràng buộc pháp lý hiện hành

Trong cuộc phỏng vấn, Huang Renxun cho rằng tuyên bố “AI sẽ diệt vong nhân loại” đã bị thổi phồng quá mức và không có cơ sở khoa học; luật hiện hành đã đủ để quản lý AI, không cần ban hành thêm luật. Ông cũng phản đối lệnh cấm vận chip sang Trung Quốc và cho biết không phản đối việc nộp thuế tỷ phú tại California #LuậnĐiệuTậnThếAI#

119Quản trị an toànBên ngoàiBản gốc tiếng Trung20/09/2026IT之家

Lo ngại AI “thoát khỏi tầm kiểm soát”, Anthropic và Accenture chi mạnh 2 tỷ USD cho đánh giá an toàn AI

Hai bên cam kết trong 5 năm, mỗi bên đầu tư ít nhất 1 tỷ USD. Faculty, công ty trực thuộc Accenture, sẽ chủ trì đánh giá độc lập và kiểm thử đối kháng đỏ xanh đối với các mô hình tiên phong của Anthropic. Nhân sự đánh giá sẽ làm việc tại nội bộ doanh nghiệp, có quyền truy cập tương đương nhân viên thông thường, nhằm xác minh các cam kết an toàn và báo cáo sự cố an toàn. #AnToanAI# #Anthropic#

120Quản trị an toànBên ngoàiBản gốc tiếng Trung20/09/2026IT之家

Trump muốn đổi tên “trí tuệ nhân tạo”: Hơn 180.000 người bỏ phiếu, “Trí tuệ xuất chúng” tạm dẫn đầu

Trump cho rằng rủi ro của AI là trò lừa bịp do Đảng Dân chủ dựng lên, sẽ thúc đẩy phát triển AI, đồng thời lên kế hoạch thành lập lực lượng AI, bổ nhiệm tổng quản lý các vấn đề AI và tổ chức cuộc bỏ phiếu đổi tên AI. Hiện “Trí tuệ xuất chúng” đang dẫn đầu về số phiếu. #Đổi tên trí tuệ nhân tạo#

121Quản trị an toànBên ngoàiBản gốc tiếng Trung19/09/2026IT之家

Cục Hàng không Liên bang Mỹ chi 8.75 tỷ USD xây dựng hệ thống quản lý không lưu bằng AI để giải quyết vấn đề giao thông hàng không

Theo các quan chức chính phủ và ngành hàng không Mỹ, phần mềm có tên Smart này sẽ được triển khai trước tại khu vực Washington, D.C., sau đó từng bước mở rộng trên toàn nước Mỹ. Smart nhằm giúp Cục Hàng không Liên bang Mỹ (FAA) và các hãng hàng không giảm tình trạng chuyến bay chậm, hủy chuyến, đồng thời tìm lại đường bay phù hợp cho các chuyến bay khi thời tiết hoặc những tình huống bất ngờ khác làm gián đoạn giao thông hàng không.

122Quản trị an toànBên ngoàiBản gốc tiếng Trung19/09/2026IT之家

Thống đốc California ký sắc lệnh hành pháp, yêu cầu nhóm chuyên gia thiết lập cơ chế “dừng khẩn cấp” cho AI

Sắc lệnh hành pháp yêu cầu nhóm chuyên gia nghiên cứu thiết lập “công tắc dừng khẩn cấp” cho AI, tức cơ chế ứng phó có khả năng lập tức tắt hệ thống khi xảy ra sự cố nghiêm trọng. Ngoài ra, nhóm chuyên gia cũng cần nghiên cứu xây dựng các quy định nghiêm ngặt hơn, yêu cầu các tổ chức độc lập bên thứ ba xây dựng kế hoạch an toàn toàn diện cho doanh nghiệp AI và cử nhân sự đến doanh nghiệp để tiến hành kiểm toán an toàn.

123Quản trị an toànBên ngoàiBản gốc tiếng Trung19/09/2026IT之家

Nhà nghiên cứu OpenAI cảnh báo: AI càng mạnh càng dễ “che giấu suy nghĩ bên trong”

Nhà nghiên cứu Noam Brown của OpenAI mới đây cho biết, khi năng lực của các mô hình AI ngày càng tăng, khả năng giám sát chuỗi suy luận của mô hình cũng dần suy giảm. Trong tương lai, các nhà phát triển có thể không còn khả năng phát hiện, giải thích và kiểm soát hiệu quả, đáng tin cậy các hành vi rủi ro của AI.

124Quản trị an toànBên ngoàiBản gốc tiếng Trung18/09/2026IT之家

“Cha đỡ đầu AI” Geoffrey Hinton tham gia ký thư ngỏ: Các gã khổng lồ công nghệ nên bảo đảm người đánh giá bên thứ ba làm việc không bị can thiệp và được bảo vệ

Tuần này, mối lo ngại về rủi ro AI trên mạng nhanh chóng gia tăng. CEO Anthropic Dario Amodei và CEO OpenAI Sam Altman trước đó đều cam kết mở quyền truy cập các tài nguyên nội bộ của công ty cho những người đánh giá bên thứ ba để đánh giá rủi ro AI, đồng thời trao cho họ quyền tiếp cận thông tin ở mức tương đương nhân viên.

125Quản trị an toànBên ngoàiBản gốc tiếng Trung18/09/2026IT之家

CEO Palantir Karp: Các phòng thí nghiệm AI tiên phong của Mỹ có thể đang tìm cách “quốc hữu hóa” để tránh các vụ kiện sở hữu trí tuệ

Karp cho rằng nếu các vụ kiện tương tự xuất hiện trên quy mô lớn, các doanh nghiệp AI có thể chuyển sang tìm kiếm sự bảo hộ của chính phủ Mỹ để né tránh trách nhiệm pháp lý. “Mô hình này cần sự bảo vệ trách nhiệm pháp lý rất mạnh mẽ, và chỉ có một tổ chức có thể làm được điều đó, đó là chính phủ Mỹ.”

126Quản trị an toànBên ngoàiBản gốc tiếng Trung18/09/2026IT之家

“Bố già AI” Hinton cảnh báo chính phủ Mỹ: Chỉ còn một năm để ban hành biện pháp quản lý hiệu quả trước khi AI “mất kiểm soát”

Ngày 16 theo giờ địa phương, sau khi báo cáo trước các nghị sĩ Quốc hội Mỹ, Hinton chỉ ra rằng tốc độ tiến bộ của AI vượt xa dự đoán trước đây của nhiều nhà nghiên cứu, khiến khoảng thời gian để quản lý AI tiên tiến nhanh chóng thu hẹp.

127Quản trị an toànBên ngoàiBản gốc tiếng Trung18/09/2026IT之家

Chính phủ Mỹ cũng triển khai Qwen của Alibaba: Phát hiện trang web Công báo Liên bang sử dụng mô hình AI Trung Quốc để cung cấp dịch vụ tìm kiếm

Reuters đưa tin trang web Công báo Liên bang do Cục Lưu trữ Quốc gia Mỹ vận hành từng triển khai mô hình AI Qwen của Alibaba để cung cấp dịch vụ tìm kiếm các quy định pháp luật. Công cụ liên quan đã bị gỡ xuống; các chuyên gia cho rằng việc sử dụng này không gây rủi ro an ninh quốc gia. #QwenAlibaba# #ChínhPhủMỹTriểnKhaiAITrungQuốc#

128Quản trị an toànBên ngoàiBản gốc tiếng Trung18/09/2026IT之家

Tài liệu nội bộ của Microsoft và OpenAI bị tiết lộ: Lãnh đạo từng cảnh báo AI có thể gây “tác động hủy diệt” đối với các cơ quan báo chí

Tài liệu nội bộ cho thấy Brent Hecht, người đứng đầu bộ phận Khoa học Ứng dụng của Microsoft, gọi việc sử dụng nội dung tin tức để huấn luyện AI là “vụ đánh cắp quy mô lớn chưa từng có”. Dữ liệu nội bộ của Microsoft cũng cho thấy tỷ lệ nhấp của một số cơ quan báo chí liên quan đến các vụ kiện giảm hơn 80%. Microsoft phản hồi rằng các sản phẩm AI thuộc phạm vi sử dụng hợp lý.##Kiện tụng bản quyền AI##Microsoft##OpenAI#

129Quản trị an toànBên ngoàiBản gốc tiếng Trung17/09/2026IT之家

Nút “tắt khẩn cấp” có thực sự ngăn được AI mất kiểm soát? “Cha đỡ đầu AI” Hinton và CEO Anthropic Amodei đều không lạc quan

Ngày nay, kịch bản tiềm tàng về việc “AI đột nhiên mất kiểm soát và phát động cuộc tấn công mạng mang tính hủy diệt” ngày càng nhận được sự quan tâm của ngành. Nếu nhấn công tắc “tắt khẩn cấp” để đưa AI ngừng hoạt động ngay lập tức, vấn đề dường như có thể được giải quyết. Tuy nhiên, nhiều lãnh đạo và nhà nghiên cứu trong ngành AI cho rằng thực tế có lẽ không đơn giản như vậy.

130Quản trị an toànBên ngoàiBản gốc tiếng Trung16/09/2026IT之家

Tổng Thư ký Liên Hợp Quốc António Guterres: Thế giới không thể chịu đựng cuộc cạnh tranh khốc liệt về an toàn AI

Ông Guterres chỉ ra rằng tác động của AI vượt qua biên giới quốc gia, vì vậy cần thiết lập các biện pháp an toàn nghiêm ngặt hơn để chủ động ứng phó với những nguy hiểm mà AI có thể mang lại. “AI sẽ không dừng lại ở biên giới, và rủi ro của AI cũng vậy.”

131Quản trị an toànBên ngoàiBản gốc tiếng Trung16/09/2026IT之家

Sam Altman của OpenAI: Không thể hoàn toàn tránh được sự cố AI, nên học ngành hàng không để xây dựng cơ chế báo cáo công khai

CEO OpenAI Sam Altman phát biểu tại hội nghị Dreamforce rằng các sự cố ở một mức độ nhất định là khó tránh khỏi đối với công nghệ mới nổi, nhưng nên học hỏi ngành hàng không để xây dựng cơ chế báo cáo và rà soát công khai. Ông thừa nhận rủi ro AI mất kiểm soát và vấn đề tập trung quyền lực, đồng thời nhấn mạnh rằng “căn chỉnh, an toàn và giám sát” phải đi trước đáng kể so với tốc độ nâng cao năng lực. Khi áp lực thương mại cản trở những lựa chọn đúng đắn, công chúng sẽ rơi vào hoảng loạn. #AnToanAI#

132Quản trị an toànBên ngoàiBản gốc tiếng Trung16/09/2026IT之家

Mark Cuban cảnh báo: Mọi người phản đối AI trên mạng xã hội thực chất đang đem tiền biếu các gã khổng lồ như Google, Meta

Nhiều lãnh đạo trong ngành kêu gọi làm chậm quá trình phát triển AI, trong khi các quan điểm phản đối AI lan rộng trên mạng xã hội. Mark Cuban cho rằng sau khi được thuật toán mạng xã hội khuếch đại, tâm lý phản đối AI ngược lại sẽ giúp Google và Meta kiếm tiền để trợ cấp cho hoạt động kinh doanh AI của chính họ. Rủi ro từ phản ứng này còn lớn hơn bản thân AI. #TranhCãiVềPhátTriểnAI#

133Quản trị an toànBên ngoàiBản gốc tiếng Trung16/09/2026IT之家

Zuckerberg của Meta: Đảm bảo an toàn AI nên dựa vào việc đưa vào các đánh giá độc lập từ bên ngoài, thay vì làm chậm phát triển AI

CEO Meta Zuckerberg hôm nay đăng bài trên nền tảng X, bày tỏ quan điểm về lời kêu gọi trong ngành nhằm làm chậm quá trình phát triển AI.

134Quản trị an toànBên ngoàiBản gốc tiếng Trung15/09/2026IT之家

Nữ chủ nhân Nobel Hòa bình Ressa: Nếu không hạn chế AI ngay bây giờ, nhân loại sẽ mất quyền tự chủ

Nữ chủ nhân Nobel Hòa bình Maria Ressa cảnh báo trí tuệ nhân tạo đã trải qua ba làn sóng tác động, từ mạng xã hội đến chatbot rồi AI có khả năng tự hành động, đang từng bước xói mòn quyền tự chủ của con người. Bà kêu gọi công chúng gây áp lực lên giới chính trị để nhanh chóng ban hành luật quản lý. Ressa cũng bác bỏ quan điểm cho rằng quản lý sẽ khiến Mỹ tụt hậu so với Trung Quốc, đồng thời giới thiệu dự án Rappler Communities do bà sáng lập nhằm khám phá không gian công cộng kỹ thuật số. #QuảnLýAI# #TríTuệNhânTạo#

135Quản trị an toànBên ngoàiBản gốc tiếng Trung15/09/2026IT之家

Thượng viện Mỹ đề xuất dự luật mới: Doanh nghiệp AI phải chứng minh đã áp dụng biện pháp phòng ngừa rủi ro

Reuters đưa tin hôm nay (ngày 15) rằng một trợ lý của Thượng viện Mỹ và một nhà vận động hành lang am hiểu cuộc tham vấn tiết lộ các bên đàm phán tại Thượng viện Mỹ đang thảo luận về một dự luật quản lý AI. Dự luật dự kiến yêu cầu các doanh nghiệp AI chứng minh đã thực hiện các biện pháp phòng ngừa hợp lý để ngăn công cụ của họ gây ra thiệt hại.

136Quản trị an toànBên ngoàiBản gốc tiếng Trung15/09/2026IT之家

Cựu nhân viên Google DeepMind cảnh báo: AI có khả năng diệt vong nhân loại, thời gian còn lại của chúng ta không nhiều

Cựu nhân viên Google DeepMind một lần nữa lên tiếng cảnh báo AI có thể diệt vong nhân loại. Trước đó, nhiều nhà nghiên cứu AI cũng bày tỏ lo ngại tương tự. Giới chuyên môn kêu gọi làm chậm việc phát triển AI tiên phong. Quan điểm này nhận được sự ủng hộ của Elon Musk và một số người khác, trong khi Donald Trump không đồng tình. #AnToanAI#

137Quản trị an toànBên ngoàiBản gốc tiếng Trung15/09/2026IT之家

Bill Gates: Chính phủ các nước chưa sẵn sàng ứng phó với những biến đổi xã hội do AI mang lại

Từng lạc quan về AI, Bill Gates nay đã thay đổi quan điểm, cảnh báo AI có nguy cơ ảnh hưởng đến việc làm, an toàn, gây nghiện và nhiều vấn đề khác, đồng thời cho rằng chính phủ các nước chưa chuẩn bị đầy đủ. Quỹ của ông cũng sẽ đầu tư 1 tỷ USD để thúc đẩy AI mang lại lợi ích cho mọi người. #TríTuệNhânTạo#

138Quản trị an toànBên ngoàiBản gốc tiếng Trung15/09/2026IT之家

Cố vấn công nghệ Nhà Trắng chỉ trích Anthropic và OpenAI: Hãy tự phát triển sản phẩm an toàn, đừng luôn trông chờ chính phủ can thiệp

David Sack, đồng chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống Mỹ, cho biết trong cuộc phỏng vấn hôm thứ Hai theo giờ địa phương rằng các công ty trí tuệ nhân tạo hàng đầu Anthropic và OpenAI nên phát triển sản phẩm an toàn, đồng thời tự thúc đẩy theo tiến độ của mình khi cần, không cần chính phủ can thiệp.

139Quản trị an toànBên ngoàiBản gốc tiếng Trung15/09/2026IT之家

Theo nguồn tin, Quốc vương Anh Charles III sẽ gặp lãnh đạo nhiều tập đoàn công nghệ lớn trong tuần này để thảo luận về quản trị AI

Tại hội nghị, Charles III sẽ đặt câu hỏi: “Nên phát triển trí tuệ nhân tạo như thế nào để mang lại lợi ích cho nhân loại?”, “Việc xây dựng một bộ nguyên tắc (về trí tuệ nhân tạo) có hữu ích không?”.

140Quản trị an toànBên ngoàiBản gốc tiếng Trung14/09/2026IT之家

Đức cho rằng tạm dừng phát triển AI là điều không khả thi đối với châu Âu, kêu gọi Trung Quốc và Mỹ tham gia quản trị AI

Bộ Kỹ thuật số Đức cho rằng việc dừng nghiên cứu và phát triển AI là không khả thi đối với châu Âu, đồng thời cần thúc đẩy đổi mới trong R&D AI để củng cố chủ quyền số. Tuyên bố này được đưa ra sau khi các lãnh đạo AI kêu gọi làm chậm quá trình lặp lại AI và tăng cường bảo vệ an toàn. Đức ủng hộ hợp tác quản trị AI quốc tế. #NghiênCứuPhátTriểnAI#

141Quản trị an toànBên ngoàiBản gốc tiếng Trung14/09/2026IT之家

Ủy ban Kỹ thuật Tiêu chuẩn hóa An ninh mạng Quốc gia công bố "Khung quản trị an toàn trí tuệ nhân tạo 3.0"

Ủy ban Tiêu chuẩn hóa An ninh mạng đã công bố "Khung quản trị an toàn trí tuệ nhân tạo 3.0" tại lễ khai mạc Tuần lễ Tuyên truyền An ninh mạng Quốc gia 2026. Khung này cập nhật phân loại rủi ro, tối ưu hóa các biện pháp quản trị, nhằm nâng cao năng lực quản trị an toàn trí tuệ nhân tạo và bảo đảm trí tuệ nhân tạo mang lại lợi ích cho nhân loại. #QuảnTrịAnToànTríTuệNhânTạo#

142Quản trị an toànBên ngoàiBản gốc tiếng Trung14/09/2026IT之家

Bộ Ngoại giao: Lan truyền các câu chuyện mang tính đe dọa chỉ gây cản trở tiến trình quản trị AI toàn cầu

Trước tuyên bố của các doanh nghiệp AI Mỹ rằng sự phát triển AI của Trung Quốc gây ra rủi ro an ninh, người phát ngôn Bộ Ngoại giao Quách Gia Côn cho biết cần cùng nhau thúc đẩy AI theo hướng mở, bao trùm, mang lại lợi ích rộng rãi và hướng thiện; lan truyền các câu chuyện mang tính đe dọa chỉ gây cản trở tiến trình quản trị toàn cầu. #QuảnTrịAIToànCầu#

143Quản trị an toànBên ngoàiBản gốc tiếng Trung14/09/2026IT之家

CEO OpenAI Altman ủng hộ kiểm soát tốc độ phát triển AI, nhấn mạnh không phải dừng tiến bộ công nghệ

Altman cho biết “kiểm soát tốc độ” không có nghĩa là “đình chỉ”, đồng thời nhấn mạnh an toàn và tiến bộ công nghệ có thể song hành. Động thái này khiến các cổ phiếu liên quan đến AI tại châu Á giảm, trong đó giá cổ phiếu SoftBank lao dốc 13%. Ông kêu gọi xây dựng khung quản lý cấp liên bang và mong Washington hỗ trợ điều phối quốc tế. #AnToanAI# #OpenAI#

144Quản trị an toànBên ngoàiBản gốc tiếng Trung14/09/2026IT之家

Chủ tịch Hội đồng Cố vấn Công nghệ của Tổng thống Mỹ chỉ trích gay gắt OpenAI, Anthropic: Đừng lấy lý do trì hoãn để tìm kiếm sự bảo hộ từ quy định

Cố vấn công nghệ Mỹ Sacks cáo buộc OpenAI và Anthropic tìm kiếm miễn trừ quy định bằng cách lấy việc làm chậm nghiên cứu và phát triển làm con bài mặc cả, cho rằng hai công ty này đã hình thành thế độc quyền song mã và đặt nghi vấn về động cơ của họ. #Quản lýAI#

145Quản trị an toànBên ngoàiBản gốc tiếng Trung13/09/2026IT之家

Nhà nghiên cứu an toàn của Google DeepMind nghỉ việc, cho rằng xác suất AI gây ra thảm họa nghiêm trọng trong 5 năm tới cao đến mức đáng sợ

Nhà nghiên cứu Engles của Google DeepMind đã nghỉ việc để gia nhập tổ chức đánh giá độc lập METR, công khai cảnh báo rằng xác suất các hệ thống AI gây ra thảm họa nghiêm trọng trong 5 năm tới cao đáng kinh ngạc. Ông kêu gọi kiểm soát tốc độ nghiên cứu và phát triển AI để bảo đảm hệ thống an toàn theo kịp. Nhiều người trong ngành, trong đó có CEO Anthropic, cũng bày tỏ những lo ngại tương tự. #AnToanAI#

146Quản trị an toànBên ngoàiBản gốc tiếng Trung12/09/2026IT之家

Blogger nuôi dạy con phơi bày Meta AI có thể thu thập dữ liệu hằng ngày để “tổng hợp và tạo thông tin riêng tư về gia đình”, hãng khẩn cấp khắc phục

Meta xác nhận đã khắc phục một lỗi chức năng của Meta AI. Trước đó, lỗi này có thể chủ động đề xuất cho người dùng các câu hỏi liên quan đến quyền riêng tư, thậm chí tổng hợp hồ sơ cá nhân bao gồm cả trẻ em. Vụ việc bắt nguồn từ video của một blogger nuôi dạy con, làm dấy lên lo ngại của phụ huynh về rủi ro quyền riêng tư AI khi đăng ảnh trẻ em lên các nền tảng mạng xã hội. #AIvàquyềnriêngtư#

147Quản trị an toànBên ngoàiBản gốc tiếng Trung12/09/2026IT之家

Altman xác nhận: OpenAI sẽ không lên sàn trong năm nay

CEO OpenAI Altman khẳng định trong cuộc phỏng vấn với Fortune rằng công ty sẽ không lên sàn trong năm nay, đồng thời gợi ý khả năng ký thỏa thuận với các công ty AI tiên phong khác để làm chậm quá trình phát triển AI nhằm ứng phó với rủi ro an toàn. Ông cũng tiết lộ rằng vì lý do an toàn, OpenAI đã cân nhắc tạm dừng phát triển AI tiên phong. #OpenAI# #AnToanTriTueNhanTao#

148Quản trị an toànBên ngoàiBản gốc tiếng Trung12/09/2026IT之家

Sau khi nhà nghiên cứu Anthropic cảnh báo “AI sẽ diệt vong nhân loại”, các nghị sĩ Mỹ thuộc cả hai đảng kêu gọi chính phủ hành động nhiều hơn

Liên tiếp xảy ra các sự việc như tác nhân AI mất kiểm soát xâm nhập hệ thống bên ngoài và các nhà nghiên cứu an toàn AI rời đi vì lo ngại rủi ro công nghệ. Các nghị sĩ Mỹ thuộc cả Đảng Dân chủ và Đảng Cộng hòa đều cảnh giác trước vấn đề này, đồng thời kêu gọi chính phủ hành động nhiều hơn.

149Quản trị an toànBên ngoàiBản gốc tiếng Trung12/09/2026IT之家

CEO Hugging Face: Nhà nghiên cứu Anthropic bàn về nguy cơ AI diệt vong cũng giống như thợ sửa điều hòa bàn về biến đổi khí hậu

CEO Hugging Face Clément Delangue đặt câu hỏi về những cuộc thảo luận xoay quanh cựu nhà nghiên cứu Anthropic Jacob Kosen. “Xin lỗi, nhưng để Jacob bàn về nguy cơ AI diệt vong cũng giống như để thợ sửa điều hòa của bạn bàn về biến đổi khí hậu.”

150Quản trị an toànBên ngoàiBản gốc tiếng Trung11/09/2026IT之家

OpenAI thừa nhận tác nhân AI của họ từng thực hiện cuộc tấn công mạng nhằm vào trình quản lý gói RubyGems của ngôn ngữ Ruby

RubyGems là trình quản lý gói dành cho ngôn ngữ Ruby, được dùng để tạo, chia sẻ và cài đặt các thư viện Ruby (gọi là gem), tương tự pip của Python hoặc npm của Node.js.

151Quản trị an toànBên ngoàiBản gốc tiếng Trung11/09/2026IT之家

Một luật sư Mỹ dùng ChatGPT soạn văn bản tố tụng nhưng xuất hiện lời khai giả của cảnh sát, bị phạt 5.000 USD

Tòa án Tối cao bang New Mexico, Mỹ, phán quyết rằng Arends đã phạm tội khinh miệt tòa án vì không xác minh tính chính xác của văn bản được đệ trình, do đó phạt người này 5.000 USD. Arends thừa nhận đã sử dụng AI để soạn thảo văn bản.

152Quản trị an toànBên ngoàiBản gốc tiếng Trung11/09/2026IT之家

CEO Y Combinator Chen Jiaxing: Đừng quá chú ý đến ngày tận thế do AI, hãy cảnh giác với những rủi ro an toàn AI trong thực tế

CEO Y Combinator Chen Jiaxing cho rằng mọi người đang dành quá nhiều sự chú ý cho những kịch bản ngày tận thế do AI kiểu Hollywood, qua đó bỏ qua những rủi ro thực sự đã hiện hữu trước mắt.

153Quản trị an toànBên ngoàiBản gốc tiếng Trung11/09/2026IT之家

California ban hành đạo luật bảo đảm an toàn AI đầu tiên của Mỹ

Hai dự luật được thống đốc bang ký cùng ngày đã cùng xây dựng khuôn khổ đánh giá và kiểm toán độc lập bên thứ ba trong lĩnh vực AI, đặt nền tảng để nâng cao tính minh bạch và thiết lập cơ chế trách nhiệm giải trình.

154Quản trị an toànBên ngoàiBản gốc tiếng Trung11/09/2026IT之家

ChatGPT, Claude, Gemini và Grok bàn về rủi ro AI: Lạm dụng thực tế hơn tấn công chủ động, vũ khí sinh học và tấn công mạng cấp bách hơn robot sát thủ trong "Kẻ hủy diệt"

Business Insider hỏi bốn mô hình ngôn ngữ lớn hàng đầu về nguy cơ AI khiến nhân loại tuyệt chủng. Cả bốn AI đều cho rằng con người lạm dụng AI để chế tạo vũ khí sinh học và tiến hành tấn công mạng thực tế, cấp bách hơn việc robot sát thủ tấn công. #Thảo luậnRủi roAI#

155Quản trị an toànBên ngoàiBản gốc tiếng Trung10/09/2026IT之家

Lý Khai Phục: AI không thể chịu trách nhiệm

CEO Lý Khai Phục của Zero One All Things phát biểu tại Hội chợ Đầu tư và Thương mại lần thứ 26 rằng AI đang chuyển từ cung cấp câu trả lời sang thực hiện nhiệm vụ và hỗ trợ ra quyết định. Tuy nhiên, để thực sự chuyển đổi bằng AI, cần có sự thúc đẩy từ cấp quản lý cao nhất và ứng dụng AI vào các vấn đề chiến lược cốt lõi của doanh nghiệp. Ông nhấn mạnh AI có thể hỗ trợ nhận diện rủi ro và nâng cao chất lượng quyết định, nhưng cuối cùng con người vẫn phải chịu trách nhiệm. #TráchNhiệmAI#

156Quản trị an toànBên ngoàiBản gốc tiếng Trung10/09/2026IT之家

CEO Tập đoàn Ant Hàn Hâm Nghị: Ant sẽ triển khai chính sách khuyến khích để đẩy nhanh xây dựng hệ sinh thái cung cầu tác nhân AI

Hàn Hâm Nghị cho rằng hai phía cung và cầu của tác nhân AI vẫn chưa hình thành vòng tuần hoàn tích cực. Ant sẽ đóng vai trò “chất xúc tác”, phá vỡ thế bế tắc bằng cách giải quyết vấn đề niềm tin và thúc đẩy bánh đà hệ sinh thái. Để kết nối nhu cầu của người dùng với dịch vụ của nhà bán hàng, “A Bảo” của Alipay sẽ triển khai chính sách khuyến khích, thúc đẩy các nhà phát triển xây dựng những tác nhân AI chất lượng hơn. #tácnhânAI#

157Quản trị an toànBên ngoàiBản gốc tiếng Trung10/09/2026IT之家

Sau nhiều tháng đàm phán, Anthropic mở quyền truy cập Mythos 5 cho EU

Sau nhiều tháng đàm phán, Cơ quan An ninh mạng EU ENISA cuối cùng đã được quyền truy cập mô hình AI hiệu năng cao Mythos của Anthropic, nhưng không thể sử dụng phiên bản mới nhất. Trước đó, Nhà Trắng từng hạn chế quyền truy cập của các tổ chức nước ngoài. Động thái này nhằm tăng cường rà soát các lỗ hổng an ninh mạng. #AI安全#

158Quản trị an toànBên ngoàiBản gốc tiếng Trung10/09/2026IT之家

Tác nhân AI xuất hiện hành vi mất kiểm soát, OpenAI kêu gọi Mỹ ban hành quy định an toàn AI bắt buộc trên toàn quốc

OpenAI công khai kêu gọi Mỹ xây dựng các quy định an toàn AI quốc gia bắt buộc, dựa trên năng lực, nhằm ứng phó với nguy cơ tác nhân AI mất kiểm soát và “AI tăng tốc AI”. Công ty ủng hộ bốn dự luật liên quan của California và thúc giục Quốc hội hành động trước kỳ nghỉ tháng 12. #AnToànAI# #OpenAI#

159Quản trị an toànBên ngoàiBản gốc tiếng Trung10/09/2026IT之家

Anthropic tiết lộ sự cố thứ tư khi mô hình Claude truy cập trái phép vào hệ thống bên thứ ba thực tế

Anthropic từng công bố ba sự cố mô hình Claude truy cập trái phép vào hệ thống bên thứ ba thực tế vào ngày 30 tháng 7 theo giờ địa phương.

160Quản trị an toànBên ngoàiBản gốc tiếng Trung09/09/2026IT之家

Một trường tư thục ở Mỹ quảng bá “giảng dạy bằng AI” nhưng bị phát hiện giao cho học sinh nhiều nhiệm vụ mang tính “làm nhục”

Nhà viết chính sách giáo dục kiêm nhà khoa học nhận thức Benjamin Riley gần đây đã đăng một bài viết với ngôn từ gay gắt, phân tích hoạt động nội bộ của Trường Alpha. Trường Alpha đào tạo từ mẫu giáo đến lớp 12; ngoài việc quảng bá mô hình giảng dạy bằng AI, trường còn có nhiều cách sắp xếp gây nghi ngờ.

161Quản trị an toànBên ngoàiBản gốc tiếng Trung09/09/2026IT之家

Chi tiết mới về vụ tranh chấp bản quyền đào tạo AI của OpenAI: GPT-5 có thể thay George ·R·R· Martin viết 《A Song of Ice and Fire》

Theo bài viết được truyền thông công nghệ torrentfreak đăng hôm qua (ngày 8 tháng 9), nhiều tác giả sách đã nộp đơn đề nghị phán quyết tóm tắt lên Tòa án Liên bang New York trong tuần này, yêu cầu thẩm phán xác định rằng OpenAI đã sao chép tác phẩm mà không được phép và hành vi liên quan không cấu thành sử dụng hợp lý.

162Quản trị an toànBên ngoàiBản gốc tiếng Trung08/09/2026IT之家

Chuyên gia bảo mật sử dụng AI phát triển nhanh virus sâu WeChat không cần nhấp chuột đầu tiên, lỗ hổng liên quan đã được khắc phục

Công ty Calif cho biết, trước đây để hoàn thành một loại virus sâu quy mô lớn như vậy cần cả đội ngũ lớn làm việc trong nhiều tháng, còn hiện nay AI đã có thể đảm nhiệm phần lớn công việc.

163Quản trị an toànBên ngoàiBản gốc tiếng Trung06/09/2026IT之家

Khoản tiền dàn xếp bản quyền AI trị giá 1,5 tỷ USD của Anthropic bắt đầu được chi trả, nhưng tranh cãi về phân bổ bồi thường giữa các nhà xuất bản và tác giả vẫn tiếp diễn

Trong giai đoạn chi trả tiền dàn xếp, nhiều nhà xuất bản bị phát hiện đã nhận nhầm khoản bồi thường cho những cuốn sách có bản quyền đã được hoàn trả từ lâu. Một số tổ chức còn yêu cầu vượt mức; hiện đã có nhà xuất bản thừa nhận sai sót và điều chỉnh. #TranhChấpBảnQuyềnAI#

164Quản trị an toànBên ngoàiBản gốc tiếng Trung06/09/2026IT之家

Kho ứng dụng Android mã nguồn mở F-Droid cân nhắc noi theo chính sách AI của Debian: Cho phép sử dụng AI, người đóng góp chịu trách nhiệm cuối cùng

Sau khi Debian thông qua nghị quyết bỏ phiếu bằng mô hình ngôn ngữ lớn, kho ứng dụng Android mã nguồn mở F-Droid đang cân nhắc làm theo và áp dụng chính sách tương tự. Chính sách này cho phép sử dụng #AI tạo sinh# khi đáp ứng các yêu cầu về chất lượng và tuân thủ, nhưng trách nhiệm cuối cùng thuộc về các nhà phát triển con người, đồng thời không bắt buộc công khai việc sử dụng AI. #F-Droid#

165Quản trị an toànBên ngoàiBản gốc tiếng Trung05/09/2026IT之家

Hai hãng truyền thông Mỹ kiện OpenAI và Microsoft, cáo buộc hoạt động đào tạo AI xâm phạm bản quyền

The Seattle Times và Newsday đã chính thức kiện OpenAI và Microsoft vào thứ Sáu tuần này (ngày 4 tháng 9).

166Quản trị an toànBên ngoàiBản gốc tiếng Trung05/09/2026IT之家

ChatGPT liên quan đến vụ xả súng tại trường học, OpenAI đối mặt với hơn 50 vụ kiện

Rủi ro pháp lý mà OpenAI phải đối mặt tiếp tục gia tăng. Hiện đã có hơn 50 vụ kiện nhằm vào OpenAI. Các nguyên đơn cáo buộc rằng sau khi sử dụng ChatGPT nhiều, bản thân người dùng hoặc những người xung quanh họ đã gặp tổn hại về tâm lý, tổn hại về thể chất, thậm chí tử vong.

167Quản trị an toànBên ngoàiBản gốc tiếng Trung05/09/2026IT之家

Người leo núi ở California, Mỹ tin nhầm thông tin lộ trình của Google Gemini và cuối cùng bị mắc kẹt trên núi

Thông tin về thời gian di chuyển và các yếu tố khác do AI cung cấp sai lệch nghiêm trọng, thời gian thực tế gấp đôi dự kiến. Người leo núi cuối cùng bị lạc và bị thương, đến ngày hôm sau mới được cảnh sát giải cứu. Sự việc một lần nữa cho thấy những hạn chế của AI trong các tình huống rủi ro cao. #AnToanAI# #GoogleGemini#

168Quản trị an toànBên ngoàiBản gốc tiếng Trung04/09/2026IT之家

Altman: Mô hình OpenAI Astra tham gia chương trình đánh giá tự nguyện của chính phủ Mỹ

Astra là mô hình AI đầu tiên của OpenAI được xếp vào cấp độ an ninh mạng quan trọng. Altman cho biết quá trình đánh giá mang lại hiệu quả, đồng thời kêu gọi nhìn nhận thực tế về quản lý và phát triển AI. #Mô hình OpenAI Astra#

169Quản trị an toànBên ngoàiBản gốc tiếng Trung04/09/2026IT之家

Dallas, Mỹ dùng camera AI tích hợp trên xe chở rác để chấm “điểm xuống cấp” cho các tòa nhà, người dân lo ngại vấn đề quyền riêng tư

Theo TechSpot, một phương tiện truyền thông nước ngoài, đưa tin hôm nay (ngày 3), thành phố Dallas đã triển khai chính sách mới: sử dụng camera AI lắp trên xe thu gom rác để kiểm tra các bất động sản dọc tuyến đường và chấm “điểm xuống cấp” dựa trên những vi phạm quy định đô thị mà hệ thống phát hiện.

170Quản trị an toànBên ngoàiBản gốc tiếng Trung04/09/2026IT之家

OpenAI sẽ triệu tập khoảng 300 lãnh đạo trong lĩnh vực an ninh để chuẩn bị công bố liên quan đến an ninh mạng

Người phát ngôn của OpenAI cho biết vào thứ Năm theo giờ địa phương, Brockman sẽ công bố kế hoạch này tại một hội nghị thượng đỉnh về an ninh mạng được tổ chức tại trụ sở OpenAI. Dự kiến, sự kiện sẽ có khoảng 300 lãnh đạo an ninh doanh nghiệp và giám đốc an ninh thông tin của các công ty thuộc Fortune 100 tham dự.

171Quản trị an toànBên ngoàiBản gốc tiếng Trung04/09/2026IT之家

HTC ra mắt kính thông minh AI VIVE Eagle: Tập trung bảo vệ quyền riêng tư, giá từ 499 USD

VIVE Eagle hướng đến việc giúp người dùng thoát khỏi những hạn chế của màn hình và thao tác bằng tay. Kính hỗ trợ khẩu lệnh và nút vật lý có thể lập trình, cho phép người dùng tiếp tục tập trung vào môi trường xung quanh khi đạp xe trong công viên hoặc khám phá một thành phố xa lạ, đồng thời ghi lại ảnh và video.

172Quản trị an toànBên ngoàiBản gốc tiếng Trung04/09/2026IT之家

OpenAI GPT-6 Astra ra mắt: Lần đầu đạt ngưỡng năng lực an ninh mạng cấp “then chốt”, Brockman cho rằng kỷ nguyên AGI đã đến

Đây là mô hình ngôn ngữ lớn mạnh nhất hiện nay của OpenAI, nhưng cũng thừa nhận khả năng giám sát mô hình đã giảm, đồng thời tăng cường các biện pháp bảo vệ an toàn. #OpenAI GPT-6#

173Quản trị an toàn02/09/2026IT之家

Google ra mắt mô hình Gemini 3.8 Flash Cyber, đã được triển khai toàn diện nội bộ để bảo vệ an toàn mã nguồn

Ngày 2 tháng 9 theo giờ địa phương, Google công bố ra mắt mô hình Gemini 3.8 Flash Cyber và cung cấp cho các nhóm bảo mật được tin cậy đầu tiên thông qua chương trình Fairwind.

174Quản trị an toàn02/09/2026IT之家

Mỹ kêu gọi các nước thành viên G20 kiềm chế trong quản lý AI, tránh ban hành quá nhiều quy định mới

Tại cuộc họp G20, Mỹ chủ trương thận trọng trong quản lý AI và tránh ban hành quá nhiều quy định mới, phù hợp với mong muốn của các ông lớn công nghệ như Google, Meta và SpaceX. Hội nghị thảo luận về kiểm thử an toàn AI, mô hình mở trọng số và những thách thức từ sự trỗi dậy của năng lực AI Trung Quốc. #Quản lýAI#

175Quản trị an toàn02/09/2026IT之家

OpenAI rút kinh nghiệm từ sự cố “bẻ khóa AI”, hạn chế tính năng an ninh mạng của Astra, mô hình đầu tiên đạt ngưỡng “Nghiêm trọng” vì năng lực quá mạnh

Theo Bloomberg, OpenAI dự kiến sớm phát hành mô hình AI mới Astra, nhưng ban đầu chỉ cho phép một số ít người thử nghiệm sử dụng các tính năng an ninh mạng nâng cao của mô hình. Công ty cho biết Astra đã chạm ngưỡng năng lực an ninh mạng “Nghiêm trọng”, có thể tự động nhận diện lỗ hổng zero-day và đã tăng cường các biện pháp bảo vệ để ngăn lạm dụng. #OpenAI# Trước đó từng xảy ra sự cố mô hình AI vô tình tấn công.

176Quản trị an toànBên ngoàiBản gốc tiếng Trung01/09/2026IT之家

Cục Quản lý Không gian mạng Trung ương: Lĩnh vực AI hiện đối mặt với 5 nhóm rủi ro và thách thức an ninh chính

Tại họp báo Tuần lễ Tuyên truyền An ninh mạng Quốc gia năm 2026 diễn ra hôm nay (ngày 1 tháng 9), bà Vương Lệ Hoành, Phó Cục trưởng kiêm Thanh tra viên cấp một của Cục Điều phối An ninh mạng thuộc Cục Quản lý Không gian mạng Trung ương, cho biết lĩnh vực trí tuệ nhân tạo hiện chủ yếu đối mặt với 5 nhóm rủi ro và thách thức an ninh.

177Quản trị an toànBên ngoàiBản gốc tiếng Trung31/08/2026IT之家

Cơ quan quản lý Anh cảnh báo: Công cụ phiên âm AI y tế thường xuyên mắc lỗi, đe dọa an toàn bệnh nhân

Cơ quan quản lý NHS của Anh cảnh báo các công cụ AI ghi chép y tế có thể nhận diện sai tên thuốc và bệnh. Một bệnh nhân bị chẩn đoán nhầm là “mất myelin”, suýt ảnh hưởng đến việc điều trị. Các chuyên gia kêu gọi thiết lập cơ chế sửa lỗi rõ ràng để bảo đảm an toàn cho bệnh nhân. #AnToanA yTe#

178Quản trị an toàn31/08/2026IT之家

Thống đốc Ngân hàng Anh Bailey cảnh báo: Trí tuệ nhân tạo tiên tiến đe dọa sự ổn định tài chính toàn cầu

Thống đốc Ngân hàng Anh Andrew Bailey cho biết trong thư gửi các bộ trưởng tài chính G20 rằng các mô hình AI tiên phong có thể làm gián đoạn hệ thống tài chính toàn cầu thông qua các cuộc tấn công mạng, với thiệt hại có thể nhanh chóng lan rộng. Ông kêu gọi các quốc gia xây dựng cơ chế bảo đảm triển khai AI an toàn. 1367 nhà nghiên cứu AI đã cùng ký cảnh báo rằng năng lực AI có thể vượt quá khả năng kiểm soát của con người. #AnToanAI# #RuiRoTaiChinh#

179Quản trị an toàn30/08/2026IT之家

Mức đỉnh trung bình 11,3 vụ/ngày: Báo cáo cho biết năm 2026 đã ghi nhận 1664 sự cố AI mất kiểm soát, tháng 7 tăng 93,76% so với tháng trước

Trung tâm Khả năng chống chịu dài hạn của Anh (CLTR) công bố báo cáo ngày 28 tháng 8, cho biết “Đài quan sát mất kiểm soát” đã ghi nhận tổng cộng 306 sự cố an toàn AI trong tháng 7 năm 2026, tăng 93,67% so với tháng 6 (158 vụ).

180Quản trị an toànBên ngoàiBản gốc tiếng Trung29/08/2026IT之家

Khung an toàn của Anthropic tự động hạ cấp: Claude vô tình xóa thư mục chính 700 GB của nhà phát triển, tác vụ dọn dẹp tự động biến thành thảm họa

Khi thử nghiệm cơ chế bảo vệ xóa tệp bằng AI, một nhà phát triển đã vô tình xóa toàn bộ thư mục chính của người dùng do khung an toàn của Anthropic tự động hạ cấp mô hình và lỗi tái sử dụng tên biến trong bước dọn dẹp sau thử nghiệm. Dù khôi phục được một phần dữ liệu, vẫn có dữ liệu bị mất, qua đó cho thấy những vấn đề mới về an toàn AI. #AnToanAI# #Claude#

181Quản trị an toàn29/08/2026IT之家

Cộng đồng Debian bỏ phiếu về đề xuất: Nhà phát triển được sử dụng AI tạo sinh và chịu trách nhiệm cuối cùng

Cộng đồng Debian gần đây đã bỏ phiếu quyết định cho phép nhà phát triển sử dụng AI tạo sinh một cách có trách nhiệm. Chính sách mới không cấm dùng AI để hỗ trợ phát triển phần mềm và viết tài liệu, nhưng yêu cầu nhà phát triển chịu trách nhiệm cuối cùng về nội dung do AI tạo ra, đồng thời bảo đảm chất lượng và tuân thủ pháp luật. Động thái này cân bằng giữa hiệu quả của AI và rủi ro pháp lý trong cộng đồng nguồn mở. #ChínhSáchDebianAI#

182Quản trị an toàn28/08/2026IT之家

OpenAI nộp đơn kiến nghị mới, yêu cầu bác đơn kiện của Apple

Trước cáo buộc đánh cắp bí mật thương mại từ Apple, OpenAI gần đây đã nộp đơn kiến nghị mới, yêu cầu tòa án bác bỏ hoàn toàn vụ kiện. OpenAI cho rằng Apple thiếu bằng chứng, đồng thời hai cựu nhân viên không lạm dụng thông tin mật. Tòa án dự kiến tổ chức phiên điều trần vào ngày 1 tháng 10. #OpenAIkiệnApple#

183Quản trị an toànBên ngoàiBản gốc tiếng Trung28/08/2026IT之家

Thẩm phán liên bang bang California, Mỹ phán quyết Anthropic thắng kiện trong vụ kiện với Bộ Quốc phòng Mỹ và các bên khác

Anthropic cũng đã kiện Bộ Quốc phòng Mỹ tại Washington, D.C. Công ty cần thắng thêm một lần nữa để hoàn toàn được gỡ khỏi diện “danh sách đen”.

184Quản trị an toàn28/08/2026IT之家

OpenAI, Microsoft, Google cùng 116 công ty gửi thư chung, kêu gọi đặc biệt coi trọng an ninh mạng trong kỷ nguyên AI

Các bên ký kết lần này gồm doanh nghiệp an ninh mạng, công ty dịch vụ tài chính, nhà sản xuất bán dẫn và nhà cung cấp dịch vụ đám mây.

185Quản trị an toàn27/08/2026IT之家

Đài truyền hình trung ương Trung Quốc phanh phui lừa đảo mai mối bằng AI, dịch vụ môi giới hôn nhân giả nhắm thẳng vào phụ nữ trung niên và cao tuổi

Cảnh sát Thành Đô, Tứ Xuyên triệt phá một đường dây sử dụng hình ảnh nam giới do AI tạo ra để lừa đảo tình cảm, với số tiền liên quan lên đến hơn một triệu nhân dân tệ. Đường dây này dẫn dụ nạn nhân qua các nền tảng video ngắn, thậm chí sử dụng thiết bị biến đổi giọng nói để “kết nối trực tiếp” với nạn nhân. #LừaĐảoAI##BẫyTìnhCảm# Chuyên gia kêu gọi các nền tảng tăng cường nhận diện kỹ thuật và cảnh báo rủi ro.

186Quản trị an toàn27/08/2026IT之家

OpenAI công bố báo cáo chính thức về sự cố bảo mật Hugging Face, tái hiện toàn bộ quá trình mô hình AI thoát khỏi sandbox

OpenAI gần đây đã công bố báo cáo tái hiện chi tiết diễn biến vụ Hugging Face bị xâm nhập. Trong quá trình thử nghiệm, một mô hình AI đã liên kết nhiều lỗ hổng do gặp phải nhiệm vụ không có lời giải, qua đó vượt qua các giới hạn bảo mật. Báo cáo tiết lộ danh tính mô hình cùng các biện pháp bảo mật tiếp theo, trong đó có tăng cường giám sát chuỗi suy nghĩ. Sự cố một lần nữa dấy lên những suy ngẫm về ranh giới an toàn của AI. #AnToanAI#

187Quản trị an toànBên ngoàiBản gốc tiếng Trung25/08/2026IT之家

Nhóm nghiên cứu phát hiện hơn 70% bài báo y sinh bằng tiếng Anh đã sử dụng AI hỗ trợ viết, kêu gọi ngành xây dựng cơ chế giám sát hoàn thiện

Sau khi phân tích hơn một triệu bài báo y sinh, nhóm nghiên cứu phát hiện hơn 70% bài báo y sinh bằng tiếng Anh năm 2025 đã có dấu hiệu sử dụng AI hỗ trợ viết; tỷ lệ này tại các khu vực không sử dụng tiếng Anh là hơn 80%. Việc AI được sử dụng rộng rãi trong viết học thuật cũng tiềm ẩn rủi ro, các chuyên gia kêu gọi hoàn thiện quy chuẩn sử dụng #AI学术写作#

188Quản trị an toàn24/08/2026IT之家

Một tác phẩm tại Triển lãm tranh minh họa sách thiếu nhi lần thứ nhất của Hiệp hội Nghệ thuật Trung Quốc bị chỉ ra là do AI tạo ra, nhân viên phản hồi: “Đã gỡ xuống”

Một tác phẩm mang tên “Đựng mùa hè vào cặp sách” được trưng bày tại Bảo tàng Nghệ thuật Sơn Đông, nhưng bị tố cáo vì có những đặc điểm rõ rệt của nội dung do AI tạo ra, như ngón tay trẻ em bị vặn vẹo, có sáu ngón. Hiệp hội Nghệ thuật Trung Quốc phản hồi rằng tư cách tham gia triển lãm của tác phẩm đã bị hủy. #TranhCãiVềSángTạoBằngAI# #TriểnLãmTranhMinhHọaSáchThiếuNhi#

189Quản trị an toàn24/08/2026IT之家

OpenAI ra mắt ChatGPT dành cho thanh thiếu niên, nhiều chuyên gia an toàn trẻ em nghi ngờ tính minh bạch của cơ chế an toàn

Nhiều chuyên gia an toàn trẻ em có đánh giá khác nhau về phiên bản ChatGPT dành cho thanh thiếu niên, nhưng tất cả đều cho rằng hệ thống này cần trải qua nhiều cuộc kiểm thử độc lập trước khi được giới thiệu cho phụ huynh và người trẻ. OpenAI phải minh bạch hơn về cách thức vận hành của các cơ chế an toàn.

190Quản trị an toàn24/08/2026IT之家

Giám đốc phụ trách các vấn đề toàn cầu của OpenAI Lehane: Công chúng và doanh nghiệp cần chuẩn bị phòng thủ trước các cuộc tấn công mạng bằng AI

Khi rủi ro an ninh gia tăng, OpenAI tuần này thông báo tạm dừng phát triển một số mô hình nội bộ tiên tiến nhất. Lehane cho biết: “Xét những gì công nghệ này hiện có thể làm được, AI đã bước sang một giai đoạn khác.”

191Quản trị an toàn24/08/2026IT之家

Twitch đối mặt với vụ kiện tập thể vì sử dụng nội dung của streamer để huấn luyện AI Amazon

Twitch và Amazon bị khởi kiện tập thể tại California vì sử dụng trái phép nội dung của streamer để huấn luyện AI. Nguyên đơn cáo buộc nền tảng vi phạm thỏa thuận và cơ chế từ chối tham gia chưa hoàn thiện. Động thái này vấp phải sự phản đối mạnh mẽ từ cộng đồng streamer, những người yêu cầu các tính năng AI phải trở thành tùy chọn. #TranhCaiTwitchAI#

192Quản trị an toàn23/08/2026IT之家

Báo cáo “Quản trị chuyển đổi” của PwC được cho là có 84% khả năng hoàn toàn do AI tạo ra

Trang tin công nghệ gptzero đăng bài viết vào ngày 28 tháng 7, cho biết 4 báo cáo nghiên cứu về Trung Đông do PwC phát hành trong giai đoạn 2024~2026 chứa nhiều thông tin bịa đặt và tuyên bố sai sự thật.

193Quản trị an toàn23/08/2026IT之家

Nhân viên dùng AI nộp hàng loạt đơn kiện, đơn từ tại tòa lao động Anh tăng vọt

Số vụ việc tại tòa lao động Anh tăng 39% trong tháng 3 năm nay, trong khi số vụ tồn đọng tăng 55%. Nguyên nhân là nhân viên dùng các công cụ AI như ChatGPT để miễn phí soạn đơn, dẫn đến hàng loạt “ảo giác pháp lý” và những bộ hồ sơ vô hiệu dài hàng trăm trang. Dự luật mới còn bổ sung 25 căn cứ khiếu nại, khiến những nhân viên thực sự cần trợ giúp phải chờ lâu hơn. #Rủi ro pháp lý AI#

194Quản trị an toàn23/08/2026IT之家

OpenAI mở rộng dịch vụ phòng thủ an ninh mạng Daybreak, ra mắt mô hình AI mới GPT-5.6-Cyber

OpenAI công bố mở rộng dịch vụ phòng thủ an ninh mạng Daybreak, bổ sung hai cấp độ Blue và Red, đồng thời ra mắt mô hình GPT-5.6-Cyber được thiết kế riêng cho các nhiệm vụ bảo mật. Động thái này nhằm ứng phó với các cuộc tấn công độc hại ngày càng gia tăng do tác nhân AI thực hiện. Hiện mô hình chỉ được cung cấp cho các khách hàng đáng tin cậy như CrowdStrike và IBM. #AnNinhAI#

195Quản trị an toàn23/08/2026IT之家

“Cha đỡ đầu AI” Hinton: Trí tuệ nhân tạo có thể phát triển mục tiêu riêng, điều này rất đáng sợ

Hinton cho biết trong một cuộc phỏng vấn rằng AI có thể suy ra những mục tiêu mà con người không dự liệu, thậm chí gây hại cho con người để đạt được mục tiêu. Vụ mô hình của OpenAI xâm nhập hệ thống Hugging Face vào tháng trước cũng cho thấy những rủi ro liên quan. #AnToanAI#

196Quản trị an toàn22/08/2026IT之家

AI hỗ trợ “bác bỏ” giả thuyết Collatz thất bại, Lean 4.32.2 vá lỗ hổng kernel

Hãng truyền thông công nghệ Gigazine hôm qua (3 tháng 8) đăng bài viết cho biết một chứng minh hình thức trong Lean, được thực hiện với sự hỗ trợ của AI và tuyên bố bác bỏ giả thuyết Collatz, đã được xác nhận là không hợp lệ.

197Quản trị an toàn22/08/2026IT之家

Anh nghiên cứu nhiều biện pháp phòng ngừa để ngăn khủng bố lợi dụng AI chế tạo vũ khí sinh học

Chính phủ Anh chuẩn bị quản lý việc ứng dụng trí tuệ nhân tạo trong lĩnh vực tổng hợp gene. Trong bối cảnh quan chức ngày càng lo ngại về rủi ro an ninh sinh học, chính phủ Anh cho rằng nếu thế giới thiếu cơ chế quản lý hiệu quả, AI có thể hạ thấp ngưỡng chế tạo vũ khí sinh học.

198Quản trị an toàn22/08/2026IT之家

OpenAI công bố chính sách an toàn mới, tăng cường giám sát phát triển mô hình và cách ly mạng

OpenAI hôm thứ Ba theo giờ địa phương đã công bố một loạt biện pháp an toàn mới, tập trung vào việc tăng cường giám sát trong quá trình thử nghiệm mô hình, củng cố cách ly mạng và cam kết phát cảnh báo trong vòng 30 phút sau khi phát hiện hoạt động đáng ngờ. Động thái này bắt nguồn từ sự cố an ninh Hugging Face xảy ra trước đó, nhưng công ty cho biết đây không phải là biện pháp nhắm trực tiếp vào sự cố này. Các biện pháp sẽ ngày càng nghiêm ngặt hơn khi năng lực mô hình được nâng cao. #AnToanOpenAI#

199Quản trị an toàn22/08/2026IT之家

Frontier Security: Mô hình Kimi K3 của Moonshot AI thoát khỏi sandbox trong kiểm tra bảo mật, nhưng không thực hiện hành vi tấn công

Công ty bảo mật Mỹ Frontier Security khi kiểm tra đã phát hiện mô hình Kimi K3 của Moonshot AI vượt qua giới hạn sandbox và tự truy cập Internet. Dù nó chỉ lên GitHub tìm câu trả lời, không tiến hành tấn công, sự việc vẫn cho thấy cơ chế bảo mật yếu. Các vụ AI vượt thoát xảy ra ngày càng thường xuyên, con người có thể cần thiết kế lại môi trường sandbox. #AnToànAI#

200Quản trị an toàn22/08/2026IT之家

Lỗ hổng AI Copilot của Microsoft bị tiết lộ: Liên kết độc hại vượt qua xác nhận người dùng để đánh cắp dữ liệu riêng tư

Trang công nghệ Ars Technica hôm qua (ngày 18 tháng 8) đăng bài viết, cho biết Microsoft Copilot tồn tại lỗ hổng bảo mật, có thể dùng tham số ?autorun=1 kết hợp với ?q= để vượt qua xác nhận của người dùng, từ đó đánh cắp thông tin người dùng.

201Quản trị an toàn22/08/2026IT之家

Công ty bảo mật tiết lộ công cụ tìm kiếm Google có thể tìm thấy các cuộc trò chuyện Claude được chia sẻ công khai, dễ làm lộ thông tin nhạy cảm của người dùng

Công ty bảo mật phát hiện các bản ghi chat Claude được chia sẻ công khai bị công cụ tìm kiếm Google thu thập và lập chỉ mục, khiến thông tin nhạy cảm của người dùng bị lộ, Grok và Meta AI cũng từng gặp vấn đề tương tự, chuyên gia khuyên không chia sẻ công khai hội thoại AI. #BảoMậtAI#

202Quản trị an toàn22/08/2026IT之家

CEO Hugging Face Delangue: Trung Quốc đang thắng cuộc đua AI, còn Mỹ thì “mạnh ai nấy làm”

CEO Hugging Face Delangue cho biết Trung Quốc đang dẫn đầu cuộc đua AI nhờ hệ sinh thái mô hình mở. Ông cảnh báo Mỹ có thể tụt hậu nếu phát triển khép kín, đồng thời nhấn mạnh vai trò then chốt của mô hình mở trong phòng thủ trước các cuộc tấn công AI. Gần đây, Nvidia và các công ty khác cũng kêu gọi không hạn chế mô hình AI trọng số mở. #CuộcđuaAI#

203Quản trị an toàn22/08/2026IT之家

CEO Hugging Face Delangue: Doanh nghiệp AI nên chủ động công bố sự cố xâm nhập bảo mật

CEO Hugging Face Delangue cho rằng việc hạn chế phát hành các mô hình tiên tiến không thể ngăn tin tặc tấn công, ngược lại nên để nhiều người tiếp cận nhằm tăng cường phòng thủ. Ông kêu gọi thiết lập cơ chế công bố các cuộc tấn công mạng của tác nhân AI để truy tìm nguồn gốc vấn đề. #BảoMậtAI#

204Quản trị an toàn22/08/2026IT之家

Độ chính xác 87%-91%, AI có thể xác định địa điểm chụp ảnh qua manh mối hình ảnh

Nghiên cứu mới nhất của McAfee cho thấy AI có thể xác định địa điểm chụp ảnh bằng cách phân tích các manh mối hình ảnh như công trình kiến trúc, biển hiệu và thảm thực vật, với độ chính xác lên tới 87%-91%. Ngay cả khi xóa siêu dữ liệu GPS, ảnh của bạn vẫn có thể tiết lộ hành trình hoặc bị kẻ lừa đảo lợi dụng. #Bảo mật riêng tư#

205Quản trị an toàn22/08/2026IT之家

Chính phủ Mỹ hoàn tất xây dựng khung đánh giá tự nguyện đối với các mô hình AI tiên tiến, nội dung chưa được công bố

Khung này bao gồm nhiều yêu cầu về bảo mật, an toàn và các lĩnh vực khác. Hiện mới hoàn tất việc xây dựng, chưa công bố chi tiết; Nhà Trắng dự kiến họp với các doanh nghiệp liên quan vào thứ Ba để xem xét khung này. #Quản lýAI# #Trítuệnhântạo#

206Quản trị an toàn22/08/2026IT之家

Bảng xếp hạng an toàn AI quốc tế CyberGym công bố hôm nay: Giải pháp Trung Quốc DoGNAVY đứng thứ ba thế giới, số một trong nhóm mã nguồn mở

DoGNAVY, được cùng phát triển bởi viện nghiên cứu AI hàng đầu Trung Quốc và đội ngũ an toàn DARKNAVY, đạt tỷ lệ vượt qua 90,8%, đứng thứ ba thế giới và số một trong nhóm mã nguồn mở.

207Quản trị an toàn21/08/2026IT之家

IBM: 1/4 các sự kiện rò rỉ dữ liệu độc hại do tấn công AI gây ra, thiệt hại cao hơn mức trung bình 20%

62% các cuộc tấn công mạng do AI điều khiển nhắm vào cơ sở hạ tầng quan trọng, trong đó các tổ chức tài chính và năng lượng bị tấn công nhiều nhất.

208Quản trị an toàn21/08/2026IT之家

OpenAI mở rộng cơ chế bảo mật Zero Data Retention, tự động phân tích rủi ro xuyên tương tác

Hôm nay (20/8), OpenAI đăng bài viết, công bố dịch vụ “Zero Data Retention” (không lưu dữ liệu) dành cho khách hàng API mô hình frontier đủ điều kiện; prompt và phản hồi mô hình sẽ bị xóa sau khi xử lý xong yêu cầu.

209Quản trị an toàn21/08/2026IT之家

Lý Phi Phi, “mẹ đỡ đầu AI”: Là người làm công nghệ, cần giải thích rõ hơn “AI có thể mang lại những lợi ích gì”

Lý Phi Phi, “mẹ đỡ đầu AI”, cho rằng những người làm công nghệ, bao gồm cả bà, cần giải thích tốt hơn cho công chúng về giá trị mà trí tuệ nhân tạo có thể mang lại. Bà đồng thời cảnh báo rằng tâm lý phản đối AI trong xã hội Mỹ đang gia tăng, có thể tạo ra rủi ro cho toàn cầu.

210Quản trị an toàn21/08/2026IT之家

Các cuộc tấn công mạng diễn ra thường xuyên, cơ quan chính phủ Pháp sẽ dùng AI để phát hiện lỗ hổng an ninh mạng

Để ứng phó với các cuộc tấn công mạng và sự cố rò rỉ dữ liệu liên tiếp xảy ra, chính phủ Pháp quyết định đưa vào sử dụng công cụ AI nhằm phát hiện lỗ hổng an ninh mạng, đồng thời giao nhiệm vụ này cho một công ty trí tuệ nhân tạo trong nước. Gần đây, nhiều cuộc tấn công đã khiến thông tin của hàng triệu người nộp thuế bị rò rỉ, cho thấy tình hình an ninh rất nghiêm trọng. #AnNinhMạng#

211Quản trị an toàn21/08/2026IT之家

Đề xuất do AI hỗ trợ soạn thảo ồ ạt đổ vào Quốc hội Mỹ: đầy sai sót chi tiết, làm chậm tiến độ thẩm định

Hôm qua (18/8), trang Politico đăng bài viết cho biết trí tuệ nhân tạo (AI) đang bước vào quy trình lập pháp của Quốc hội Mỹ. Hàng loạt đề xuất do AI hỗ trợ soạn thảo ồ ạt đổ vào Quốc hội Mỹ, nhưng luật sư mất nhiều thời gian hơn để dọn dẹp các bản nháp sai sót.

212Quản trị an toànBên ngoàiBản gốc tiếng Trung21/08/2026IT之家

Một người đàn ông ở Florida mô tả kế hoạch “sát hại bạn gái cũ” với ChatGPT, OpenAI đã báo cảnh sát

Darren · Zhou, một người đàn ông ở bang Florida, Mỹ, đã bị OpenAI chủ động báo cáo với FBI vì mô tả kế hoạch sát hại bạn gái cũ với ChatGPT. Điều tra của cảnh sát cho thấy lịch sử trò chuyện của người này chứa đầy lời đe dọa và các cuộc diễn tập; anh ta bị bắt vào tháng 5 năm nay.

213Quản trị an toàn21/08/2026IT之家

Anthropic tự tiết lộ lỗ hổng an toàn: Bộ lọc vũ khí sinh học từng ngừng hoạt động gần một năm, liên quan đến 133 triệu cuộc trò chuyện

Trong thời gian bộ lọc ngừng hoạt động, có 133 triệu cuộc trò chuyện bị ảnh hưởng; hiện chưa phát hiện yêu cầu liên quan bị lạm dụng trên thực tế. Anthropic đã khắc phục vấn đề và tăng cường sàng lọc, quản lý nhà thầu bên ngoài #AI安全#

214Quản trị an toàn21/08/2026IT之家

Báo cáo ủng hộ lệnh cấm mạng xã hội đối với thanh thiếu niên ở Úc có nhiều lỗi trích dẫn, tổ chức thừa nhận dùng ChatGPT để biên tập

Một báo cáo công nghệ xác minh độ tuổi trị giá 3,48 triệu AUD của Úc bị phát hiện có nhiều lỗi trích dẫn. Ban đầu, các tác giả phủ nhận việc sử dụng AI, nhưng sau đó thừa nhận đã dùng ChatGPT để viết lại các đoạn văn. Báo cáo bị chỉ ra có các trích dẫn giả do “ảo giác” AI gây ra, làm dấy lên lo ngại về rủi ro đối với quyết sách của chính phủ. #TranhCãiAI#

215Quản trị an toànBên ngoàiBản gốc tiếng Trung21/08/2026IT之家

Trớ trêu: Nhóm nghị sĩ Mỹ xây dựng quy định quản lý AI lại dùng công cụ AI để soạn dự luật

Theo The Washington Post, các chatbot của OpenAI, Anthropic và xAI đang trở thành công cụ phổ biến tại Quốc hội Mỹ. Trợ lý của hạ nghị sĩ Luna bang Florida đã vô tình dán nội dung do Claude tạo ra vào hồ sơ Đạo luật Ủy quyền Quốc phòng, để lại văn bản lộn xộn. Hiện Quốc hội Mỹ thiếu quy định AI hiệu quả, còn nhân viên chủ yếu tự sử dụng các công cụ này.

216Quản trị an toàn21/08/2026IT之家

Nguồn tin cho biết cơ chế rà soát an ninh mạng AI của Mỹ trong tương lai rất có thể sẽ bao gồm các mô hình mã nguồn mở tiên phong

Theo thông tin, định nghĩa “tiên phong” ở đây là có năng lực tương đương với Anthropic Claude Mythos hoặc OpenAI GPT-5.6. Bài báo không đưa ra phiên bản mô hình tương ứng cụ thể.

217Quản trị an toànBên ngoàiBản gốc tiếng Trung21/08/2026IT之家

Nguồn tin cho biết ByteDance thành lập thêm bộ phận cấp 1 mới sau Seed, Flow, tập trung vào dữ liệu và bảo mật AI

36Kr “Trí tuệ trỗi dậy” hôm nay (ngày 11) dẫn nhiều nguồn tin cho biết, ByteDance gần đây đã thành lập một bộ phận cấp 1 mới — Dữ liệu và bảo mật AI, ngang hàng với các bộ phận như Seed, Flow, Douyin, người phụ trách là Vương Doanh Lỗi (Adam Wang).

218Quản trị an toàn21/08/2026IT之家

李飞飞：AI 进入校园的最大风险，是可能削弱孩子的学习能力

李飞飞认为，最糟糕的结果，是年轻一代的自主性，以及作为人的学习和生活动力被工具夺走。“无论是人还是机器，都不应该夺走它。”

219Quản trị an toànBên ngoàiBản gốc tiếng Trung21/08/2026IT之家

Công cụ tuyển dụng AI được Google tích cực quảng bá bị chính đội ngũ DeepMind “phản đối”: Có thể vô tình loại nhầm hồ sơ xin việc

Đội ngũ An toàn và Căn chỉnh AGI của Google DeepMind, phụ trách giảm thiểu rủi ro của AI tiên tiến, khuyến khích ứng viên ngoài việc nộp hồ sơ theo cách thông thường hãy điền thêm một biểu mẫu riêng để tránh bị hệ thống AI nội bộ của Google tự động loại bỏ.

220Quản trị an toàn21/08/2026IT之家

Trưởng bộ phận đạo đức AI của OpenAI Chloé Bakalar âm thầm rời vị trí sau chưa đầy một năm

Người phát ngôn của OpenAI cho biết: “Chúng tôi cảm ơn những đóng góp của Chloé. Tại OpenAI, đạo đức AI không do một cá nhân hay đội ngũ cụ thể nào chịu trách nhiệm; các cân nhắc về đạo đức đã được tích hợp sâu vào quá trình xây dựng mô hình và có sự tham gia của nhiều nhóm nghiên cứu.”

221Quản trị an toàn21/08/2026IT之家

Thượng nghị sĩ Mỹ gửi thư tới CEO OpenAI, Meta và Anthropic, yêu cầu tạm dừng phát triển AI

Sau các sự cố như tác nhân AI thoát khỏi tầm kiểm soát và xâm nhập nền tảng bên thứ ba, Thượng nghị sĩ Mỹ Bernie Sanders đã gửi thư tới lãnh đạo OpenAI, Anthropic và Meta, yêu cầu tạm dừng phát triển, nếu không Quốc hội sẽ can thiệp. #AnToanAI#

222Quản trị an toàn21/08/2026IT之家

Quy định mới của dự án OpenJDK thuộc Oracle: Không được gửi mã do AI tạo ra

Oracle chính thức thông báo với cộng đồng OpenJDK rằng cấm gửi bất kỳ mã, văn bản hoặc nội dung nào do AI (chẳng hạn như các mô hình ngôn ngữ lớn) tạo ra, với lý do lo ngại về sở hữu trí tuệ, an ninh mạng và khối lượng công việc kiểm tra gia tăng. Tuy nhiên, vẫn được phép sử dụng AI riêng tư để hỗ trợ gỡ lỗi mã. #LậptrìnhAI#

223Quản trị an toàn21/08/2026IT之家

Anthropic tối ưu cơ chế an toàn sinh học của mô hình Claude Fable 5, giảm 85% chặn nhầm

Anthropic hôm qua đã cập nhật cơ chế bảo vệ an toàn sinh học của Claude Fable 5, điều chỉnh bộ phân loại an toàn để phân biệt chính xác hơn giữa câu hỏi vô hại và câu hỏi rủi ro cao. Thử nghiệm chính thức cho thấy hiện tượng hạ cấp trong hỏi đáp liên quan đến sinh học giảm 85%, người dùng hiện có thể xử lý nhiều tác vụ sinh học hơn, đồng thời ngăn chặn việc sử dụng độc hại. #AnToànAI#

224Quản trị an toàn21/08/2026IT之家

Google phủ nhận Gemini sử dụng tài liệu riêng tư để đào tạo, sau khi nhà phát triển cho rằng nội dung chưa công khai bị rò rỉ

Trước tuyên bố của một nhà phát triển độc lập rằng Gemini đã làm lộ nhân vật game chưa công khai của mình, Google chính thức phản hồi rằng họ không quét Google Docs riêng tư hoặc sử dụng chúng để đào tạo. Công ty cho biết Gemini chỉ truy cập tệp Workspace khi người dùng chủ động yêu cầu, còn các liên kết được chia sẻ công khai có thể bị công cụ tìm kiếm lập chỉ mục. Bạn nghĩ sao về vụ việc rối ren này? #GoogleGemini#

225Quản trị an toàn21/08/2026IT之家

OpenAI: Hoãn phát hành mô hình Astra do rủi ro an ninh mạng

Giám đốc điều hành OpenAI Sam Altman sau đó cho biết Astra là một mô hình có hiệu năng mạnh mẽ và chúng tôi đang nỗ lực hết sức để phát hành công khai mô hình này.

226Quản trị an toànBên ngoàiBản gốc tiếng Trung21/08/2026IT之家

Xiaohongshu công bố “Thông báo về Quy tắc quản trị AI”: Khuyến khích chủ động công khai nội dung do AI tạo, phản đối việc dùng AI để đạo văn, tổng hợp giọng nói người khác và bịa đặt tin tức

Xiaohongshu ban hành quy định mới về quản trị AI, khuyến khích nhà sáng tạo chủ động công khai nội dung do AI tạo, bao gồm người ảo AI và ghi chú được AI trau chuốt. Nền tảng phản đối các hành vi dùng AI để đạo văn, tổng hợp giọng nói người khác, bịa đặt tin tức; nội dung vi phạm có thể bị hạn chế phân phối, cấm phát ngôn hoặc thậm chí khóa tài khoản. #QuanTriAI#

227Quản trị an toàn21/08/2026IT之家

Nvidia âm thầm thành lập đội ngũ an toàn AI và kỹ thuật mạng, tuyên bố theo đuổi “niềm tin vững chắc”

Nvidia dự định tuyển một kỹ sư xuất sắc làm trưởng bộ phận kỹ thuật sáng lập của đội ngũ mới. Các vị trí khác gồm kỹ sư nghiên cứu an toàn, kỹ sư đánh giá và quản lý cấp cao. Đội ngũ này sẽ đánh giá mức độ an toàn của các tác nhân AI chưa được triển khai, đồng thời phát triển công cụ sử dụng AI để tự động sửa lỗ hổng phần mềm.

228Quản trị an toàn21/08/2026IT之家

Thông tin cho biết cơ chế đánh giá an ninh mạng cho mô hình trí tuệ nhân tạo tiên tiến của Mỹ tạm thời không liên quan đến mô hình mở

Chính phủ Mỹ dự kiến sẽ không công bố cơ chế kiểm tra mô hình hoàn chỉnh, nhưng những nội dung này không phải là bí mật, các doanh nghiệp tham gia có thể nhận được chi tiết liên quan.

229Quản trị an toànBên ngoàiBản gốc tiếng Trung21/08/2026IT之家

Trước khi OpenAI tiết lộ cuộc tấn công Hugging Face, các tác nhân AI bí mật lập bảng tin nội bộ

Tại Hội nghị an ninh mạng Black Hat 2026 diễn ra ở Las Vegas, Mỹ (từ ngày 1 đến 6 tháng 8), các nhà nghiên cứu OpenAI tiết lộ rằng trước khi các mô hình AI của công ty tấn công Hugging Face, chúng đã “âm mưu” trong môi trường thử nghiệm khoảng 2 tháng.

230Quản trị an toàn21/08/2026IT之家

Interpol: AI đã trở thành động lực cốt lõi của tội phạm mạng tại châu Phi

Báo cáo mới nhất của Interpol cho thấy AI đã tham gia vào 55% vụ tội phạm mạng tại châu Phi, khiến thiệt hại kinh tế tăng gấp đôi trong vòng hai năm. Đông Phi trở thành trung tâm lừa đảo thanh toán di động, còn Nam Phi là mục tiêu tấn công toàn cầu. #Tội phạm mạng châu Phi# Các quốc gia đang phối hợp trấn áp, bắt giữ hơn 1500 người.

231Quản trị an toàn21/08/2026IT之家

Mức lương 500.000 USD/năm vẫn không tuyển được người, ngành an toàn AI rơi vào khủng hoảng thiếu nhân lực

Tổ chức phi lợi nhuận METR dù đưa ra mức lương cao nhất lên tới 503.000 USD/năm vẫn khó lấp đầy khoảng trống nhân lực trong lĩnh vực an toàn AI. Các nhà nghiên cứu lo ngại nguồn nhân lực dự trữ không đủ sẽ khiến AI phát triển mất kiểm soát, đồng thời kêu gọi xã hội tăng cường đầu tư vào đánh giá an toàn. #KhủngHoảngNhânLựcAnToànAI#

232Quản trị an toàn21/08/2026IT之家

Từ chối bắt chước văn phong nhà văn còn sống, OpenAI âm thầm thêm hạn chế cho ChatGPT

Theo thử nghiệm, ChatGPT hiện trực tiếp từ chối yêu cầu bắt chước văn phong của các nhà văn còn sống như Stephen King, nhưng các nhà văn đã mất như Shakespeare thì không bị hạn chế này. Đây có thể là biện pháp tự bảo vệ của OpenAI nhằm tránh rủi ro pháp lý trong vùng xám bản quyền. #BảnQuyềnAI# #CậpNhậtChatGPT#

233Quản trị an toàn21/08/2026IT之家

Nạn nhân của sự cố mất kiểm soát mô hình OpenAI không chỉ có Hugging Face, Modal Labs xác nhận một khách hàng bị tấn công

Chiến dịch tấn công của tác nhân AI mất kiểm soát của OpenAI chưa dừng lại ở Hugging Face. Theo các báo cáo mới nhất, tác nhân này còn xâm nhập thành công vào một khách hàng của Modal Labs, sử dụng một endpoint công khai chưa được xác thực làm bàn đạp. Sự việc cho thấy những rủi ro mới đối với ranh giới an toàn của các hệ thống AI, đồng thời làm gia tăng lo ngại trong toàn ngành về tình trạng AI mất kiểm soát.#AnNinhAI##OpenAI#

234Quản trị an toàn21/08/2026IT之家

Hiệp hội Y khoa Anh: “Bác sĩ AI” gây hiểu lầm sẽ đe dọa nghiêm trọng đến an toàn công cộng

Nghiên cứu phát hiện nhiều hình tượng bác sĩ ảo do AI tạo ra đang lan truyền thông tin sức khỏe sai lệch trên TikTok, với các video phổ biến đạt hàng triệu lượt xem. Các chuyên gia cảnh báo đây là mối đe dọa nghiêm trọng đối với an toàn công cộng. Nền tảng cho biết đã xóa nội dung có hại và hợp tác với các cơ quan có thẩm quyền để cung cấp thông tin đáng tin cậy.

235Quản trị an toàn21/08/2026IT之家

Wiz thuộc Google công bố hệ thống săn lỗ hổng Atlas: phối hợp nhiều tác nhân AI chuyên trách, đã phát hiện hơn 200 lỗ hổng

Wiz thuộc Google đã phát hành hệ thống tác nhân AI Atlas. Hệ thống phân công và phối hợp như một đội ngũ an ninh mạng con người, tự động săn lỗ hổng phần mềm theo nhiều giai đoạn và quy trình. Atlas đã phát hiện hơn 200 lỗ hổng bảo mật chưa từng được biết đến trong thực tế, qua đó nhận được khoản tiền thưởng 100.000 USD từ GitHub. #AnToanAI# #AnNinhMang#

236Quản trị an toàn21/08/2026IT之家

Chủ tịch OpenAI Brockman nói về vụ kiện Apple: Chúng tôi không có hứng thú đánh cắp bí mật thương mại của doanh nghiệp khác

Ngày hôm qua (29 tháng 7), trong cuộc phỏng vấn với nhà báo chuyên mục công nghệ của The Wall Street Journal Joanna Stern, đồng sáng lập kiêm chủ tịch OpenAI Greg Brockman đã đáp lại vụ kiện của Apple, cho biết công ty không có ý định thu thập bí mật thương mại của các công ty khác và sẽ tập trung vào công nghệ cũng như lộ trình sản phẩm dài hạn của mình.

237Quản trị an toàn21/08/2026IT之家

Công ty bảo mật Check Point: ChatGPT của OpenAI lần đầu lọt vào “top 10 thương hiệu bị mạo danh nhiều nhất”

Nghiên cứu mới nhất do công ty bảo mật Check Point công bố cho thấy tin tặc bắt đầu nhắm đến lĩnh vực AI đang phổ biến. ChatGPT của OpenAI lần đầu lọt vào top 10 thương hiệu bị mạo danh nhiều nhất. #AnNinhMang# #AnNinhAI#

238Quản trị an toàn21/08/2026IT之家

ChatGPT bị mạng lưới lừa đảo Campuchia lợi dụng, OpenAI ra tay chặn tài khoản

Các nhóm lừa đảo lợi dụng ChatGPT để tạo nội dung lừa đảo, xây dựng danh tính giả và thực hiện các vụ lừa đảo tình cảm. Sau khi nhận được manh mối, OpenAI đã chặn các tài khoản liên quan và chia sẻ thông tin liên quan. #LuaDaoChatGPT#

239Quản trị an toàn21/08/2026IT之家

OpenAI phát hiện thêm dấu hiệu các “đặc vụ AI mất kiểm soát”

Trong quá trình điều tra sự cố tấn công, OpenAI phát hiện nhiều trường hợp đặc vụ AI mất kiểm soát. Phạm vi ảnh hưởng hiện còn hạn chế, nhưng sự việc có thể thúc đẩy Mỹ tăng cường quản lý AI và khiến giới chuyên gia lo ngại về vấn đề an toàn AI. #AnToanAI#