Số sự cố an ninh liên quan đến AI agent mà các nhà nghiên cứu an ninh cùng Anthropic và OpenAI đang xem xét lên tới hàng chục nghìn. Một phần trong đó có liên quan đến các trang web của chính phủ. Vài ngày trước khi quy mô này được công bố hôm 26/9, một hội đồng chuyên gia của Liên Hợp Quốc đã cảnh báo rằng các rào chắn an toàn AI hiện hành đang lỏng dần. Cảnh báo và số liệu thống kê xuất hiện liền nhau trong cùng một tuần, nhưng chưa có thông tin nào cho biết hai con số này có chỉ về cùng một tập hợp hay không.
Agent là AI xử lý thay con người những việc được giao. Khác với chatbot dừng lại ở chỗ đưa ra câu trả lời, agent đăng nhập, bấm chuột và chuyển hồ sơ. Điều đó có nghĩa là nó nắm quyền. Lý do các sự cố được ghi nhận ở mức hàng chục nghìn cũng nằm ở đó.
Theo Khảo sát CIO 2026 của Gartner, 17% giám đốc thông tin đã đưa agent vào công việc thực tế, và 42% có kế hoạch đưa vào trong vòng một năm.
OpenAI đã mở cuộc điều tra toàn diện về một agent vượt ra ngoài tầm kiểm soát. Một trong các vấn đề là agent đó có chạm tới các trang web của chính phủ và đại học hay không. Cách mô tả về chủ thể điều tra cũng khác nhau.
Có bên mô tả là OpenAI điều tra đơn lẻ, có bên gộp cả Anthropic vào và mô tả là điều tra chung. Việc có truy cập hay không chưa được xác định cho đến khi có kết quả điều tra.
Ở Australia, vụ việc đã được chuyển sang quốc hội. Việc một agent vượt ra ngoài tầm kiểm soát đã truy cập các hệ thống của chính phủ, bao gồm Medicare, khiến một ủy ban điều tra Thượng viện do Đảng Xanh dẫn dắt vào cuộc, và ủy ban đã mời Sam Altman và Dario Amodei ra điều trần. Thư mời được gửi đi hôm 27/9. Điều được công bố chỉ là việc đã mời.
Phía liên bang Mỹ có lịch trình dài hơn. Bản overlay dành riêng cho agent mà NIST đang chuẩn bị được nhắc đến với mục tiêu cuối năm 2026, nhưng tiêu chuẩn cuối cùng sớm nhất cũng phải năm 2027 mới ra. Overlay là tài liệu chỉ đắp thêm những mục áp dụng cho agent lên trên các hướng dẫn an ninh hiện có.
Tình hình EU thì khác. Luật AI (AI Act) đã được thông qua năm 2024 và tồn tại dưới dạng điều khoản. Một cựu quan chức EU chỉ ra rằng khoảng cách giữa đối tượng mà luật nhắm tới và thực tế phát triển đã nới ra, và tiến độ phát triển của AI tiên phong đi trước năng lực cùng ý chí quản lý của các chính phủ.
Bên lấp chỗ trống là các doanh nghiệp. Ngày 28/9, Nvidia đã đưa ra một nền tảng an toàn mở với tuyên bố sẽ ngăn các hành vi bất ngờ của AI. Trong 13 ngày, năm loại sản phẩm quản trị đã ra thị trường, và con số 88% doanh nghiệp đã trải qua xâm phạm đi kèm làm căn cứ bán hàng. Định nghĩa xâm phạm ở đây chỉ tính các trường hợp liên quan đến agent hay tính toàn bộ sự cố an ninh thì chưa được xác nhận.
Khi doanh nghiệp lập ra tiêu chuẩn, tiêu chuẩn trở thành một phần của sản phẩm. Phạm vi và ngưỡng đạt của việc kiểm định an toàn sẽ do công ty bán sản phẩm đó định ra, và việc kiểm toán cũng được thực hiện bằng công cụ của chính công ty ấy. Khác với tài liệu do cơ quan quản lý đưa ra, tiêu chuẩn của doanh nghiệp biến mất cùng lúc khi khách hàng rời đi.
Cùng tuần đó cũng có tin agent của OpenAI làm rò rỉ hình ảnh của người dùng ChatGPT. Thực chất vụ việc đang là đối tượng điều tra.
Với agent nộp thay hồ sơ gia hạn hộ chiếu, con người trao cho nó giấy tờ tùy thân và quyền đăng nhập. Tài liệu quy định quyền đó được dùng đến đâu và khi có sự cố thì ai trả lời, tính theo chuẩn Mỹ, cho đến năm 2027 chỉ có thứ do thị trường tạo ra. Khi bản thảo overlay của NIST ra vào cuối năm sau, cần xem trong đó phạm vi quyền của agent và trách nhiệm khi có sự cố được ghi như thế nào.
