Trong ba ngày từ 16 đến 18 tháng 9, đã có ít nhất sáu bài báo trong và ngoài nước đề cập đến vấn đề bảo mật và quản trị tác tử AI (AI agent). Các vấn đề mà sáu bài báo đề cập khác nhau. Có việc Cơ quan Tình báo Quốc gia (NIS) xúc tiến đánh giá an toàn, có việc PNP Secure mở rộng kiểm soát truy cập, và có quan điểm tái thiết kế bảo mật mà IBM và OSC Korea đưa ra tại các sự kiện. Điểm chung là tất cả đều là phản ứng trước câu hỏi ai sẽ dừng phần mềm tự vận hành mà không cần con người ra lệnh từng bước, và dừng bằng cách nào.
Tác tử AI là chương trình khi nhận một dòng lệnh sẽ tự tiếp nối nhiều bước công việc. Nó tìm kiếm, mở tệp, truy cập hệ thống, rồi đưa kết quả trở lại làm đầu vào cho công việc tiếp theo. Nó khác với tự động hóa hiện có ở chỗ con người không phải bấm nút xác nhận ở từng khâu giữa chừng.
Sự khác biệt đó trở thành mối đau đầu đối với những người phụ trách bảo mật.
PNP Secure mở rộng đối tượng kiểm soát truy cập, vốn được thiết kế cho con người và hệ thống, sang cả tác tử AI. Kiểm soát truy cập là công nghệ xác định trước ai được phép động đến dữ liệu nào và chặn các nỗ lực nằm ngoài phạm vi đó. Cho đến nay, những gì có mặt trong danh sách này là tài khoản nhân viên hoặc máy chủ. Việc tác tử được thêm vào danh sách đó như một mục mới có nghĩa là phần mềm bắt đầu được coi như một chủ thể hành động độc lập.
Cisco, Intuit, Workday và ServiceNow cũng đang xây dựng hệ thống quản lý nhiều lớp để giám sát, kiểm soát và cách ly tác tử. Giám sát là lớp ghi lại những gì tác tử đã làm, kiểm soát là lớp giới hạn quyền hạn, cách ly là lớp tách riêng tác tử gặp sự cố. Các nội dung được công bố không cho biết mỗi công ty thực sự đang vận hành đến lớp nào và áp dụng từ khi nào. Công nghệ truy vết lại các thao tác mà tác tử đã thực hiện trên web để phát hiện rò rỉ dữ liệu và thay đổi trái phép cũng đã được giới thiệu.
Động thái từ phía chính phủ cũng xuất hiện cùng thời điểm. Cơ quan Tình báo Quốc gia xúc tiến đánh giá an toàn đối với tác tử AI. Việc lấy cơ quan nào làm đối tượng, xem xét những hạng mục nào và điều gì xảy ra nếu không đạt là những phần sẽ lộ rõ khi hệ thống đánh giá thành hình. Tại Washington, Mỹ, cách tiếp cận thứ tư nhằm điều chỉnh quản trị AI cũng đã được đưa ra.
Cùng thời gian đó, các phòng nghiên cứu AI lớn đã công khai kêu gọi làm chậm tiến độ phát triển và tăng cường kiểm soát an toàn. Đây là yêu cầu phanh lại đến từ chính phía phát triển. Cũng có nhận định rằng đã xảy ra một vụ xâm nhập quy mô lớn nhắm vào Hugging Face vào đầu tháng 7, nhưng nội dung là 1.200 tác tử đã cùng hoạt động trong suốt năm ngày nên cần được xác minh thêm.
Tiền đề rằng chỉ riêng các hướng dẫn tự quản nội bộ là đủ đang bị lung lay. Bằng chứng là tình hình xu hướng doanh nghiệp tự dựng hàng rào và xu hướng chính phủ xây dựng thước đo đánh giá đang cùng diễn ra.
Nếu công ty bạn đang sử dụng tác tử AI, cần kiểm tra ngay bây giờ tác tử đó có thể truy cập đến đâu bằng tài khoản nào, và khi nó có hành vi bất thường thì ai có thể ngắt nó theo quy trình nào. Khi các hạng mục đánh giá của Cơ quan Tình báo Quốc gia được công bố, tiêu chuẩn sẽ rõ ràng hơn. Cho đến lúc đó, danh sách phân quyền của mỗi công ty vẫn là cơ chế an toàn duy nhất.
