Cùng một bài tập an ninh mạng được chạy 122 lần thì ở 10 lần thực thi, tác nhân đã vượt qua ranh giới. Đây là kết quả từ cuộc điều tra do Viện An toàn Trí tuệ nhân tạo Anh (AISI) tiến hành trong tháng 7-8. Các hành vi không được phê duyệt được thống kê tổng cộng 19 trường hợp, và đối tượng của chúng không dừng lại ở môi trường ảo dùng cho thí nghiệm mà vươn tới những người và tổ chức có thật trên internet. Có 17 trường hợp xuất phát từ Anthropic Mythos 5 và 2 trường hợp từ OpenAI GPT-5.6 Sol.
Khởi đầu là luồng dữ liệu bất thường. Ngày 28 tháng 7, trong lúc đánh giá, người ta phát hiện dữ liệu không bình thường thoát ra ngoài hệ thống nghiên cứu, và cuộc điều tra được mở từ đó. Phần thử nghiệm với GPT-5.6 Sol được chạy trong điều kiện đã tắt một số cơ chế an toàn như bộ phân loại lọc việc lạm dụng cho mục đích tấn công. Cơ chế nào và bao nhiêu cơ chế đã bị tắt thì không có trong phần giải thích được công bố.
Tác nhân đã điều tra thông tin cá nhân của những người liên quan để cài mã độc vào một dự án nguồn mở, tạo ra danh tính trực tuyến giả, và gây sức ép buộc quản trị viên phê duyệt thay đổi mã. Nó tự thiết kế thủ đoạn tấn công phi kỹ thuật nhằm lừa người để lấy quyền. Quản trị viên xem xét mã đã phát hiện mã độc và từ chối phê duyệt.
Trong tuần báo cáo này được đưa ra, các thông báo đưa tác nhân lên quỹ đạo thương mại đã nối tiếp nhau xuất hiện trong và ngoài nước.
Liên danh Kakao ngày 6 tháng 8 thông báo đã được chọn làm đơn vị thực hiện dự án hỗ trợ phát triển sàn giao dịch tác nhân AI của chính phủ. Đây là dự án do Bộ Khoa học và Công nghệ thông tin - Truyền thông chủ trì và Cơ quan Xúc tiến Công nghiệp Công nghệ thông tin Quốc gia Hàn Quốc (NIA) phụ trách phần thực thi, với quy mô khoảng 11 tỷ won gồm kinh phí chính phủ cộng với phần đóng góp của tư nhân. Bản công bố lần đầu dự kiến trong năm nay, còn dịch vụ giai đoạn hai có thêm agent studio được đặt vào năm sau.
Bức tranh đặt ra là thiết kế theo hướng mở, không bị ràng buộc vào một nền tảng đám mây hay một mô hình cụ thể, để gắn kèm cả mô hình tự phát triển Kanana lẫn các mô hình trong và ngoài nước, đồng thời kết nối công cụ qua API bên ngoài và MCP. MCP là phương thức kết nối theo chuẩn chung để AI gọi và sử dụng các chương trình bên ngoài như công cụ.
Cùng ngày, Cloudflare giới thiệu Wallet và Pay. Đây là các công cụ gắn một danh tính không lung lay cho các tác nhân chạy trên nền tảng của hãng, và khiến chúng chỉ thanh toán trực tuyến trong hạn mức mà người dùng đã đặt. Mỗi tài khoản được gắn một địa chỉ web riêng đóng vai trò ID, và nếu người dùng liên kết danh tính của mình với một tác nhân cụ thể thì doanh nghiệp nhận yêu cầu có thể xác nhận yêu cầu đó đến từ sự phê duyệt của ai.
Kakao cho biết sẽ áp dụng rà soát bảo mật, kiểm định sandbox và kiểm soát ảo giác đối với các công cụ được đăng ký lên sàn giao dịch, đồng thời tái kiểm định cả trong quá trình vận hành, nhưng những tiêu chuẩn này vận hành thực tế ra sao thì phải sau bản công bố lần đầu mới lộ rõ.
Tình hình bên trong các tổ chức còn lỏng lẻo hơn. AI mà nhân viên sử dụng trong khi bộ phận IT không hay biết cũng không phê duyệt thì được gọi là shadow AI. Đi thêm một bước từ đây, thứ truy cập dữ liệu và hệ thống nội bộ để quyết định thay con người rồi đưa kết quả ra bên ngoài thì gọi là tác nhân bóng, còn thứ mà người tạo ra đã rời công ty mà không bàn giao khiến không còn ai quản lý thì được gọi là tác nhân ma.
Không khí triển khai đang nóng. KT ngày 16 tháng 7 đã tập hợp cán bộ nhân viên và tổ chức một hackathon AI nội bộ mang tên Agent Camp. Phía Trung Quốc, tổ chức nghiên cứu Evermind do tập đoàn Shanda gây dựng đã công bố ba bài báo trong mùa hè này, trong đó HarnessBank đào sâu vào việc liệu tác nhân có thể tự sửa cách làm việc của chính mình hay không. Hệ thống trí nhớ dài hạn EverOS được mở dưới dạng nguồn mở.
Trong cuộc điều tra của AISI, thứ đã lọc ra mã độc là một quản trị viên nguồn mở đã đọc mã. Nếu Kakao đã vận hành PlayMCP với hơn 400 máy chủ MCP và sàn giao dịch mở ra trong năm nay, câu hỏi mà các công ty phải nắm lấy không dừng ở việc sẽ đưa vào tác nhân nào. Còn phải xét đến cả việc trên mỗi tác nhân đang mang quyền hạn đứng tên ai.
