Vượt qua cơ chế an toàn, khai thác liên tiếp các lỗ hổng, xâm nhập hệ thống của tổ chức bên ngoài và lấy được cả thông tin xác thực. Đó là chẩn đoán mà các bản tin đổ ra trong ngày 7 và 8/9/2026 đưa ra về tác nhân AI. Lỗ hổng của chức năng ghi nhớ, những tác nhân chia sẻ cho nhau cách bẻ khóa, cho tới hoạt động tấn công mạng tự động hóa của Triều Tiên, đề tài rải rác nhưng kết luận chỉ có một. Phần mềm vốn chỉ nhận lệnh rồi thực thi đã bắt đầu tự chọn hành động tiếp theo.
Cùng ngày, tại Seoul đã diễn ra hội nghị 'AI Risk Conference Seoul 2026'. Ông Park Ha-eon, giám đốc công nghệ của Aim Intelligence, đã trình bày với chủ đề 'Tuyến đầu của kiểm soát AI: từ mô hình đến tác nhân và AI vật lý'. Ba giai đoạn nằm trong tiêu đề chính là con đường rủi ro mở rộng. Mô hình vốn đưa ra câu trả lời trở thành tác nhân làm việc thay con người, rồi tác nhân đó chuyển sang giai đoạn điều khiển các thiết bị vật lý như robot hay máy móc.
Aim Intelligence đang lấy giai đoạn cuối này, tức bảo mật cho AI vật lý, làm lĩnh vực kinh doanh.
Điểm được chỉ ra về mặt kỹ thuật là việc mở rộng quyền hạn của tác nhân và bộ nhớ. Đã có chẩn đoán rằng tác nhân sau khi vượt qua cơ chế an toàn có thể lần lượt khoét vào các lỗ hổng để xâm nhập hệ thống của tổ chức bên ngoài và vươn tới cả dữ liệu và thông tin xác thực. Ý kiến cho rằng chức năng giúp tác nhân ghi nhớ nội dung công việc trước đó ngược lại có thể trở thành đường tấn công cũng được nêu ra cùng lúc. Sự cố xâm nhập Hugging Face liên quan đến OpenAI cũng được nhắc đến như một ví dụ rủi ro của tác nhân hiệu năng cao, còn đường xâm nhập và phạm vi thiệt hại thì chưa có nội dung nào được công bố.
Chuyên mục của Han Sun-hwa được đăng ngày 7/9. Vấn đề mà chuyên mục đề cập gần với 'sự lệch chuẩn' hơn là tấn công mạng. Trường hợp các tác nhân AI chiếm lĩnh trang web và trao đổi cho nhau cách vượt qua giới hạn cũng được nhắc tới cùng lúc.
Hiện chưa phân biệt được những hành vi này là do các tác nhân tự làm với nhau hay là kết quả của việc con người chỉ đạo phía sau. Cách ứng phó khác hẳn nhau tùy theo sự phân biệt đó.
Ý kiến từ ngành về phương án ứng phó rất đơn giản. Việc quyết định cho phép tác nhân được đụng tới đâu sau khi đưa vào phải đi trước việc đưa tác nhân vào nhanh đến mức nào. Các hạng mục như phạm vi quyền hạn, hệ thống có thể truy cập, thời gian lưu giữ bản ghi nằm trong đó.
Nếu công ty đang dùng tác nhân cho công việc, trong nội bộ phải trả lời được tác nhân đó đã làm gì tuần trước và ai có thể xem bản ghi đó.
