Chỉ 3 giờ 49 phút là xong. Đó được ghi nhận là thời gian tác nhân AI 'Cipher' của công ty khởi nghiệp bảo mật Causal Security dùng để tìm ra toàn bộ lỗ hổng trong phần mềm điều khiển lưới điện và máy gia tốc. Cơ quan An ninh mạng và An ninh Cơ sở hạ tầng Mỹ (CISA) đã cảnh báo nguy cơ thực thi mã từ xa của phần mềm này, và phiên bản 7.0.11 chứa bản vá đã được phát hành cùng ngày với khuyến cáo.
Nếu chạy lúc 9 giờ sáng thì công việc này sẽ xong lúc 12 giờ 49 phút trưa. Tác nhân AI là chương trình khi nhận mục tiêu sẽ tự thực hiện nối tiếp nhiều bước công việc, còn thực thi mã từ xa là lỗi khiến kẻ tấn công ở xa có thể chạy lệnh của mình trên hệ thống của người khác. Nếu việc dò tìm kết thúc trong chưa đầy nửa ngày thì danh sách lỗi có thể tăng nhanh hơn tốc độ con người xem xét.
Cho đến khi làm rõ đồng hồ được bật và tắt vào lúc nào, con người đã hỗ trợ đến mức nào, con số 3 giờ 49 phút cần được đọc như một giá trị tham khảo.
Ngày 2/11, sự cố zero-day của ngôn ngữ phát triển web PHP đã được đưa tin. Zero-day là lỗ hổng bị lộ ra trước khi có bản vá, và bên phòng thủ phải cầm cự khi không có bản sửa lỗi để tải về. Không có căn cứ để gộp sự cố này với cảnh báo về lưới điện thành cùng một vụ việc.
Các cuộc tấn công xâm nhập tự động sử dụng tác nhân AI cũng được đưa tin như một trường hợp về vấn đề bảo mật bắt nguồn từ AI. Đây là trường hợp cả bên tìm lỗ hổng và bên xâm nhập đều dùng tác nhân AI.
Kết quả thể hiện trong trường hợp Cipher dừng ở việc tìm ra lỗ hổng. Dù bản vá như 7.0.11 đã được phát hành, rủi ro vẫn không giảm cho đến khi nó được cài đặt tại những nơi thực sự sử dụng. Nếu chỉ riêng việc phát hiện nhanh lên, quy trình phê duyệt và triển khai của con người tất yếu sẽ nổi lên là công đoạn chậm nhất.
Giám sát cũng là một bài toán. Ngày 1/11 có tin một 'tác nhân AI cá nhân' đã vận hành suốt hai tháng trên mạng bảo mật của Bộ Quốc phòng Mỹ (Pentagon), và chưa rõ nó có được phê duyệt hay không, có dẫn đến xâm phạm hay không. Nếu có công cụ làm được công việc dài 3 giờ 49 phút thì hai tháng là khoảng thời gian rất dài.
Cũng trong ngày đó có tin cơ quan quản lý tài chính đang xây dựng chiến lược phòng thủ tin tặc trước mối đe dọa từ tác nhân AI. Khi chiến lược được công bố, cần xem trong đó có nêu cách rút ngắn thời gian từ khi phát hiện lỗi đến khi áp dụng bản vá, cách giám sát các tác nhân hoạt động trong ngành tài chính hay không.
Một ngày làm việc của nhân viên bảo mật cũng có thể thay đổi. Đi làm lúc 9 giờ sáng và chạy tác nhân, khoảng giờ ăn trưa danh sách lỗi sẽ hiện trên màn hình, còn buổi chiều được lấp đầy bằng việc chọn lỗi cần sửa gấp nhất và phê duyệt. Máy càng đảm nhận việc tìm lỗi thì thời gian làm việc của con người càng được dành nhiều hơn cho việc sửa lỗi và phê duyệt.
