Một tuần. Đó là khoảng thời gian trôi qua cho đến khi phát hiện ra mình bị tấn công. Chương trình tự xử lý nhiều bước thay cho con người, phần mềm thường được gọi là tác nhân AI, đã bị xâm nhập và phải mất chừng ấy ngày sự việc mới lộ ra.
Khó xem đây là sự cố xảy ra vì thiếu công nghệ. Chỉ là không có con mắt nào theo dõi.
Cùng tuần đó, chuyện thiếu điện được đưa lên bàn thảo luận lập pháp. Phép tính vận hành tác nhân AI tiêu tốn điện. Điện thuộc lĩnh vực luật pháp và thiết bị nên không tăng lên sau một đêm như phần mềm. Việc các thông báo hạ chi phí, thông báo siết bảo mật, thông báo nắm quyền kiểm soát nối nhau trong vài ngày cũng không đọc ra như sự tình cờ.
Thước đo phân định cuộc cạnh tranh tiếp theo là năng lực gánh vác.
Tác nhân AI làm thay việc mà con người từng đăng nhập và nhấp chuột. Nó mở màn hình thanh toán, gửi thư, lục tìm tài liệu nội bộ. Không trao đủ quyền thì vô dụng, trao rộng rãi thì phạm vi lan ra khi xảy ra sự cố sẽ rộng hơn.
Có thể lần lại sau đó xem tác nhân AI đã làm gì hay không, khi nó chạy sai có dừng được trong vài phút hay không, kéo điện từ đâu để đáp ứng phép tính đã tăng lên. Trong số này chỉ cần thiếu một thứ thì việc đưa vào sử dụng không còn lại như thành quả mà đổi thành khoản nợ.
Có ý kiến phản bác rằng siết kiểm soát thì việc đưa vào sử dụng chậm lại, chậm thì bị đẩy lùi trong cạnh tranh. Trên thực tế, ở những tổ chức chồng chất quy trình phê duyệt, tác nhân AI dễ kết thúc như một món đồ chơi để trình diễn. Nỗi lo đó có căn cứ.
Dù vậy, nếu tính cả chi phí bỏ ra để khắc phục thì được mất khác đi. Việc lần lại một tuần xem những gì đã đi qua lối vào đang mở đắt hơn nhiều so với việc đưa vào sử dụng, và nếu thông tin khách hàng bị lẫn ra ngoài thì vượt qua khôi phục để chuyển sang lĩnh vực bồi thường.
Công nghệ lưu lại lý do tác nhân AI chạy như vậy thành bản ghi mà con người đọc được còn xa mới hoàn thiện. Khi nhiều tác nhân AI bắt đầu gọi lẫn nhau để làm việc thì việc chỉ ra chỗ nào đã trật đi trở nên khó hơn nhiều. Điện còn chậm hơn. Thiết bị phát điện và đường dây truyền tải không thay được như thay một mô hình.
Quy trình kiểm tra trên một màn hình xem công cụ tự động đã động vào những gì trong đêm, và rà soát từng mục trong danh sách khi gắn quyền cho tác nhân AI mới, sẽ rút một tuần xuống còn một ngày. Luật pháp và điện phải mất thời gian mới theo kịp.
