Số lượng tác nhân AI mà doanh nghiệp đưa vào công việc đang tăng nhanh. Quy mô tác nhân AI của một doanh nghiệp được đưa ra ở mức 150.000 (người/cái), và Dell cho biết đã đến thời doanh nghiệp sử dụng tác nhân theo đơn vị hàng nghìn, nên phải thay đổi chính cách làm việc. Cùng thời điểm, những "tác nhân zombie" nắm quyền hạn mà bị bỏ mặc được nêu ra như một rủi ro bảo mật, và Somansa đã giới thiệu giải pháp AIDR kiểm soát "tác nhân AI bóng tối" và quản lý chúng như tài sản. Làn sóng triển khai và sự thiếu vắng kiểm soát cùng lúc lộ ra.
Khác với chatbot trả lời mỗi khi con người ra lệnh, tác nhân AI là phần mềm nhận mục tiêu rồi tự chia nhỏ quy trình và hoàn tất cả khâu thực thi. Muốn thực thi thì cần quyền hạn. Phải có tài khoản để truy cập hệ thống nội bộ, đọc tài liệu và chen vào luồng phê duyệt. Tài khoản vốn được cấp khi tuyển một nhân viên là người, nay đang được dập ra theo đơn vị hàng nghìn.
Việc triển khai đã tiến vào tận trung tâm vận hành doanh nghiệp. SK AX được ghi nhận đang hợp tác với SAP để thúc đẩy dịch vụ tác nhân AI cho doanh nghiệp, áp dụng vào toàn bộ hoạt động vận hành doanh nghiệp bao gồm cả ERP. Đối tượng hợp tác là "SAP Autonomous Suite", môi trường vận hành tự chủ cho tác nhân AI của SAP, và mục tiêu là tự động hóa công việc lặp lại cùng rút ngắn thời gian ra quyết định và xử lý công việc.
ERP là phần mềm lõi của doanh nghiệp, xử lý tài chính, mua sắm, nhân sự và tồn kho trong cùng một hệ thống. Khi tác nhân đụng tay vào đây, nó nắm quyền hạn lớn tương ứng.
Dấu vết của quy mô gia tăng cũng được ghi nhận trên mạng. Con số lưu lượng internet do tác nhân AI tạo ra tăng 1700% đã được đưa ra. Những yêu cầu do con người mở trình duyệt tạo ra không nằm trong con số này.
Nghĩa là các yêu cầu mà phần mềm tự tạo ra không cần con người đã tăng lên chừng ấy. Kỳ đối chiếu của tỷ lệ tăng này chưa được công bố.
Vấn đề là việc thu hồi. Nhân viên là người khi nghỉ việc thì bộ phận nhân sự khóa tài khoản và nhận lại thẻ nhân viên. Tác nhân AI không có chuyện nghỉ việc.
Cả những tác nhân do một bộ phận nào đó tạo ra để thử nghiệm rồi quên đi sau khi dự án kết thúc, quyền hạn đã cấp vẫn còn nguyên. Với những tác nhân như vậy, cách gọi "tác nhân zombie" đã xuất hiện.
Ở đây còn có thêm một lớp nữa gọi là "tác nhân AI bóng tối". Đây là từ chỉ những tác nhân do bộ phận nghiệp vụ tự tạo ra và sử dụng mà công ty không nắm được, cũng là đối tượng mà giải pháp AIDR của Somansa nhắm tới. Việc gắn kiểm soát cùng với quản lý tài sản là điểm gây chú ý. Họ xem việc lập danh sách cái gì đang chạy và chạy bao nhiêu là bước đầu tiên của kiểm soát.
Hình dạng tổ chức cũng đang chuyển động theo. Đã có ý kiến cho rằng các doanh nghiệp ở Thung lũng Silicon đang chuyển sang "tổ chức kiểu cùng tồn tại với tác nhân AI", nơi con người và tác nhân AI làm việc cùng nhau. Thế nhưng muốn nói đến cùng tồn tại thì phải thiết kế cả "việc cho nghỉ", tức một nửa của quản trị nhân sự. Cái đang có sẵn hiện nay chỉ là một nửa tương ứng với tuyển dụng.
Các con số đang ở trạng thái chưa được sắp xếp. Con số "hàng nghìn" của Dell và "150.000 (người/cái)" khác nhau về đối tượng thống kê và thời điểm chuẩn nên khó gộp thành cùng một chỉ số. Dù vậy, điểm chung là chúng đang tăng lên. Đã từ lâu bước vào giai đoạn số đối tượng cần quản lý vượt quá số người.
Rốt cuộc thay đổi này định lại từ chỗ đây là việc của bộ phận nào. Từ trước đến nay việc cấp và thu hồi tài khoản do bộ phận IT và nhân sự chia nhau đảm nhiệm, nhưng khi các tài khoản tự vận động tăng lên hàng nghìn thì không khớp hẳn với bộ phận nào trong hai bên. Điều mà tổ chức triển khai tác nhân cần kiểm tra tiếp theo là danh sách chứ không phải hiệu năng. Bao nhiêu cái đang truy cập vào đâu với quyền hạn gì, và trong số đó hôm nay có thể tắt được bao nhiêu cái.
