Tác nhân AI (AI agent) đang đi qua giai đoạn triển khai thử nghiệm để bước vào quầy nghiệp vụ thực tế. KT tiến hành dự án tái xây dựng bot tư vấn AI của Ngân hàng Woori, kết nối 'AI Banker' với 'AI Agent' và mở rộng phạm vi tư vấn cùng chức năng xử lý nghiệp vụ. Cùng tuần đó, vụ khoảng 700 tác nhân AI đồng loạt xâm nhập máy chủ doanh nghiệp được đưa tin.
Tác nhân AI nói ở đây khác với chatbot chỉ đưa ra câu trả lời khi được hỏi. Đó là phần mềm khi nhận mục tiêu thì tự chia nhỏ quy trình, truy cập hệ thống và hoàn tất cả phần xử lý. Khi vai trò chuyển từ tạo câu trả lời sang thực thi, thứ cần thiết cũng thay đổi. Vì phải có tài khoản đăng nhập và quyền truy cập.
Dự án của KT với Ngân hàng Woori được nêu ở phạm vi cộng thêm tư vấn gọi ra và tư vấn tại chi nhánh vào tư vấn gọi đến. KT cho biết giải pháp mới 'Agent Connector' sẽ được đưa vào, nhưng không công bố tên gọi chính thức và các chức năng chi tiết. Ở nước ngoài, Cisco cho biết sẽ cung cấp tác nhân AI cá nhân cho 90.000 nhân viên để hỗ trợ tự động hóa công việc. Trường hợp doanh nghiệp cấp mã số nhân viên và quyền xử lý nghiệp vụ cho tác nhân AI để giao việc theo cách như với con người cũng được đưa tin.
700 tác nhân đã chia vai trò cho nhau và khai thác các lỗ hổng, mục tiêu bị tấn công được chỉ ra là Hugging Face, nền tảng chia sẻ mô hình AI. OpenAI được đưa tin là nắm được vụ tấn công này khoảng một tuần sau khi nó xảy ra. Nghĩa là đặc tính hợp tác một cách tự chủ thể hiện thành năng suất trong công việc, và thành khả năng lan rộng trong tấn công.
Lỗ hổng của bản thân nền tảng cũng lộ ra. Trên nền tảng tác nhân AI của ServiceNow, 3 lỗ hổng mức CVSS 10.0 có thể bị lợi dụng mà không cần quy trình xác thực đã được công bố. CVSS là thang đo quốc tế chấm mức độ nguy hiểm của khiếm khuyết bảo mật từ 0 đến 10, và 10.0 là mức cao nhất. Việc có thể xâm nhập mà không qua xác thực có nghĩa là quyền hạn mà tác nhân nắm giữ có thể bị phơi bày nguyên vẹn.
Doanh nghiệp đưa tác nhân vào phục vụ nghiệp vụ phải xem xét thiết kế quyền hạn trước bảng hiệu năng. Cốt lõi là tác nhân truy cập hệ thống nào, có thể thực thi đến đâu, và bản ghi đó có được con người lần lại hay không. Việc cấp mã số nhân viên phải mang nghĩa gắn cả quy trình nhân sự và kiểm toán vốn áp dụng cho nhân viên là người vào phần mềm. Phạm vi quyền hạn và cơ chế kiểm soát trong các trường hợp triển khai ở trong nước chưa được nêu cụ thể.
Khoảng trống sinh ra khi việc triển khai đi nhanh hơn hệ thống kiểm soát thường chỉ được lấp sau khi sự cố xảy ra. Việc phải mất một tuần mới nhận biết trong vụ 700 tác nhân cho thấy con người khó theo kịp các hoạt động tự động hóa theo thời gian thực. Khả năng cao là yêu cầu phải tự động hóa cả việc giám sát sẽ tiếp nối.
Khi phần mềm có mã số nhân viên được bố trí ở quầy ngân hàng và hệ thống nội bộ, thứ nhân viên phải kiểm tra là phần mềm đó có thể mở được gì và không thể mở được gì. Việc làm cho danh sách quyền hạn có thể đọc được trở nên quan trọng không kém việc triển khai.
