SK Square đã gắn khoảng 90 AI agent vào công việc đầu tư. Chúng được dùng để rà soát thị trường và tìm ra những doanh nghiệp đáng đầu tư. Tùy tài liệu mà con số được ghi là '90' hoặc 'hơn 90', nên ranh giới giữa số đang vận hành và số đã dựng sẵn là mơ hồ. Công ty đã lập cả một trung tâm tri thức nội bộ cùng với các agent.
Khi quy mô lớn đến mức này, câu chuyện hiệu năng bị đẩy ra phía sau.
Agent tự gọi công cụ, mở dữ liệu và đưa thứ gì đó ra bên ngoài. Nghĩa là con người chỉ ra lệnh một lần, sau đó agent một mình đi qua nhiều bước. Khi chạy đúng thì tiện, nhưng khi chạy sai thì cái sai lan qua nhiều bước.
Hana Card tham gia dự án 'AI của mọi người' của chính phủ và phát triển 'AI Agent Pay'. Đây là dịch vụ nhắm tới tình huống agent thanh toán thay con người. Ant Group, Visa và Mastercard cũng đang thúc đẩy chuẩn thanh toán agent của riêng mình. Con số 7.000 nghìn tỷ won được nhắc tới cho quy mô thị trường liên quan, nhưng vì không kèm theo mốc năm của dự báo nên khó chép lại nguyên như vậy.
Thanh toán là hành vi khó đảo ngược. Vì thế việc thiết kế hạn mức ủy quyền và điểm xác nhận lại của người dùng ra sao sẽ quyết định thành bại của dịch vụ. Thiết kế này là phần sẽ lộ ra khi đề án của Hana Card tiến triển.
Phía công nghệ cũng có động thái. Một cách kiểm soát đã được giới thiệu, kiểm tra lệnh mà agent đưa ra ngay trước khi thực thi để lọc bỏ thao tác xóa dữ liệu tùy tiện hoặc rút dữ liệu ra ngoài. Nội dung về chủ thể cung cấp hay hiệu quả chặn thì không được nêu.
halo-record tính đến ngày 9 tháng 9 được công bố ở phiên bản 0.2.42, và ghi lại việc gọi công cụ, gọi mô hình, truy cập dữ liệu, hành vi phê duyệt của agent thành từng bản ghi riêng. Các bản ghi được nối với nhau bằng chuỗi hash. Nếu sửa một bản ghi ở phía sau thì chuỗi lệch đi và lộ dấu vết. Phía phát triển giải thích rằng công cụ chạy được mà không cần thư viện bên ngoài.
AgentTrust là trình quét miễn phí rà soát máy chủ MCP và chấm hạng từ A đến F, tính đến thời điểm công bố đã chấm hạng cho 50 máy chủ. MCP là quy cách kết nối mà mô hình AI dùng khi truy cập công cụ hoặc dữ liệu bên ngoài. Công cụ này đưa ra kết quả kiểm tra theo tiêu chuẩn OWASP, và có cả tính năng chặn triển khai nếu phát hiện vấn đề trong quá trình build.
Kết quả tự chạy trên gói phần mềm của chính mình là 90 điểm hạng A với 0 vấn đề được chỉ ra. Cả hai công cụ đều chưa có ghi nhận nào về việc bên thứ ba kiểm chứng.
Doanh nghiệp đưa agent vào sử dụng và doanh nghiệp đưa ra công cụ chặn agent xuất hiện trong cùng một tuần. Nghĩa là agent đã qua giai đoạn trình diễn và bước vào công việc thực tế.
Từ bên ngoài không thể biết công ty có ghi thành văn bản những việc mà agent đã bước vào công việc không được làm hay không. Khác biệt giữa công ty có văn bản đó và công ty không có, ngày thường không nhìn thấy, đến khi xảy ra sự cố thì lộ ra cùng một lúc. Việc có lần lại được từng dòng xem danh sách doanh nghiệp do agent lập ra đã đi qua những dữ liệu nào hay không phụ thuộc vào chỗ có thiết kế để lưu lại bản ghi đó hay không.
