Giả sử một chương trình đăng nhập thay người dùng, đăng bài, chọn hàng và đi đến sát bước thanh toán. Khi có gì đó sai trong quá trình ấy, trách nhiệm thuộc về ai. Người dùng, công ty làm ra chương trình, hay dịch vụ mà chương trình đã ra vào. Hiện không có nhiều người trả lời rõ ràng được câu hỏi này.
Tác nhân AI (AI agent) là chương trình chỉ cần được giao mục tiêu là tự đi qua nhiều bước để xử lý, không cần người chỉ dẫn từng lần. Vài tuần gần đây, thử nghiệm dịch vụ mạng xã hội nơi các tác nhân này trao đổi bài viết với nhau, và thử nghiệm mua sắm tự chủ chọn và mua hàng thay người, lần lượt xuất hiện. Cùng thời gian đó, cảnh báo rằng những chương trình như vậy có thể làm rò rỉ thông tin nhạy cảm của cá nhân cũng được đưa ra. Kỳ vọng và lo ngại bùng lên cùng một tuần, nhưng chỉ có những lời đoán định quy mô thị trường là lớn, còn thảo luận về chuẩn mực phân chia trách nhiệm thì gần như không nghe thấy.
Việc xác định trách nhiệm thuộc về ai cần được làm sớm hơn việc mở rộng tính tự chủ. Trật tự thả tiện lợi ra trước rồi kiểm chứng an toàn sau phải được đảo lại.
Ở đây, tính tự chủ vượt qua phạm vi thông số kỹ thuật và là vấn đề về quyền hạn. Phạm vi mà tác nhân tự phán đoán rồi hành động càng rộng, thì khi xảy ra sự cố, vùng xám "người không sai bảo mà công ty cũng không quy định" càng rộng ra. Quyền hạn thì lớn lên, nhưng nhãn tên trách nhiệm gắn với quyền hạn đó đang để trống. Từ "tính tự chủ" làm công việc che đậy ô trống ấy một cách nghe có vẻ hợp lý.
Ý kiến phản bác đủ mạnh. Rằng đặt chuẩn mực lên trước thì công nghệ bị đè trước khi kịp lớn, rằng phải dùng thật mới biết rủi ro là gì. Đó là những lời đúng.
Dù vậy, thử nghiệm và phát hành là khác nhau. Việc phá vỡ trong môi trường được kiểm soát và việc đưa ra ngoài khi đã gắn tài khoản, danh bạ, phương tiện thanh toán thật có tính chất rủi ro hoàn toàn khác.
Vì vậy đây không phải là chuyện đòi hỏi cả một bộ quy định. Ý là hãy xác định trước sẽ sửa cái gì và vào lúc nào. Mỗi lần quyền hạn lớn thêm, phải ghi kèm ai đã phê duyệt quyền hạn đó và ai gánh chịu khi có sự cố.
Cũng không cần chờ luật được làm ra. Đây là mức tối thiểu mà đội ngũ phát hành tính năng có thể tự quy định.
Ghi rõ cả những điều hiện chưa làm được mới là công bằng. Kỹ thuật lưu lại để người có thể đọc theo được tác nhân đã qua phán đoán nào mà làm hành động đó vẫn chưa hoàn chỉnh. Cách truy lại điểm xuất phát của lỗi phát sinh trong lúc nhiều tác nhân trao đổi với nhau cũng chưa có. Nghĩa là dù xảy ra sự cố cũng khó xác định nguyên nhân, và khi khó xác định nguyên nhân thì trách nhiệm cũng tản mát.
Điều có thể thay đổi ngay thì nhỏ. Khi kết nối tài khoản với một chương trình nói sẽ làm gì đó thay mình, hãy kiểm tra một lần xem nó chỉ đọc hay còn viết, gửi và cả thanh toán. Không giao trọn quyền hạn mà chỉ mở đúng phần cần thiết. Cách để một ngày của con người dễ chịu hơn không nằm ở việc buông tay hoàn toàn, mà nằm ở việc biết mình giao gì rồi mới giao.
