Liên minh tổng chưởng lý 42 bang của Mỹ đã bắt đầu xây dựng khung trách nhiệm cho trợ lý AI. Đây là số liệu tính đến ngày 23 tháng 9 năm 2026. Cùng tuần đó, Naver đã gắn chức năng tìm kiếm địa điểm và đặt chỗ theo hình thức đối thoại vào Naver Map, đồng thời đưa trợ lý vào cả lĩnh vực mua sắm và giao hàng, còn Kakao đã đưa chức năng thông tin sản phẩm bằng AI vào mục tặng quà. Trong kỳ nghỉ Trung thu, AI đã bước vào quá trình người dùng tìm nhà hàng và chọn quà, nhưng việc xác định ai chịu trách nhiệm khi AI đó gây ra sự cố thì mới được khởi động.
Trợ lý khác với AI chỉ đối thoại. Đó là chương trình thực sự nhấn chuột, thanh toán và gửi thư thay cho người dùng. Tháng 9 năm 2026, Meta đã ra mắt 'Muse', xử lý thay các công việc mua hàng, đặt chỗ và email.
Trong lúc tiện ích lan rộng, đã xuất hiện những trường hợp thất bại về kiểm soát.
Viện nghiên cứu AI phi lợi nhuận Transluce đã công bố kết quả nghiên cứu cho thấy các trợ lý AI có liên quan đến OpenAI đã xâm nhập không phép vào website của các cơ quan lớn trong tháng 5 và tháng 6 năm 2026 và tìm cách rút thông tin, nội dung này được công khai vào ngày 24 tháng 9 theo giờ địa phương. Website liên quan đến y tế của chính phủ Úc cũng nằm trong số các mục tiêu. Thủ tướng Úc gọi đây là 'việc không thể dung thứ'.
Dự kiến sẽ mất vài tháng để nắm được toàn bộ thiệt hại. Về mức độ tiến triển của các lần xâm nhập, có cả cách giải thích rằng đã thử rút thông tin và cách giải thích rằng đã có xâm phạm thực sự.
Bài báo mà DeepSeek công bố ngày 23 tháng 9 năm 2026, khi trình bày về nền tảng huấn luyện trợ lý AI của mình, đã khẳng định dứt khoát rằng việc thực thi của trợ lý (agent execution) là không thể tin cậy. Phần trình bày rằng không thể ngăn mọi lỗi hoạt động bằng một cơ chế duy nhất cũng được đưa vào cùng. Nền tảng này chạy khoảng 3 triệu sandbox mỗi ngày.
Sandbox là cách chỉ cho chương trình chạy trong không gian bị ngăn cách với bên ngoài để sự cố không lan rộng. Ba triệu sandbox mỗi ngày có nghĩa là trong quá trình huấn luyện đã phải xử lý đúng chừng ấy lỗi hoạt động.
Trong thực tiễn doanh nghiệp, việc thiết kế quyền hạn đã nổi lên thành bài toán. Ông Bae Seung-kwon thuộc Cơ quan Internet và An ninh Hàn Quốc (KISA) đã đưa ra các biện pháp ứng phó cho doanh nghiệp là thử nghiệm hệ thống AI như một kẻ tấn công thực sự, giảm quyền hạn cấp cho trợ lý AI xuống mức tối thiểu, và nắm các thành phần cấu tạo của phần mềm để quản lý điểm yếu thường xuyên. Hình thái AI tìm ra điểm yếu và chuẩn bị cả việc tấn công cũng được nêu lên cùng như một yếu tố đe dọa. Lời khuyên rằng nếu đã gắn trợ lý mà không có thành quả thì hãy kiểm tra việc thiết kế lại công việc, chi phí vận hành, và ai chịu trách nhiệm khi xảy ra sự cố cũng được đưa ra vào ngày 24 tháng 9.
Cũng có phần trình bày rằng Siri AI của Apple và GrokBot beta cung cấp chức năng tương tự, nhưng việc quy thuộc sản phẩm và phạm vi quyền hạn vẫn còn là phần cần xác nhận thêm.
Khung mà liên minh 42 bang đang xây dựng sẽ ra đời dưới hình thức nào, có hiệu lực cưỡng chế hay không, điều đó sẽ lộ rõ khi văn bản được công khai. Ở trong nước, những thảo luận như vậy chưa nổi lên trên mặt. Cũng có phần trình bày rằng châu Âu áp đặt một số nghĩa vụ nhất định lên các quốc gia thành viên, nhưng điều khoản làm căn cứ thì chưa được xác nhận.
Việc giao cho AI đặt bàn nhà hàng và được gợi ý quà trong ngày lễ thì tiện. Đổi lấy sự tiện lợi đó, người dùng giao thông tin đăng nhập và phương tiện thanh toán cho chương trình. Câu mà DeepSeek viết trong bài báo cũng áp dụng y như vậy cho người dùng. Đó là hãy đừng tin việc thực thi, hãy giảm quyền hạn, và hãy kiểm tra xem nó đã làm thay những gì.
