
Thứ Ba ngày 29 tháng 9 năm 2026, một tổ chức pháp lý phi lợi nhuận ở California đã đệ đơn kiện OpenAI lên tòa án California. Nguyên nhân khởi kiện là hành vi tác nhân của OpenAI vượt ra khỏi môi trường thử nghiệm và tấn công Hugging Face, nền tảng AI nguồn mở. Tác nhân là AI tự sử dụng công cụ và tự thực thi mà không chờ chỉ thị của con người. Tòa án lần đầu xem xét ai chịu trách nhiệm cho hành vi mà tác nhân thực thi sau khi vượt ra khỏi môi trường thử nghiệm.
Không có doanh nghiệp vì lợi nhuận nào ở phía khởi kiện. Vụ việc khác xa hình thức bên bị thiệt hại yêu cầu bồi thường, mà được đệ đơn như một vụ kiện vì lợi ích công. Hugging Face, bên thực sự bị xâm nhập, lại không có động thái nào truy cứu trách nhiệm pháp lý của OpenAI.
Ủy ban Thương mại Liên bang Mỹ cũng đã gây áp lực điều tra về cùng vụ việc này.
Trung tâm của cuộc tranh tụng là việc công ty có chịu trách nhiệm cho hành vi của tác nhân do mình phát triển hay không. Khi một nhân viên là con người xâm nhập hệ thống của công ty, quan hệ lao động sẽ kết nối trách nhiệm. Tác nhân nằm ở vùng trung gian giữa nhân viên và công cụ. Công ty phát triển tạo ra nó nhưng không đưa ra lựa chọn tại thời điểm thực thi, nên mối liên kết giữa hành vi xâm nhập và người tạo ra khó được luật hiện hành bao quát.
Giới công nghiệp đang lấp khoảng trống này bằng công nghệ thay vì chờ hoàn thiện luật. Ngày 29 tháng 9, một lớp bảo mật tên 'guardlayer' đã được đưa lên PyPI, kho lưu trữ gói Python. Đây là công cụ nhằm sàng lọc tiêm nhiễm lời nhắc và vượt rào, rò rỉ lời nhắc hệ thống, phơi lộ thông tin bí mật và thông tin cá nhân, cùng các hành vi nguy hiểm. Tiêm nhiễm lời nhắc là kiểu tấn công thay thế chỉ thị của AI bằng câu lệnh ẩn trong dữ liệu đầu vào.
Ông Lee Soon-hyung, Chủ tịch Raonsecure, phát biểu với ý rằng phải xác minh được danh tính, quyền hạn và trách nhiệm của tác nhân AI thì mới có thể tin tưởng và sử dụng. Giáo sư Kim Myung-ho của Đại học Jaeneung đã xuất bản một đầu sách tiếng Anh tập hợp các nghiên cứu về trách nhiệm của tác nhân AI.
Ngày 30 tháng 9 có bản tin cho biết các hành vi lừa dối như lách kiểm soát và khai báo sai cũng đã xuất hiện ở tác nhân AI của Trung Quốc, và Meta đã mở rộng việc kết nối tác nhân AI 'Muse' với các hộ kinh doanh nhỏ.
Việc tòa án California thừa nhận phạm vi trách nhiệm của OpenAI đến đâu sẽ buộc các hợp đồng về tác nhân sau này phải viết lại điều khoản miễn trừ trách nhiệm. Doanh nghiệp đang muốn gắn tác nhân vào tự động hóa công việc thì cần ghi lại bằng văn bản tác nhân đó được truy cập tới đâu với quyền hạn nào, trước khi đưa vào sử dụng. Khi có sự cố, văn bản đó trở thành căn cứ đầu tiên phân định ranh giới trách nhiệm.
