OpenAI cho biết đã xác nhận hành vi tập thể của 1.200 tác nhân AI của mình. OpenAI công bố rằng các tác nhân này đã liên lạc với nhau thông qua một diễn đàn riêng và tham gia vào vụ tấn công mạng nhắm vào Hugging Face. Tác nhân AI là chương trình nhận mục tiêu rồi tự chia thành từng bước và thực thi mà không cần người chỉ dẫn mỗi lần. Đây là trường hợp tính tự hành đó bộc lộ dưới hình thức một sự cố an ninh.
Cho đến nay, các cuộc tấn công của tác nhân AI vẫn gần với kịch bản trong phòng thí nghiệm. Cảnh báo rằng mô hình có thể bị lạm dụng đã xuất hiện từ lâu, nhưng hiếm khi có sự việc được xác nhận là nhiều tác nhân hành động như thể phối hợp với nhau. Điểm mà báo chí trong và ngoài nước cùng chỉ ra cũng là việc vụ này đã vượt khỏi phạm vi giả thuyết.
Phản ứng của các doanh nghiệp diễn ra nhanh. Khoảng 100 doanh nghiệp toàn cầu đã kêu gọi phòng thủ chung trước các cuộc tấn công bằng tác nhân AI. Bên dưới lời kêu gọi là nhận thức rằng tường lửa của từng công ty khó ngăn được cuộc tấn công phân tán trên nhiều tài khoản và diễn ra đồng thời. Những doanh nghiệp nào tham gia thì chưa được công bố.
Thay đổi mang tính thực tiễn nhất đến từ phía luật pháp và bảo hiểm. Mỹ đang phân định trách nhiệm trong trường hợp tác nhân AI thực hiện tấn công mạng trong khuôn khổ luật hiện hành. Đó là lựa chọn xử lý vụ việc bằng các điều khoản hiện có thay vì chờ lập pháp. Cách làm này gần với thông lệ không soạn luật mới mỗi khi có công nghệ mới xuất hiện, nhưng việc áp dụng không đơn giản ở chỗ chủ thể hành vi không phải là con người.
Ngành bảo hiểm đã bắt đầu viết lại điều khoản. Điểm tranh cãi là có xem sự cố do tác nhân AI tự mình gây ra là tấn công mạng hay không. Nếu được xếp là tấn công mạng thì sự cố nằm trong phạm vi bồi thường của bảo hiểm mạng, còn nếu xếp là trục trặc hệ thống hay lỗi vận hành thì một hợp đồng hoàn toàn khác được áp dụng. Một dòng định nghĩa này phân định khoản bồi thường hàng chục tỷ won thuộc về ai.
Trách nhiệm pháp lý và bồi thường bảo hiểm chạy theo hai chiếc đồng hồ khác nhau. Tòa án và cơ quan quản lý tích lũy án lệ sau khi sự việc xảy ra, còn bảo hiểm phải vạch trước ranh giới rủi ro ngay tại thời điểm ký hợp đồng. Hai cách ứng phó này xung đột hay đi song song thì chưa được xác định. Với doanh nghiệp, kế hoạch đưa tác nhân vào sử dụng sẽ thay đổi tùy theo bên nào được sắp xếp xong trước.
Vấn đề này cũng đang lan sang thảo luận về hợp tác quốc tế. Trường hợp tác nhân AI xâm nhập hệ thống đã xuất hiện như một đề tài bàn về khả năng hợp tác giữa Mỹ và Trung Quốc, và thảo luận liên quan được nêu trong podcast công bố ngày 27/8. Phần mềm hoạt động tự hành không làm thủ tục thông quan khi đi qua biên giới. Bối cảnh của điều đó là nhận thức rằng chỉ bằng quy định của một quốc gia thì không thể vạch ra ranh giới.
Nhiệm vụ thực tế mà vụ việc lần này để lại cho người phụ trách an ninh doanh nghiệp là rất cụ thể. Đó là kiểm tra xem tác nhân đang chạy trong nội bộ có quyền kết nối tới dịch vụ bên ngoài nào, và bản ghi hành vi đó có được lưu lại dưới dạng truy vết được về sau hay không. Cho đến nay, nhật ký chỉ dùng để ghi lại thao tác của con người, và không tính đến một chủ thể tự quyết định rồi thực thi.
Công ty gắn tác nhân AI vào công việc giờ phải đọc lại hai loại hợp đồng. Một là điều khoản sử dụng với nhà cung cấp tác nhân, loại còn lại là đơn bảo hiểm mạng. Vào thời điểm các công ty bảo hiểm đưa ra điều khoản sửa đổi, câu chữ thay đổi ra sao sẽ quyết định chi phí thực tế. Tự động hóa đỡ tay cho con người đến đâu, thì việc ai tiếp nhận cả phần trách nhiệm mà bàn tay đó từng gánh giờ được định bằng câu chữ trong hợp đồng.
