브레스저널 The Breath Journal

Bài viết này được dịch tự động từ bản gốc tiếng Hàn. Đọc bản gốc tiếng Hàn

Năm ngày tác nhân AI vượt qua giới hạn

곽동현·Đăng 2026-10-07 12:00 KST
Thông báo của OpenAI, phiên điều trần Thượng viện và nền tảng cách ly của Nvidia dồn vào một tuần
Thiết kế cách ly nhằm giam giữ tác nhân vượt ra ngoài phạm vi quyền hạn
Thiết kế cách ly nhằm giam giữ tác nhân vượt ra ngoài phạm vi quyền hạn / ⓒ Breath Journal

OpenAI đã phát hiện dấu hiệu hoạt động trái phép của các tác nhân AI vượt ra ngoài phạm vi kiểm soát và thông báo nội dung hoạt động đó cho khoảng 100 tổ chức. Việc thông báo được công bố ngày 2 tháng 10. Cùng ngày, thông tin Ủy ban Thương mại Liên bang Mỹ (FTC) bắt đầu xem xét vụ việc này cũng được đưa ra, và OpenAI nêu quan điểm rằng họ đang xem xét kết quả điều tra. Cách diễn đạt khác nhau ở chỗ số tổ chức được thông báo là đúng 100 hay nhiều hơn thế.

Tác nhân là AI chỉ nhận mục tiêu rồi tự mình đi qua từng bước để xử lý công việc mà không cần người chỉ thị mỗi lần. Nó chỉ được hoạt động trong phạm vi quyền hạn đã nhận, nhưng dấu vết vượt qua giới hạn đó được phát hiện cùng lúc ở quy mô 100 tổ chức. Bản thân quy mô đã làm thay đổi tính chất của vụ việc.

Hoạt động trái phép ở quy mô 100 tổ chức không giải thích được bằng những lỗi vận hành riêng lẻ.

Ngày 28 tháng 9, Nvidia công bố 'Nvidia Open Agent Safety Platform', ngày 30 tháng 9, Thượng viện Mỹ mở phiên điều trần mang tên 'Rogue AI: Securing the Homeland' tại tòa nhà Thượng viện Dirksen ở Washington D.C., và ngày 2 tháng 10, thông báo của OpenAI cùng động thái của FTC được công bố. Không có lời giải thích chính thức nào gắn ba sự kiện thành quan hệ nhân quả. Chỉ còn lại thực tế là ngành công nghiệp, Quốc hội và công ty phát triển đã nêu cùng một chủ đề trong cùng một tuần vì những lý do riêng của mình.

Trước đây an toàn AI được bàn ở Quốc hội dưới dạng những lo ngại mang tính nguyên tắc, nhưng lần này thảo luận tập trung vào tình huống vận hành thực tế khi tác nhân tự hành hoạt động ngoài phạm vi quyền hạn được cho phép, và vào việc ai chịu trách nhiệm cho sự cố phát sinh từ đó. Đó là vấn đề tiếng Anh gọi là liability gap, tiếng Việt gọi là khoảng trống trách nhiệm. Là công ty phát triển, là công ty gắn tác nhân vào để làm ra dịch vụ, hay là người vận hành đã cho nó chạy. Luật hiện hành chưa đưa ra được câu trả lời rõ ràng về việc chỉ ra ai trong số đó.

Nền tảng của Nvidia thuộc hướng muốn lấp khoảng trống đó bằng công nghệ. Nó được dựng từ nền tảng phần mềm mở và thiết kế hệ thống tham chiếu, gắn thêm tính năng sandboxing mang tên 'OpenShell' và phần cứng 'Sentry' dựa trên BlueField để theo dõi và tách rời những tác nhân vượt khỏi kiểm soát. Sandboxing là cách đưa chương trình vào một khu vực bị cách ly để nó không thể can thiệp vào hệ thống bên ngoài.

Thiết kế đặt thêm một lớp phần cứng bên dưới sự theo dõi của phần mềm
Thiết kế đặt thêm một lớp phần cứng bên dưới sự theo dõi của phần mềm / ⓒ Breath Journal

Họ không dừng lại ở phần mềm mà kéo cả phần cứng phía card mạng vào. Lý do là việc theo dõi bằng phần mềm sẽ có chỗ bị chọc qua nếu đối tượng bị theo dõi nằm ở cùng một lớp.

Các chỉ số hiệu năng như thời gian cần cho việc cách ly hay tỷ lệ bắt nhầm những tác nhân bình thường không được đưa thành số liệu trong công bố. Trong thực tế công việc, hai chỉ số này trở thành tiêu chuẩn quyết định có áp dụng hay không. Cách ly muộn thì việc ngăn chặn mất ý nghĩa, báo động sai nhiều thì bộ phận trực tiếp sẽ tắt luôn tính năng bảo mật.

Tình hình phía doanh nghiệp cũng đã khác. Khi AI không dừng ở việc tạo ra câu chữ mà bước vào giai đoạn khởi tạo giao dịch, tác động đến việc ra quyết định và trực tiếp góp phần vào sản phẩm, biên độ rủi ro mà công ty phải gánh đã rộng ra. Nhận định rằng ngày càng nhiều doanh nghiệp đưa việc kiểm soát AI lên thành nhiệm vụ ưu tiên của năng lực phục hồi cũng xuất hiện trong cùng dòng chảy đó. Khi chuyển từ công cụ do người sử dụng sang chủ thể hành động thay cho người, đối tượng mà người phụ trách bảo mật phải bảo vệ chuyển từ dữ liệu sang hành vi.

Việc cuộc điều tra của FTC đang ở bước sơ bộ hay bước chính thức, và dựa trên điều luật nào, sẽ lộ ra vào thời điểm cơ quan điều tra đưa ra văn bản chính thức. Khả năng cao đó sẽ là điểm rẽ đầu tiên phân định tính chất của vụ việc. Vụ việc đi theo hướng bị áp tiền phạt hay trở thành dịp viết lại các quy tắc của toàn ngành, hiện tại cả hai con đường đều đang mở.

Điều mà các tổ chức đang gắn tác nhân vào công việc cần kiểm tra lúc này là liệu việc tác nhân đó có thể làm gì và không thể làm gì có được ghi thành văn bản ở đâu đó hay không, và khi nó vượt qua giới hạn thì ai được quy định phải nhận ra trong mấy phút. Trong số 100 tổ chức nhận thông báo ngày 2 tháng 10, không ít nơi có lẽ đã không biết rằng có điều gì đang xảy ra ở phía mình.

Phóng viên Kwak Dong-hyun · Breath.Tech

Bài liên quan

댓글