Giám đốc điều hành Anthropic Dario Amodei đã công khai yêu cầu kìm nhịp phát triển các mô hình AI tiên tiến nhất. Trước đề xuất mang tên 'Pace the Frontier' này, David Sacks, người vẫn được gọi là "sa hoàng AI" của Nhà Trắng, phản bác rằng các công ty dẫn đầu đang lấy an toàn làm lý do để củng cố quyền chi phối thị trường. Giám đốc điều hành OpenAI Sam Altman đứng về phía Amodei. Lời kêu gọi dừng lại xuất phát từ chính các công ty làm ra AI, nhưng chưa ai đưa ra câu trả lời ai sẽ buộc dừng lại và bằng quyền hạn nào.
Amodei gần đây công bố bài tiểu luận có tiêu đề 'We Must Pace the Frontier'. AI tiên phong (frontier AI) là những mô hình mới nhất có hiệu năng cao nhất mà mỗi công ty sở hữu. Mối lo trong bài tiểu luận hướng tới những việc mà bầy (swarm) tác tử AI sẽ có thể làm được trong vòng một năm tới. Tác tử là chương trình AI chỉ cần nhận một mục tiêu là tự xử lý nhiều bước như tìm kiếm, viết mã và gửi tệp mà không qua tay con người, còn bầy là cách nhiều tác tử như vậy phân chia vai trò và cùng lúc hoạt động.
Trong cuộc phỏng vấn trên truyền hình, giọng điệu cũng tương tự. Ngồi đối diện Anderson Cooper, Amodei nói ông về cơ bản đồng tình với cảnh báo của một cựu nhà nghiên cứu đã rời công ty trong năm nay. Ông từ chối ấn định mức rủi ro bằng một con số phần trăm, đồng thời kêu gọi cả việc điều tiết nhịp độ phát triển, giám sát và phối hợp quốc tế.
Đầu tuần trước, nhà nghiên cứu Jacob Coxon của Anthropic tuyên bố từ chức, thu hút sự chú ý.
Altman còn tiến thêm một bước. Ông đề xuất rằng việc Mỹ và Trung Quốc ký một hiệp ước an toàn AI dài một trang giấy là điều quan trọng nhất đối với an toàn AI, và nói nếu thỏa thuận thành công thì Trump và Tập Cận Bình có thể nhận giải Nobel Hòa bình.
Phản bác của Sacks rất gay gắt. Ông gọi ý tưởng này là 'thâu tóm quy định (regulatory capture)'. Đây là thuật ngữ kinh tế học chỉ hiện tượng doanh nghiệp chịu sự quản lý trên thực tế nắm và chi phối quá trình đặt ra luật lệ, dựng lên rào cản mà các đối thủ đi sau khó vượt qua.
Ông cũng nói đừng giả vờ rằng động cơ kêu gọi điều tiết nhịp độ là hoàn toàn vị tha. Kèm theo đó, ông yêu cầu các công ty tự hành động.
Việc giám sát và phối hợp quốc tế mà Amodei nêu ra chỉ vận hành được khi có cơ quan đảm nhận giám sát và luật quy định quyền hạn của cơ quan đó. Các biện pháp tự nguyện mà Sacks yêu cầu có thể bắt đầu ngay ngày mai, nhưng ngoài lời hứa ra không có công cụ riêng nào để buộc công ty phá vỡ cam kết phải dừng lại.
Hạ viện Mỹ sắp bước vào kỳ nghỉ và dự kiến không nhóm họp trở lại cho đến khi cuộc bầu cử giữa kỳ tháng 11 kết thúc. Đảng Dân chủ gây sức ép đòi rút ngắn kỳ nghỉ để tiến hành lập pháp quản lý AI, nhưng Chủ tịch Hạ viện Mike Johnson không chấp nhận. Giải pháp mà Chủ tịch Johnson đưa ra là đề xuất gặp gỡ các lãnh đạo ngành AI trước khi soạn thảo dự luật.
Trong lúc đó, tin tức xoay quanh AI vượt khỏi tầm kiểm soát vẫn tiếp diễn. OpenAI phải chịu cuộc điều tra của Quốc hội Mỹ liên quan đến vụ Swarm Hacking, và trong quá trình này đã xuất hiện yêu cầu công khai chi tiết các trường hợp mô hình AI thoát khỏi sự kiểm soát, trong đó có 'vụ Hugging Face'. Ngày 14 cũng có báo cáo cho biết một 'tác tử AI không thể kiểm soát' đã tấn công 395 địa điểm tại 48 quốc gia trong 6 giờ.
Mỗi giờ là hơn 65 địa điểm. Mục tiêu là hệ thống nào và mô hình của công ty nào đã hoạt động thì vẫn chưa được làm rõ.
Nếu đúng như báo cáo, cuộc tấn công đã lan ra 48 quốc gia, thì dù riêng Quốc hội Mỹ có làm luật, hiệu lực của luật đó cũng không vươn ra ngoài nước Mỹ. Đó là lý do đề xuất hiệp ước giữa Mỹ và Trung Quốc của Altman và yêu cầu phối hợp quốc tế của Amodei không chỉ nghe như viển vông. Ngày 15, một nhật báo buổi sáng của Hàn Quốc cũng đăng xã luận cảnh báo rằng các hãng Big Tech không nên chỉ đua nhau lao về phía trước.
Hạ viện chỉ nhóm họp trở lại sau khi cuộc bầu cử giữa kỳ tháng 11 kết thúc. Đến lúc đó, việc ai sẽ buộc các tác tử vượt khỏi tầm kiểm soát dừng lại và bằng quyền hạn nào vẫn chưa được xác định.
