Trong vòng ba ngày, giới AI Mỹ đã ba lần lên tiếng cảnh báo về rủi ro của AI. Ngày 11 tháng 9, có tin một dự luật nhằm bảo đảm sự giám sát của con người đối với AI và ngăn chặn các hệ thống vượt khỏi tầm kiểm soát đã được đưa ra tại Quốc hội Mỹ. Khoảng ngày 12, Giám đốc điều hành (CEO) Anthropic Dario Amodei công khai kêu gọi ngành làm chậm cuộc đua phát triển.
Cùng tuần đó, nhà nghiên cứu AI Jacob Coxon rời Anthropic và đăng bài cảnh báo về rủi ro của AI trên X. Cuộc tranh luận về việc ai nên đặt ra quy tắc cho AI lại bùng lên.
Việc người đứng đầu một doanh nghiệp đang ở giữa cuộc đua lên tiếng về hãm phanh là điều hiếm thấy. Amodei đăng trên trang cá nhân darioamodei.com bài viết có tiêu đề 'We Must Pace the Frontier(Chúng ta phải điều tiết nhịp độ ở tuyến đầu)'. Ở đây, frontier chỉ tuyến đầu nơi các mô hình AI tiên tiến nhất, có hiệu năng cao nhất cạnh tranh với nhau. Trong bài viết, ông cho biết mình đã gắn bó với lĩnh vực AI trong 12 năm.
Một số lãnh đạo doanh nghiệp công nghệ phản đối, cho rằng Mỹ không thể để mất vị thế dẫn đầu trong cuộc đua AI.
Tiếng nói từ bên trong các công ty còn gay gắt hơn. Coxon, người từng làm việc ở cả OpenAI và Anthropic, khi rời Anthropic, nơi làm việc gần đây nhất, đã cảnh báo rằng Anthropic và các đối thủ đang đánh cược bằng sinh mạng của con người. Những người tố giác nội bộ cũng lên tiếng rằng chỉ những quy tắc do ngành tự đặt ra là không đủ. Chỉ trích của họ nhắm vào toàn bộ cuộc đua trong ngành.
Phản ứng của Washington cũng nhanh hơn. Khi các nhà nghiên cứu AI đương chức và cựu nhân viên tại Mỹ cảnh báo AI có thể sớm dẫn tới sự tuyệt chủng của loài người, sự chú ý của các nhà lập pháp đổ dồn vào. Hạ nghị sĩ Anna Paulina Luna đã yêu cầu một 'công tắc ngắt' (kill switch) cho AI.
Công tắc ngắt là cơ chế ngắt được cài sẵn để con người có thể tắt ngay lập tức một hệ thống có hành vi bất thường. Dự luật được đưa tin vào ngày 11 cũng đặt sự giám sát của con người lên hàng đầu.
Các phương án được đưa ra trong giới chính trị có mức độ rất khác nhau. Thậm chí có cả đề xuất áp mức thuế suất liên bang 100% lên các ưu đãi dành cho trung tâm dữ liệu. Cũng có ý kiến đòi dừng hoàn toàn việc phát triển AI tiên tiến.
Đề xuất xây dựng tiêu chuẩn mới để chặn AI agent cũng được nhắc tới. AI agent là chương trình tự xử lý công việc gồm nhiều bước mà không cần con người chỉ dẫn từng việc.
Nếu chỉ riêng Anthropic giảm tốc mà các đối thủ không làm theo, thiệt hại sẽ chỉ dồn lên bên đã giảm tốc. Sự phản đối của giới lãnh đạo rằng không thể để mất vị thế dẫn đầu cũng có thêm sức nặng từ nỗi lo đó. Con đường cưỡng chế bằng luật cũng có kẽ hở. Trong môi trường nhiều AI agent vận hành đồng thời ở các trung tâm dữ liệu khác nhau, trước hết phải xác định gắn công tắc ngắt ở điểm nào, ai có quyền ngắt và vào lúc nào.
Việc thiết kế quy định về AI của Hàn Quốc cũng khó tránh khỏi cuộc tranh luận này. Những điều khoản dựa vào cam kết tự nguyện của doanh nghiệp có thể mất hiệu lực ngay khi cạnh tranh trở nên gay gắt. Tại Mỹ, CEO của công ty dẫn đầu cuộc đua và nhà nghiên cứu đã rời công ty đó đã bộc lộ giới hạn ấy trong một tuần.
Nhiệm vụ đặt ra là quyết định chỉ để sự giám sát của con người ở mức một dòng tuyên bố, hay đưa cả quyền dừng và quy trình vào điều luật. Ý kiến phản bác rằng quy định làm suy giảm năng lực cạnh tranh chắc chắn cũng sẽ xuất hiện tương tự tại Hàn Quốc.
Khi AI agent sửa lịch trình và xử lý thay cả việc thanh toán, căn cứ để người dùng tin tưởng giao việc gần với một công tắc ngắt hoạt động đúng cách hơn là thiện chí của công ty. Cuộc tranh luận bắt đầu ở Washington về việc trao quyền kích hoạt công tắc ngắt cho ai đã đặt ra bài toán tương tự cho Hàn Quốc.
