Trong hai ngày 15 và 16/9, nhiều tiếng nói cảnh báo về rủi ro của AI liên tiếp được đưa ra. Yoshua Bengio, người được gọi là 'cha đỡ đầu của AI', cảnh báo nhân loại có thể mất khả năng kiểm soát AI, còn Giám đốc điều hành (CEO) Anthropic Dario Amodei yêu cầu ngành cùng nhau hành động để bảo đảm an toàn. Cũng có ý kiến phản bác. CEO Nvidia Jensen Huang bày tỏ quan điểm phản đối quy định mới, cho rằng AI vẫn có thể được phát triển nhanh chóng mà không cần luật an toàn mới.
Khi các CEO ngành công nghệ liên tiếp đưa ra những cảnh báo kêu gọi quản lý, cuộc thảo luận về quản lý AI ngày càng mở rộng. Tâm điểm tranh luận cũng đã dịch chuyển. Lập trường của Bengio, Amodei và Huang khác nhau ở câu hỏi ai sẽ kiểm soát việc phát triển bằng cơ chế nào.
Giải pháp của Amodei tiến thêm một bước. Trong bài tiểu luận 'We Must Pace the Frontier', ông cho rằng ngành cần giảm nhịp độ phát triển các mô hình tiên phong (frontier model) cho đến khi các cơ chế an toàn, hệ thống giám sát và kỹ thuật căn chỉnh theo kịp. Mô hình tiên phong là mô hình có hiệu năng cao nhất trong số các mô hình AI mới nhất mà mỗi công ty tung ra.
Căn chỉnh (alignment) là công việc tinh chỉnh để AI hoạt động phù hợp với mục tiêu và giá trị mà con người mong muốn. Bài tiểu luận được đăng vào cuối tuần trước.
Amodei đồng thời đưa ra đề nghị các doanh nghiệp cùng nhau xây dựng nỗ lực về an toàn và đề nghị ghìm cương việc phát triển các mô hình tiên tiến nhất.
Cảnh báo của Bengio nhắm vào một vấn đề căn bản hơn. Đó là cảnh báo rằng, vượt ra ngoài mức một sản phẩm cụ thể gặp trục trặc, chính khả năng của con người trong việc dừng và sửa AI có thể biến mất. Đằng sau việc phía ủng hộ trang bị cơ chế an toàn nhiều lần nhắc đến chuyện ghìm cương phát triển là mối lo ngại về tình trạng mất kiểm soát như vậy.
Jensen Huang lập luận từ phía hoàn toàn ngược lại. Theo ông, dù không đặt ra quy định mới, việc phát triển AI vẫn có thể tiếp tục nhanh chóng. Huang cũng nói rằng doanh nghiệp tự xác định sản phẩm có đủ an toàn để tung ra hay không là được. Theo lập luận của Huang, chủ thể xác nhận an toàn và chủ thể quyết định ra mắt sẽ là cùng một công ty.
Bầu không khí ở Washington gần với quan điểm của Huang.
Tổng thống Trump lâu nay tỏ thái độ thiếu mặn mà trước các yêu cầu làm chậm việc phát triển AI hoặc siết chặt quản lý. Chừng nào chính phủ chưa phanh lại, cơ chế kiểm soát AI buộc phải dựa vào cam kết tự nguyện của ngành hoặc tiêu chuẩn nội bộ của doanh nghiệp.
Cả hai giải pháp đều có lỗ hổng. Cách giảm tốc kiểu Amodei chỉ có hiệu quả khi toàn ngành cùng giữ nhịp, nhưng chỉ cần một công ty vượt lên là cam kết mất hiệu lực. Cơ chế tự chủ kiểu Huang đặt tiêu chuẩn ra mắt trong nội bộ công ty nên bên ngoài có ít cách để xem xét tiêu chuẩn đó có đủ hay không. Tình trạng mất kiểm soát mà Bengio nói tới không tự được giải quyết theo hướng nào trong hai hướng đó.
Cuộc tranh luận đang vượt qua giai đoạn tuyên bố để bước vào khâu thiết kế thể chế. Ai quyết định thời điểm làm chậm việc phát triển, cơ quan giám sát được trao quyền hạn gì, và có công cụ nào để kiểm chứng từ bên ngoài kết quả kiểm tra an toàn do doanh nghiệp tự đánh giá hay không là những vấn đề tiếp theo. Vị trí của hai công ty đã khác nhau ngay từ đầu, như Anthropic phát triển mô hình còn Nvidia cung cấp chip bán dẫn cho ngành AI, nên khó đạt được đồng thuận.
Cuộc tranh luận giữa Amodei và Huang phân hóa ở chỗ quyền dừng AI khi nó định làm cả những việc không được giao sẽ chỉ nằm trong nội bộ công ty, hay được trao cả cho cơ quan giám sát bên ngoài.
