Thảo luận về quy định xung quanh AI đang chuyển từ việc kiểm soát ở khâu chế tạo mô hình sang việc phân bổ trách nhiệm. Tại Hạ viện Mỹ, Hạ nghị sĩ Jay Obernolte của đảng Cộng hòa và Hạ nghị sĩ Lori Trahan của đảng Dân chủ đã đưa ra dự thảo luật về AI dài 269 trang vào ngày 4 tháng 6 giờ địa phương, và một ngày sau, ngày 5, "Sắc lệnh hành pháp thúc đẩy đổi mới và an ninh AI tiên tiến" của chính quyền Trump cùng sách trắng "Quản trị dân chủ đối với AI tiên phong: Bản thiết kế cho một khung liên bang" của OpenAI lần lượt được công bố. Điểm nhắm của ba văn kiện này khác nhau, nhưng cùng đặt câu hỏi phần nào thuộc về ai giữa doanh nghiệp phát triển và chính phủ, giữa bang và liên bang.
Dự thảo của Hạ viện buộc các doanh nghiệp chế tạo mô hình tiên tiến nhất phải lập và thi hành kế hoạch ứng phó rủi ro, đồng thời để một cơ quan kiểm toán bên thứ ba độc lập kiểm chứng việc thực thi đó. Cơ quan giám sát được chỉ định là CAISI trực thuộc Bộ Thương mại. Đây là thiết kế nhằm luật hóa một tổ chức vốn vận hành bằng sắc lệnh hành pháp, và gắn kèm 300 triệu USD (khoảng 460 tỷ won) trong 3 năm.
Cách tiếp cận từ phía chính quyền có sắc thái khác. Sắc lệnh hành pháp khẳng định rõ không đặt giấy phép bắt buộc hay phê duyệt trước đối với việc phát triển và triển khai mô hình mới. Thay vào đó, sắc lệnh yêu cầu lập một khung tự nguyện để doanh nghiệp phát triển trao cho chính phủ quyền tiếp cận trước tối đa 30 ngày trước khi phát hành, và NSA đảm nhận vai trò then chốt trong việc đo chuẩn không công khai nhằm sàng lọc các mô hình tiên phong thuộc diện quản lý. Việc đánh giá năng lực mạng được xây dựng quanh trục NSA và CISA.
Sách trắng của OpenAI cũng vạch ranh giới với chế độ cấp phép. Chỉ bắt buộc đánh giá an toàn và quy trình giảm thiểu rủi ro trước khi công bố đối với các mô hình tiên phong ở tầng cao nhất, còn phản đối việc chính phủ nắm quyền phê duyệt hay ngăn chặn việc phát hành. Cùng với đó, sách trắng đề xuất phát triển CAISI thành một trung tâm thường trực đảm nhận cả việc đánh giá an toàn và xây dựng tiêu chuẩn kiểm thử, chứng nhận các tổ chức đánh giá độc lập, điều phối với các đối tác quốc tế. Cả ba văn kiện đều chỉ đến cùng một cơ quan, nhưng giao cho cơ quan đó việc gì thì lại khác nhau.
Xung đột gay gắt nhất nằm giữa liên bang và bang. Dự thảo của Hạ viện không cho chính quyền bang ban hành quy định nhắm vào bản thân việc phát triển mô hình AI, đồng thời vẫn để ngỏ các quy định của bang xử lý cách thức sử dụng như lừa đảo, phân biệt đối xử, thiệt hại cho người tiêu dùng. Điều khoản hạn chế này kèm theo quy định hoàng hôn, tự động hết hiệu lực sau 3 năm. Nhà Trắng cũng từng yêu cầu lập pháp liên bang hạn chế quy định phát triển của các bang trong bản thiết kế chính sách AI trình Quốc hội hồi tháng 3.
Phản ứng chia làm hai. Ông Brad Carson, Chủ tịch tổ chức "Người Mỹ vì đổi mới có trách nhiệm (ARI)", chỉ ra rằng các biện pháp an toàn tối thiểu trong lập pháp AI của chính quyền bang có thể ngược lại trở thành mức trần. Trong khi đó, các tổ chức của ngành công nghệ, trong đó có ITI, hoan nghênh với lý do tiêu chuẩn quản lý được thống nhất về một mối. Đây là sự đối lập chia rẽ về việc gắn quy định vào tầng nào, hơn là về cường độ quy định.
Câu hỏi tương tự xuất hiện trong ngành tài chính Hàn Quốc bằng một ngôn ngữ khác. Nghiên cứu viên cao cấp Yeon Tae-hoon của Viện Nghiên cứu Tài chính Hàn Quốc, trong báo cáo "Xây dựng hệ thống quản lý đối với việc sử dụng AI trong ngành tài chính", đã chia các loại hình quản lý thành kiểm soát tác dụng phụ thông qua lập pháp, dẫn dắt tự quản dựa trên hướng dẫn theo từng ngành, và cách mở rộng áp dụng hệ thống quản lý rủi ro mô hình (MRM) hiện có sang AI. Quản lý rủi ro mô hình là quy trình quản lý lập danh mục các mô hình dự báo, đánh giá mà công ty tài chính sử dụng, xếp hạng rồi kiểm chứng và giám sát chúng. Báo cáo cho rằng trong số này, phương án thứ ba đưa ra quy trình kiểm soát tốt hơn cả về mặt khả năng thực thi.
Các yếu tố cụ thể được nêu gồm nhận diện và đánh giá mô hình, gán hạng rủi ro, lập tài liệu, kiểm thử trước khi sử dụng thực tế, giám sát và kiểm toán liên tục, thành lập bộ phận chuyên trách quản lý rủi ro. Phần giải thích bổ sung thêm kiểm chứng của bộ phận độc lập và phê duyệt nội bộ, quản lý bên thứ ba, hệ thống phòng vệ ba lớp cũng được trình bày kèm theo. Đây là ý tưởng mở rộng phạm vi áp dụng của các quy trình kiểm soát mà công ty tài chính đã vận hành lâu nay, thay cho việc viết luật mới.
Nước ngoài đang đi con đường đó. Cơ quan Quản lý An toàn Tài chính Anh đã đưa vào áp dụng các nguyên tắc quản lý rủi ro mô hình năm 2023, Cơ quan Giám sát Tài chính Canada đã ban hành hướng dẫn liên quan vào năm ngoái, còn Mỹ đã sửa đổi và công bố chỉ dẫn trong năm nay. Tại Hàn Quốc chưa có hướng dẫn quản lý rủi ro mô hình áp dụng cho toàn ngành tài chính. Luật Cơ bản về AI có hiệu lực trong năm nay nên quy định đang dần hình thành, nhưng công cụ xử lý tầng nấc mang tên mô hình tài chính vẫn còn trống.
Báo cáo nhận định AI trong ngành tài chính sẽ lan ra hầu như toàn bộ nghiệp vụ, trừ một số lĩnh vực khó kiểm chứng việc tuân thủ quy định. Đồng thời, báo cáo dự báo trong một thời gian khá dài, mô hình toán học, thống kê truyền thống và mô hình AI sẽ được dùng song song. Vì vậy, báo cáo kèm theo đề xuất rằng không tách riêng AI mà phải đồng thời đưa vào một hệ thống quản lý gộp cả các mô hình phi AI thì điểm mù mới giảm. Bởi nếu chỉ siết một bên, nghiệp vụ sẽ chảy sang phía quản lý lỏng lẻo hơn.
Quy định can thiệp vào khâu chế tạo mô hình gây ma sát chính trị lớn và khó theo kịp thay đổi công nghệ. Trong khi đó, quy định buộc ghi lại ai đã kiểm chứng và ai đã phê duyệt khi mô hình ấy được dùng để thẩm định khoản vay, định phí bảo hiểm và sàng lọc tuyển dụng thì vận hành ngay trên các quy trình hiện hành.
Người bị từ chối cho vay tại quầy ngân hàng không thắc mắc mô hình nào được tạo ra bằng bao nhiêu tham số. Họ muốn biết quyết định đó đã đi qua quy trình nào, và khi sai thì có thể hỏi ai. Dự thảo của Hạ viện ở Washington còn phải qua thảo luận tại ủy ban thường trực, và việc chỉnh sửa quy định giám sát trong nước cũng cần thêm thời gian mới hoàn tất.
