Hãy hình dung một nhóm năm người trình diễn phần mềm hỗ trợ đọc ảnh y khoa ở một góc hành lang bệnh viện. Thuật toán chạy được, bác sĩ lâm sàng cũng tỏ ra quan tâm. Nhưng để bước sang giai đoạn tiếp theo thì cần tài liệu giải thích, hồ sơ quản lý rủi ro, bản tổng hợp nguồn gốc dữ liệu, kế hoạch giám sát sau khi đưa vào sử dụng. Trong nhóm này có mấy người làm được việc đó?
Quy định về AI trong nước đã đi từ luật xuống nghị định thi hành, rồi xuống thông tư cấp dưới, tạo thành một bộ khung. Khi thủ tục thông báo hành chính trước kết thúc, những gì doanh nghiệp phải tuân thủ về cơ bản đã được sắp xếp thành câu chữ. Ở cấp tổ chức quốc tế, các thảo luận về hướng dẫn thẩm định giúp doanh nghiệp tự kiểm tra tình trạng quản lý AI của mình cũng tiếp tục. Giai đoạn chuẩn mực trở thành văn bản đã qua, giờ còn lại là ai thực sự thi hành văn bản đó.
Quan trọng ngang với cường độ của quy định là sự phân bố của nó. Lĩnh vực dễ bị xếp vào loại rủi ro cao là những lĩnh vực chạm trực tiếp vào cơ thể con người như y tế, chẩn đoán, chăm sóc sức khỏe. Thế nhưng phần lớn doanh nghiệp trong nước bước vào lĩnh vực đó là các công ty giai đoạn đầu với nhân lực vài chục người. Hệ thống quản lý an toàn mà luật yêu cầu chỉ là một dòng công việc đối với bộ phận tuân thủ của doanh nghiệp lớn, nhưng với những công ty này lại trở thành lựa chọn phải đánh đổi với việc phát triển sản phẩm.
Vì vậy nếu không thiết kế xem ai sẽ trả chi phí của quy định an toàn và trả bằng cách nào, AI y tế trong nước sẽ được sắp xếp theo hướng sàng lọc các công ty nhỏ thay vì sàng lọc các dịch vụ nguy hiểm.
Ý kiến phản bác rõ ràng và mạnh. Y tế là lĩnh vực mà bệnh nhân phải trả giá cho thất bại, nên để cho một bên được kiểm chứng ít hơn chỉ vì quy mô nhỏ là nguy hiểm. Tôi đồng ý.
Đây không phải chuyện phải nới lỏng. Ý là vẫn yêu cầu cùng một tiêu chuẩn, nhưng thiết kế để mặc từng doanh nghiệp tự tạo ra từ đầu gánh nặng thực hành cần có để đáp ứng tiêu chuẩn đó mới là vấn đề.
Mẫu văn bản chuẩn, bộ dữ liệu kiểm chứng dùng chung, hạ tầng chung xử lý thay việc đáp ứng quy định làm giảm chi phí mà không làm giảm an toàn. Nếu tình trạng phải ký hợp đồng mới với từng bệnh viện để có dữ liệu dùng cho kiểm chứng lâm sàng còn tiếp diễn, rốt cuộc chỉ bên có mạng lưới bệnh viện sống sót. Tiêu chuẩn phân chia thị trường chuyển từ tính an toàn sang năng lực thu xếp nguồn lực, và đây không phải kết quả mà quy định nhắm tới.
Câu nói chế độ đã hoàn chỉnh thường được đọc theo nghĩa là đã kết thúc. Nhưng thời điểm chuẩn mực được sắp xếp thành điều khoản lại là lúc bắt đầu quan sát chi phí thi hành. Số đơn xin cấp phép của các doanh nghiệp AI y tế trong nước sau thông tư biến động ra sao, việc gia nhập mới của các công ty giai đoạn đầu có giảm đi hay không sẽ là bảng điểm của thiết kế này. Thống kê đó phải vài quý nữa mới thành hình.
Với bệnh nhân, cuộc thảo luận này không trừu tượng. Phần mềm hỗ trợ đọc ảnh chỉ được cài ở các bệnh viện lớn, hay cũng vào được phòng khám của bệnh viện vừa và nhỏ ở địa phương, được quyết ở đây. Khi xã hội cùng chia sẻ chi phí giữ an toàn, một dòng nhận định hỗ trợ hiện lên màn hình phòng khám sẽ có thể được nhìn thấy cả bên ngoài các bệnh viện lớn ở Seoul.
Đối tượng mà quy định phải bảo vệ không phải danh sách công nghệ. Đó là một ngày của người đối diện màn hình ấy.
