Cần quy định riêng dữ liệu y tế để bảo đảm an toàn, AI không thể thay thế bác sĩ trong chẩn đoán và kê đơn
(PNTĐ) - Chiều 27/11, dưới sự điều hành của Phó Chủ tịch Quốc hội Lê Minh Hoan, Quốc hội thảo luận về dự án Luật Trí tuệ nhân tạo.
Phó Chủ tịch Quốc hội Lê Minh Hoan nhấn mạnh trí tuệ nhân tạo đã nhanh chóng tiếp cận mọi độ tuổi, ngành nghề, lĩnh vực và hiện diện thường trực trên thiết bị thông minh, hỗ trợ người dùng 24/7. Công nghệ này cho phép con người giải quyết vấn đề cũ theo cách mới, nhưng trí tuệ con người vẫn là yếu tố quyết định để xử lý những vấn đề chưa từng có.
Theo Phó Chủ tịch Quốc hội, dự án Luật Trí tuệ nhân tạo được xây dựng với quan điểm vừa bảo đảm hành lang pháp lý, vừa khơi thông nguồn lực và kiến tạo không gian phát triển. Để AI trở thành động lực lành mạnh, cần hệ thống nguyên tắc rõ ràng về đạo đức, minh bạch, trách nhiệm giải trình, bảo vệ dữ liệu cá nhân và bảo vệ lợi ích quốc gia, đặt con người ở vị trí trung tâm.
Phó Chủ tịch Quốc hội cho biết dự thảo luật thể hiện nỗ lực của Quốc hội, Chính phủ và các cơ quan soạn thảo trong việc tiếp thu kinh nghiệm quốc tế và điều chỉnh phù hợp điều kiện, nguồn lực Việt Nam. Ngày 21/11, Quốc hội đã nghe Tờ trình và Báo cáo thẩm tra, đồng thời thảo luận tại tổ với 97 lượt ý kiến. Tổng Thư ký Quốc hội đã gửi báo cáo tổng hợp, và cơ quan chủ trì soạn thảo đã có báo cáo dự kiến giải trình, tiếp thu ý kiến đại biểu.
Cần chính sách cụ thể, lộ trình rõ ràng để phát triển trí tuệ nhân tạo
Đại biểu Huỳnh Thị Hằng Nga (Đoàn Vĩnh Long) nhấn mạnh trí tuệ nhân tạo (AI) đang trở thành công nghệ mũi nhọn của cuộc cách mạng công nghiệp 4.0, mở ra nhiều cơ hội lớn cho phát triển kinh tế - xã hội nhưng cũng đặt ra không ít thách thức về đạo đức, an toàn và quản lý. Bà cho rằng việc ban hành Luật về trí tuệ nhân tạo là cần thiết, đáp ứng yêu cầu thực tiễn và phù hợp với bối cảnh hội nhập quốc tế.
Góp ý tại Điều 5 về chính sách của Nhà nước, đại biểu cho biết bà “cơ bản thống nhất với các nhóm chính sách được nêu trong dự thảo luật”, nhưng nhận xét rằng các quy định này “vẫn còn mang tính chung, chưa cụ thể”, gây khó khăn khi triển khai. Bà đề nghị giao Chính phủ quy định chi tiết và sớm ban hành các văn bản hướng dẫn ngay sau khi luật được thông qua.
Đại biểu nhấn mạnh cần xác định rõ lộ trình bố trí ngân sách để xây dựng hạ tầng tính toán, hạ tầng dữ liệu cho các lĩnh vực đột phá, đồng thời xây dựng chính sách hỗ trợ doanh nghiệp đầu tư vào các ngành kinh tế - xã hội trọng điểm. Nhà nước nên ưu tiên phát triển ứng dụng AI trong các lĩnh vực có lợi thế như nông nghiệp, môi trường, y tế; và có cơ chế ưu tiên trong mua sắm công sử dụng công nghệ AI trong nước.
Theo đại biểu, các doanh nghiệp Việt Nam hiện mới đầu tư AI ở quy mô nhỏ và phân tán. Vì vậy, cần có định hướng phát triển ngành công nghệ AI trọng tâm để đạt mục tiêu chiến lược quốc gia: đến năm 2030 có 10 thương hiệu AI uy tín, Việt Nam nằm trong nhóm 4 nước dẫn đầu ASEAN và top 50 thế giới về nghiên cứu, phát triển và ứng dụng AI. Bà cũng lưu ý các cơ chế tài chính dành cho AI phải được bố trí đầy đủ; việc định giá sản phẩm, dịch vụ AI cần linh hoạt, giảm thủ tục để đáp ứng tính đặc thù, nhất là với các mô hình nền tảng AI.
Đại biểu chỉ ra rằng sự phát triển của AI đang tái cấu trúc thị trường lao động, đòi hỏi Nhà nước có chính sách đào tạo lại kỹ năng số, điều chỉnh mô hình giáo dục và việc làm. Cùng đó, cần có chính sách hỗ trợ công nhân, người lao động chuyển nghề; xác định lộ trình cho các ngành nghề dần tự động hóa; khuyến khích doanh nghiệp chuyển nhân sự sang vị trí mới; giảm giờ làm thay vì giảm nhân sự. Theo đại biểu, điều này phù hợp với tinh thần dự thảo luật: AI phục vụ con người, không thay thế con người, và con người giữ quyền giám sát trong các quyết định quan trọng.
Đề cập khoản 4 Điều 5, đại biểu đề nghị bổ sung chính sách đào tạo kỹ sư AI chuyên sâu, đào tạo nhân lực ứng dụng AI cho chính quyền địa phương. Nhiều địa phương, nhất là cấp xã, còn hạn chế về cơ sở dữ liệu, tài chính và nhân lực, ảnh hưởng đến khả năng triển khai AI trong quản lý và cung cấp dịch vụ công.
Đại biểu cũng nhấn mạnh cần đẩy mạnh truyền thông để nâng cao nhận thức cho cán bộ, công chức, doanh nghiệp, học sinh, người dân về dữ liệu và ứng dụng AI, giúp các ngành và cấp hiểu rõ vai trò, lợi ích cũng như kỹ năng cần chuẩn bị trong thời đại AI.
Cần kiểm soát rủi ro và dữ liệu trong dự án Luật Trí tuệ nhân tạo
Về khái niệm AI tại khoản 1 Điều 2, đại biểu Lê Văn Khảm (Đoàn TP Hồ Chí Minh) cho rằng cụm từ “mở rộng năng lực, trí tuệ con người” chưa rõ ràng, dễ gây hiểu nhầm rằng AI có thể tạo ra giá trị vô biên.
Trong khi đó, hệ thần kinh và năng lực trí tuệ con người vô cùng phức tạp; việc mô phỏng đã khó, việc “mở rộng” càng khó hơn.
Đại biểu dẫn khái niệm AI trong tài liệu tham khảo của Hàn Quốc, theo đó AI được hiểu là “việc thực hiện các chức năng trí tuệ của con người như suy luận, nhận thức, phán đoán, hiểu ngôn ngữ bằng phương pháp điện tử”. Từ đó, đề nghị cơ quan soạn thảo cân nhắc chỉnh lý, tập trung thể hiện rõ tính chất của AI là mô phỏng, tái tạo và thực hiện các năng lực trí tuệ như nhận thức, học tập, suy luận, hiểu ngôn ngữ, giải quyết vấn đề theo mục tiêu và có sáng tạo.
Thứ hai, về phân loại và kiểm soát rủi ro, đại biểu đồng tình với cách tiếp cận phân loại dựa trên mức độ rủi ro, coi đây là bước tiến phù hợp thông lệ quốc tế và không cản trở đổi mới sáng tạo. Tuy nhiên, dự thảo mới nêu tính chất mà chưa có ngưỡng kỹ thuật định lượng, có thể gây khó khăn khi thực thi. Đại biểu đề nghị bổ sung quy định mang tính nguyên tắc, tiêu chí đánh giá đo lường được về độ chính xác, độ tin cậy, an toàn cũng như mức chấp nhận sai số. Cần có quy định riêng cho các ngành có rủi ro cao, đặc biệt là y tế, nơi sai số có thể dẫn đến hậu quả nghiêm trọng.
Đại biểu đề xuất AI trong y tế phải được kiểm định như thiết bị y tế, với danh mục bắt buộc áp dụng cho các hệ thống hỗ trợ ra quyết định lâm sàng: AI chẩn đoán, dự đoán nguy cơ tử vong hoặc biến chứng, robot phẫu thuật sử dụng AI, AI hỗ trợ kê đơn hoặc đưa ra phác đồ điều trị. Cần có cơ chế giám sát lưu hành riêng gồm báo cáo định kỳ, cảnh báo sự cố, kiểm toán thuật toán, theo dõi sai số theo thời gian thực. Đại biểu kiến nghị giao Bộ Y tế chủ trì quản lý AI trong y tế, phối hợp Bộ Khoa học và Công nghệ, đồng thời xem xét lại quy định để nhà cung cấp tự phân loại rủi ro.
Về dữ liệu, đại biểu nhấn mạnh dữ liệu là yếu tố sống còn của AI. Dự thảo đã đề cập tại Điều 16 nhưng cần làm rõ hơn nguồn dữ liệu, tính hợp pháp, bảo mật, xác thực, đúng đắn và kiểm soát chất lượng. Cần quy định về chuẩn hóa ẩn danh, quản trị vòng đời dữ liệu, kiểm định và kiểm toán dữ liệu. Việc phân loại dữ liệu như cá nhân, phi cá nhân, dữ liệu công hay dữ liệu chuyên ngành cần được mô tả rõ tính chất để làm cơ sở quản lý, đánh giá độ an toàn, độ chính xác và cơ chế chia sẻ.
Đại biểu đề nghị có điều khoản riêng về dữ liệu y tế, do lĩnh vực này đòi hỏi chuẩn dữ liệu nghiêm ngặt, đồng bộ chất lượng, đối chiếu – tham chiếu, chống thiên lệch. Quy mô và tính đồng nhất dữ liệu y tế có thể quyết định phạm vi ứng dụng AI ở từng thời điểm. Quy định riêng sẽ giúp tận dụng ưu thế của AI, nâng cao chất lượng chăm sóc sức khỏe và giảm thiểu rủi ro đối với người bệnh và xã hội.
Không thể thay thế bác sĩ trong chẩn đoán và kê đơn
Đại biểu Trần Khánh Thu (Đoàn Hưng Yên) cho rằng, trí tuệ nhân tạo còn rất mới, nhiều tổ chức, cá nhân chưa biết cách sử dụng an toàn, hiệu quả. Dự thảo hiện vẫn thiên về kỹ thuật, trong khi ở một số lĩnh vực tác động lớn, đặc biệt là y tế, quy định còn chưa rõ, dễ gây lúng túng khi áp dụng.
Đại biểu dẫn thực tế ngành y tế là lĩnh vực có tiềm năng ứng dụng AI lớn. AI hỗ trợ chẩn đoán, điều trị, quản lý bệnh nhân và nghiên cứu phát triển dược phẩm, giúp tối ưu quy trình, giảm tải cho nhân viên y tế và cá nhân hóa điều trị.
Tại Việt Nam, ứng dụng AI đang phát triển nhưng còn thách thức về hạ tầng, khả năng tiếp cận và nhân lực. Đại biểu nêu trường hợp một bệnh nhân 55 tuổi tại TP.HCM bị chóng mặt, khó thở; người thân tra cứu AI và tự mua thuốc hạ huyết áp cho uống.
Sau đó bệnh nhân diễn biến nặng, được đưa đi cấp cứu và bác sĩ xác định bị đột quỵ, tổn thương não. Đại biểu khẳng định AI chỉ nên dùng để tìm hiểu thông tin, không thể thay thế bác sĩ trong chẩn đoán và kê đơn. Đại biểu Trần Khánh Thu đặt câu hỏi người bán thuốc theo “đơn AI” có vi phạm pháp luật hay không.
Đại biểu nhận xét hiện pháp luật chưa có quy định đầy đủ về ứng dụng AI trong y tế. Luật Khám bệnh, chữa bệnh 2023 và Luật Dược có điều chỉnh hoạt động y tế, nhưng thiếu tiêu chuẩn riêng đối với sản phẩm AI y tế, cũng như quy định về trách nhiệm pháp lý khi AI sai sót, bảo mật dữ liệu, bảo đảm an toàn cho bệnh nhân. Vì vậy, đại biểu đề nghị dự thảo luật cần bổ sung khung pháp lý cụ thể hơn.
Bốn kiến nghị chính được nêu: Làm rõ khoản 2 và khoản 3 Điều 1 về phạm vi áp dụng đối với hệ thống AI sử dụng cho mục đích khác với mục đích quốc phòng, an ninh, vì tiêu chí xác định hiện chưa rõ. Về phân loại rủi ro (Điều 8–14), cần có phụ lục minh họa cấp độ rủi ro theo tiêu chí định lượng như EU, vì tiêu chí “tác động đến quyền con người” rất khó lượng hóa.
Theo đại biểu, quy định rõ ngưỡng để chuyển từ hậu kiểm sang tiền kiểm khi mô hình thay đổi thuật toán, quy mô người dùng hoặc dữ liệu đào tạo vượt mức nhất định.
Điều 28 đang mâu thuẫn giữa khoản 1 và khoản 2 về mức xử phạt. Báo cáo 339 nêu sẽ điều chỉnh theo Luật Xử lý vi phạm hành chính nhưng dự thảo kèm theo vẫn giữ mức phạt cụ thể, đại biểu Trần Khánh Thu đề nghị rà soát, chỉnh lý thêm.
