WHO khuyến cáo thận trọng sử dụng AI trong chẩn đoán sức khoẻ cộng đồng

Dữ liệu được sử dụng để lập trình và đào tạo AI có thể bị sai lệch và từ đó đưa ra những chẩn đoán, quyết định không chính xác. Ảnh minh họa: Reuters

Trong một khuyến cáo ngày 16/5, WHO cho biết họ rất hào hứng với tiềm năng của AI nhưng lo ngại về cách thức sử dụng công nghệ này để cải thiện khả năng tiếp cận thông tin y tế, như một công cụ hỗ trợ ra quyết định và cải thiện việc chăm sóc chẩn đoán.

WHO cho rằng dữ liệu được sử dụng để lập trình và đào tạo AI có thể bị sai lệch và từ đó đưa ra những chẩn đoán, quyết định không chính xác, đồng thời các mô hình có thể bị lợi dụng để tạo ra thông tin sai.

Hiện tại người dùng đang chuyển sang sử dụng AI để giúp chẩn đoán trước khi đến gặp bác sĩ. Cho đến nay, có rất ít thử nghiệm sử dụng các công cụ AI tổng quát trong trị liệu. Vấn đề được đặt ra ở đây là nếu dữ liệu được sử dụng để đào tạo mô hình thiếu tính đa dạng, nó có thể dẫn đến chẩn đoán sai hoặc sai lệch đối với một số nhóm đối tượng nhất định.

Cơ quan y tế của Liên hợp quốc nhấn mạnh "bắt buộc" phải đánh giá rủi ro khi sử dụng các công cụ mô hình ngôn ngữ có trang bị AI như ChatGPT để bảo vệ và thúc đẩy phúc lợi của con người cũng như bảo vệ sức khỏe cộng đồng.

WHO đã đặt ra 6 nguyên tắc cốt lõi được xác định là bắt buộc khi sử dụng AI trong lĩnh vực chăm sóc sức khỏe, bao gồm bảo vệ quyền tự chủ; thúc đẩy phúc lợi con người, an toàn con người và lợi ích công cộng; đảm bảo tính minh bạch, dễ giải thích và dễ hiểu; thúc đẩy trách nhiệm; đảm bảo tính toàn diện và công bằng; thúc đẩy AI đáp ứng nhanh và bền vững.

Khuyến cáo của WHO được đưa ra trong bối cảnh ứng dụng trí tuệ nhân tạo đang nhanh chóng trở nên phổ biến, làm nổi bật một công nghệ có thể thay đổi cách thức hoạt động của các doanh nghiệp và xã hội.

Ứng dụng nhanh chóng là một trong những rủi ro chính được WHO nhấn mạnh. Chỉ trong vòng 4 tháng kể từ khi phát hành vào tháng 11/2022, công nghệ ChatGPT của OpenAI đã trở thành một trong những ứng dụng tiêu dùng phát triển nhanh nhất trong lịch sử. Nó đã châm ngòi cho một cuộc cách mạng trong lĩnh vực công nghệ khi các nhà cung cấp đổ xô tích hợp các công cụ AI vào phần mềm của họ.

“Ông lớn” tìm kiếm Google đã phát hành một phiên bản của mô hình tìm kiếm tương tác có tên gọi MedPaLM 2 vào tháng 4 vừa qua. Công ty tự hào giới thiệu: “Các mô hình tương tác phù hợp với ngành, như Med-PaLM 2, là một phần của nhóm công nghệ AI đang phát triển có tiềm năng nâng cao đáng kể trải nghiệm chăm sóc sức khỏe”.

Trong khi đó, Microsoft, một nhà đầu tư lớn vào OpenAI, đã yêu cầu nhóm nghiên cứu của mình đưa phần mềm GPT-4 vào thử nghiệm đối với một loạt bài kiểm tra y tế tại Mỹ. “Kết quả của chúng tôi cho thấy các bài kiểm tra mà GPT-4 hoàn thành vượt quá điểm yêu cầu 20 điểm và vượt trội so với các mô hình trước đó cũng như các mẫu được tinh chỉnh cụ thể dựa trên kiến ​​thức y tế”, đại diện Microsoft chia sẻ./.