Những vấn đề cốt lõi khi sử dụng AI trong y tế - Doanh nghiệp thất lạc hợp đồng, ký chậm. Bizcom Contracts số hóa toàn diện quy trình

Lĩnh vực chăm sóc sức khỏe vốn được quản lý chặt chẽ từ trước đến nay thường chậm áp dụng các công nghệ mới, nhưng trí tuệ nhân tạo (AI) cuối cùng cũng đang dần thâm nhập.

Ví dụ, công nghệ này hiện đang được sử dụng để giúp xác định kết quả nội soi đại tràng là ác tính hay lành tính, giải quyết các vấn đề về sinh sản và sao chép ghi chú của bác sĩ một cách nhanh chóng.

"Qua mỗi năm, các công cụ AI lại ngày càng được sử dụng phổ biến hơn”, bà Regina Barzilay, Giáo sư danh dự về AI và sức khỏe tại Trường Kỹ thuật, Viện Công nghệ Massachusetts (MIT), cho biết.

Nhiều bước tiến trong khám và chữa bệnh khi ứng dụng AI

AI có thể được sử dụng để đưa ra kết luận rõ ràng hơn con người và loại bỏ các phương pháp điều trị y tế không cần thiết. Công nghệ này cũng có thể báo động sớm hơn khi cần điều trị thêm.

Đơn cử, AI có thể đưa ra những chẩn đoán có độ chính xác cao trong việc xác định những bệnh nhân có khả năng mắc ung thư vú hoặc ung thư phổi trong tương lai gần.

Điều này là bởi AI thường phát hiện hoạt động của bệnh tốt hơn trên hình ảnh chụp quét so với con người, vốn chỉ có thể phát hiện những bất thường đủ lớn để mắt thường có thể nhìn thấy.

Việc phát hiện bệnh sớm hơn mang lại cho các bác sĩ nhiều lựa chọn hơn trong việc điều trị bệnh nhân. Từ đó, cho phép các bác sĩ lâm sàng xác định nhóm nhỏ dân số cần được chăm sóc theo dõi, đồng thời giúp 95% người khỏe mạnh không cần phải sàng lọc không cần thiết, bà Barzilay cho biết trong bài viết trên website của MIT.

>>> Tìm hiểu thêm về: Bán hàng rời rạc, khó kiểm soát khi mở rộng. Bizcom Products đồng bộ dữ liệu và quy trình

Một ứng dụng khác của AI là loại bỏ việc ghi chép thủ công vốn tốn nhiều thời gian. Công nghệ nhận dạng giọng nói và ngôn ngữ tự nhiên đã được cải thiện đáng kể đến mức có khả năng ghi chép lại các ghi chú có độ chính xác cao. Việc bác sĩ cần làm là xem lại và ký vào bản ghi chép, tốn ít thời gian hơn nhiều so với việc viết và ghi âm mọi thứ.

Không chỉ vậy, AI có thể tổng hợp thông tin từ tiền sử bệnh và dữ liệu sinh học của bệnh nhân, sau đó dự đoán tác dụng phụ của thuốc với bệnh nhân đó.

Công nghệ này cũng có thể hữu ích trong việc dự đoán quỹ đạo của một căn bệnh ở từng bệnh nhân, “đề xuất rất tốt về những gì sẽ xảy ra, quỹ đạo của bệnh có thể phát triển như thế nào", bà cho biết.

AI cũng đang được sử dụng trong các môi trường phi lâm sàng. Ví dụ, các nhà nghiên cứu ung thư đang sử dụng mô hình phân tử để hiểu rõ hơn về đột biến bệnh và thiết kế các phương pháp điều trị dựa trên thuốc hiệu quả hơn.

AI Trong Y Tế: Thành Tích Ấn Tượng Hay Chỉ Là Chiến Thuật Gian Lận?

Tờ Forbes đưa tin đầu tháng này cho biết, các hệ thống trí tuệ nhân tạo tiên tiến nhất thế giới đang gian lận trong các bài kiểm tra y tế, đạt được điểm số ấn tượng không phải nhờ kiến thức y khoa thực sự mà bằng cách khai thác lỗ hổng trong cách thiết kế các bài kiểm tra này.

Cụ thể, nghiên cứu do Microsoft Research công bố tháng 10 này cho thấy, các hệ thống AI này không thực sự học y khoa mà chỉ trở nên giỏi hơn trong việc làm bài kiểm tra. Điều này giống như việc phát hiện ra rằng một học sinh đạt điểm bài thi hoàn hảo không phải nhờ hiểu, mà nhờ ghi nhớ câu trả lời nào thường đúng nhất.

Khi các nhà nghiên cứu chỉ cần sắp xếp lại thứ tự các câu trả lời trắc nghiệm, ví dụ như chuyển phương án A sang phương án C, hiệu suất AI giảm đáng kể. Điều này có nghĩa là hệ thống đã học được rằng "câu trả lời thường ở vị trí B" thay vì "viêm phổi gây ra các triệu chứng cụ thể này".

Đối với các câu hỏi yêu cầu phân tích hình ảnh y tế như X-quang hoặc MRI, hệ thống AI vẫn đưa ra câu trả lời đúng ngay cả khi hình ảnh đã bị xóa hoàn toàn. Ví dụ, GPT-5 duy trì độ chính xác 37,7% đối với các câu hỏi yêu cầu hình ảnh ngay cả khi không có hình ảnh, cao hơn nhiều so với mức xác suất ngẫu nhiên 20%.

Nghiên cứu cũng chỉ ra rằng, hệ thống AI đã tìm ra cách sử dụng các gợi ý trong các lựa chọn câu trả lời sai để đoán đúng, thay vì áp dụng kiếnthức y khoa thực tế.

>>> Tìm hiểu thêm về: Đâu là bí quyết để doanh nghiệp SME cạnh tranh với tập đoàn lớn. Câu trả lời từ hệ sinh thái Bizcom

Các nhà nghiên cứu phát hiện ra rằng các mô hình này phụ thuộc rất nhiều vào cách diễn đạt của các câu trả lời sai, được gọi là "yếu tố gây nhiễu". Khi những yếu tố gây nhiễu đó được thay thế bằng các thuật ngữ không liên quan đến y khoa, độ chính xác của AI đã giảm sút. Điều này cho thấy AI đang dựa vào các thủ thuật làm bài kiểm tra thay vì sự hiểu biết thực sự.

Nghiên cứu gần đây của Nature cũng nêu bật những lo ngại tương tự, cho thấy niềm tin vào các hệ thống y tế được hỗ trợ bởi AI vẫn còn là vấn đề khi các hệ thống này không thể hiện sự hiểu biết thực sự về bối cảnh y tế.

Theo Forbes, ngành công nghiệp AI trong y tế đang đối mặt với một thời điểm quan trọng. Những phát hiện của Microsoft Research cho thấy những kết quả tích cực gần đây dường như đã tạo ra ảo tưởng về sự sẵn sàng của AI trong y tế - điều có thể gây ra hậu quả nghiêm trọng cho sự an toàn của bệnh nhân.

Do vậy, khi AI tiếp tục mở rộng vào lĩnh vực chăm sóc sức khỏe, các phương pháp xác minh các hệ thống này cần phải phát triển để phù hợp với mức độ tinh vi và khả năng xảy ra lỗi tinh vi.

Bài toán về dữ liệu sức khỏe để đào tạo mô hình AI

Tác giả Gabriel Onuh trong bài viết trên Diễn đàn Kinh tế thế giới (WEF) dẫn số liệu của Deutsche Welle cho biết, hơn 80% các nghiên cứu di truyền chỉ bao gồm người gốc Âu, chiếm chưa đến 20% dân số thế giới, một tình trạng mà nhiều chuyên gia cho là rất không cân xứng.

Cùng với đó, hầu hết dữ liệu sức khỏe được sử dụng để đào tạo các mô hình AI đến từ bệnh nhân ở Hoa Kỳ, một số khu vực ở Châu Âu và Trung Quốc. Mặc dù chỉ với các tập dữ liệu toàn diện và đa dạng, các hệ thống y tế AI mới có thể học cách nhận dạng các mô hình và đưa ra dự đoán chính xác trên nhiều nhóm nhân khẩu học.

Các hệ thống AI được đào tạo dựa trên dữ liệu không đủ đa dạng thường hoạt động kém hiệu quả khi áp dụng cho các nhóm dân số có nền tảng di truyền, tỷ lệ mắc bệnh hoặc mức độ phơi nhiễm môi trường khác nhau.

Điều này tạo ra một tình huống đáng lo ngại, khi các nhóm dân số có khả năng hưởng lợi nhiều nhất từ các công cụ chẩn đoán lại nhóm ít được đại diện nhất trong các hệ thống đang được xây dựng.

Những nguy cơ bị loại trừ do các hệ thống y tế AI thiên vị gây ra không chỉ là vấn đề kỹ thuật mà còn có những hậu quả rõ ràng, thực tế. Một thuật toán phát hiện ung thư bỏ sót khối u trên vùng da sẫm màu không chỉ là một lỗi kỹ thuật; đó là vấn đề sống còn.

Nếu được triển khai mà không giải quyết được những vấn đề này, các hệ thống AI y tế có thể dẫn đến chẩn đoán sai và gây hại, xói mòn niềm tin và bất bình đẳng ngày càng sâu sắc.

AI có tiềm năng chuyển đổi toàn bộ nền kinh tế. Nhưng đặc biệt là trong lĩnh vực chăm sóc sức khỏe, sức mạnh của công nghệ này sẽ chỉ được phát huy một cách công bằng nếu được xây dựng trên nền tảng phản ánh sự đa dạng toàn cầu.