Responsive image

Sử dụng trí tuệ nhân tạo trong y tế có nguy cơ xảy ra sự cố hay không?

Sử dụng trí tuệ nhân tạo trong y tế có nguy cơ xảy ra sự cố hay không?

 
 

Trí tuệ nhân tạo (AI) đang phát triển nhanh chóng và phức tạp, và theo quy luật sẽ có những lỗi và hậu quả không lường trước được. Các công ty công nghệ hiện đang tập trung vào AI nhằm tạo ra các sản phẩm để hỗ trợ các bác sĩ lâm sàng, thay vì phán đoán lâm sàng, điều này ngụ ý rằng trách nhiệm đối với các sai lầm vẫn thuộc về bác sĩ lâm sàng.

Dưới đây là tóm lược các nhận định liên quan đến các sự cố khi sử dụng các sản phẩm AI trong lĩnh vực y tế của các tác giả thuộc Acedemy of Medical Royal Colleges qua chuyên đề “Artificial Intelligence in Healthcare” (1/2019):

 

Ai chịu trách nhiệm khi có sự cố xảy ra liên quan đến sử dụng các ứng dụng AI trong lĩnh vực chăm sóc sức khoẻ? Đó là một câu hỏi cơ bản tại cuộc trò chuyện giữa các bác sĩ lâm sàng, các tổ chức chăm sóc sức khỏe, các nhà hoạch định chính sách và các nhà phát triển AI. Ở mức độ nào đó, chúng ta mong đợi các nhà cung cấp dịch vụ chăm sóc sức khỏe hiểu được sự phức tạp của công nghệ AI và ngược lại các công ty công nghệ AI hiểu được thực tế của thực hành lâm sàng?

 

Một bác sĩ lâm sàng có thể chịu trách nhiệm cho việc không sử dụng thuật toán hoặc thiết bị một cách chính xác, nhưng trong trường hợp nếu lỗi do nội dung không đúng thay vì sử dụng không đúng cách, thì trách nhiệm này phải thuộc về những người thiết kế và sau đó là những người đảm bảo chất lượng của sản phẩm AI. Tuy nhiên, điều này cũng không dễ dàng để xác định. Con người có thể có xu hướng ‘tin tưởng vào một cỗ máy hơn là họ có thể tin tưởng chính mình. Nếu bác sĩ lâm sàng, trên thực tế, áp dụng cứng ngắt những đề xuất bởi một thuật toán, thì ai chịu trách nhiệm nếu một lỗi được thực hiện?

 

 

Minh hoạ lỗi thường gặp của AI là do nguy cơ dữ liệu không đầy đủ: “Một thuật toán AI được thiết kế để dự đoán bệnh nhân viêm phổi nào có thể được xuất viện và điều trị một cách an toàn như bệnh nhân ngoại trú (sau khi máy đã học), một lỗi không chính xác đã xảy ra khi thuật toán AI cho rằng những bệnh nhân viêm phổi có tiền sử hen suyễn thì ít có nguy cơ tử vong hơn. Điều này là do nó đúng với dữ liệu huấn luyện, vì bệnh nhân hen suyễn thường đến khoa ICU, và được chăm sóc tích cực hơn và do đó ít có khả năng tử vong. Thuật toán AI không hiểu điều này và sử dụng quy tắc rằng nếu ai đó bị viêm phổi có tiền căn hen suyễn, họ có nhiều khả năng được điều trị như một bệnh nhân ngoại trú. Vì điều này, nhóm nghiên cứu đã quyết định sử dụng một hệ thống dựa trên quy tắc dễ hiểu hơn đối với con người, thay vì mạng lưới thần kinh (của AI), để họ có thể xác định và loại bỏ các quy tắc nguy hiểm”.

 

 

Từ những lập luận trên, các chuyên gia đã khuyến cáo: (1) Phải xác định ranh giới trách nhiệm đối với các tác hại do nội dung bị lỗi hay do sử dụng không chính xác; (2) Cần phải xem xét sự cần thiết chống lại sự thiên vị tự động hóa và áp dụng cứng ngắt các khuyến nghị do AI tạo ra; (3) Bác sĩ lâm sàng cần được trang bị các kỹ năng mới để đánh giá công nghệ mới và cho phép họ đồng ý hoặc không đồng ý một cách tự tin với các khuyến nghị do AI tạo ra.

 

SỞ Y TẾ TP.HCM


Nổi bật
Hướng dẫn

Hướng dẫn đặt bệnh

 

---------------------------------
ĐẶT LỊCH KHÁM CHỦNG NGỪA  ( TẤT CẢ CÁC NGÀY TRONG TUẦN ).
XIN VUI LÒNG GỌI 19007280 ĐỂ LẤY SỐ THỨ TỰ.
XIN CẢM ƠN !

Chuyên khoa
Tin tức

Giới thiệu sản phẩm bình chọn Giải thưở...

37 sản phẩm “Y tế thông minh” của Ngành...

Giới thiệu sản phẩm bình chọn Giải thưở...

Khai giảng khoá đào tạo nâng cao kỹ năn...

Chương trình TRI ÂN THẦY CÔ GIÁO nhân d...

5G và những hứa hẹn làm thay đổi công n...

PHỤ NỮ CÓ THAI KHI ĐI MÁY BAY CẦN BIẾT

Đánh giá 91 sản phẩm đăng ký tham dự bì...

34 sản phẩm vào Vòng 2 của đợt bình chọ...

Tìm hiểu mô hình thiết kế bệnh viện tíc...

Sử dụng trí tuệ nhân tạo trong y tế có ...

TPHCM hụt quỹ bảo hiểm y tế 1.800 tỷ đồ...

New Zealand thành công trong kéo giảm c...

Các quy định pháp luật về mua sắm thuốc...

PKĐK Trần Diệp Khanh tổ chức du lịch dị...

Tìm hiểu hoạt động kiểm định chất lượng...

TP.HCM: 20 y bác sĩ mổ tim cứu sống bé ...

Sử dụng cả 2 mô hình “Anglo-American” v...

Tìm hiểu mô hình khám sức khoẻ “Ningen ...

Bộ trưởng đánh giá cao hoạt động cấp cứ...

Kết nối từ xa (Telehealth) giữa bác sĩ ...

Tìm hiểu những quy định nghiêm ngặt để ...

Tìm hiểu thời gian nằm viện trung bình ...

14 công trình mới đã khởi công và đang ...

Tìm hiểu tình hình sử dụng thuốc generi...

Khởi công xây mới Bệnh viện Nhi Đồng 1

Tìm hiểu giải pháp làm giảm tình trạng ...

Rất cần một hệ thống điều hành thông mi...

Mạng lưới điều trị đột quỵ trên địa bàn...

“Dashboard cai máy thở” giành Giải thưở...

Tìm hiểu thêm về hoạt động “logistics b...

Cẩn thận khi ngủ ở sàn nhà!

Cộng đồng
Bác sĩ

LIÊN HỆ


HOẶC ĐIỀN THÔNG TIN THEO MẪU DƯỚI

HỌ TÊN KHÁCH HÀNG (*): 

EMAIL (*): 

SĐT (*): 

Địa chỉ  

THÔNG TIN CẦN TƯ VẤN 

THÔNG BÁO

Thông báo

PHÒNG KHÁM ĐA KHOA

TRẦN DIỆP KHANH

THỜI GIAN LÀM VIỆC

BUỔI SÁNG : TỪ 7H30 ĐẾN 11H30

BUỔI CHIỀU: TỪ 13H00 ĐẾN 20H30

LÀM VIỆC TẤT CẢ CÁC NGÀY TRONG TUẦN.

Đ/c: 11/25 Nguyễn Oanh, Phường 10, Quận

Gò Vấp, TP. Hồ Chí Minh

Dịch vụ
Sự kiện
Liên kết
Bản đồ
...