Sự sử dụng ngày càng tăng của trí tuệ nhân tạo (AI) đã trở thành một chủ đề nóng trong những năm gần đây, với một số ngành công nghiệp ngày càng sử dụng công nghệ này được dự đoán sẽ cách mạng hóa một số lĩnh vực.
Công nghệ này tạo ra sự hứng thú, nhưng cũng có những lo ngại về những tác động tiêu cực có thể gây ra cho con người và xã hội.
Trong cuốn sách mới của mình, "Không chỉ là một sự cố: Đối mặt với sự thiên vị về sắc tộc, giới tính và khả năng trong công nghệ," nhà nghiên cứu AI và giáo sư báo chí dữ liệu Meredith Broussard đi vào tác động của một số vấn đề gốc rễ của AI.
Broussard nói chuyện với ABC News về việc khám phá cách AI đã được sử dụng trong quá trình kiểm tra chẩn đoán ung thư vú của chính bà và một số khía cạnh tiêu cực có thể xảy ra khi công nghệ này được sử dụng vào mục đích này.
Nhà nghiên cứu AI và giáo sư Meredith Broussard được nhìn thấy trong một cuộc phỏng vấn với ABC News Live vào ngày 15 tháng 8 năm 2023.LINSEY DAVIS: Vậy trong cuốn sách, bạn nói về việc bị chẩn đoán mắc bệnh ung thư vú và bạn biết rằng AI thực sự đã đọc kết quả kiểm tra của bạn. Bạn đã phản ứng ra sao khi nhận được thông tin đó?
MEREDITH BROUSSARD: Tôi nghĩ điều đó rất kỳ lạ, vì tôi đã dựa vào các bác sĩ để được chăm sóc trong giai đoạn khủng hoảng đó của cuộc đời tôi. Và tôi tự hỏi, AI đã tìm thấy điều gì? Nó được sử dụng như thế nào? Và vì tôi là một nhà nghiên cứu AI, tôi tự hỏi, ai đã tạo ra AI cụ thể này, vì tôi biết rằng có rất nhiều thiên vị trong các hệ thống trí tuệ nhân tạo.
Vì vậy, tôi không làm gì với kiến thức này ngay lập tức, nhưng sau khi tôi hồi phục, tôi quay lại nó và thực tế tôi đã chạy các bộ phim của mình qua một trí tuệ nhân tạo mã nguồn mở để viết về trạng thái nghệ thuật trong phát hiện ung thư dựa trên trí tuệ nhân tạo.
THÊM: Thông tin cập nhật trực tiếp về đám cháy Maui, Hawaii: Bidens thăm hòn đảo Hawaii
DAVIS: Anh có nghĩ rằng điều này sẽ trở thành cái gì đó chúng ta sẽ ngày càng thấy trong lĩnh vực y tế?BROUSSARD: Tôi nghĩ rằng một trong những điều mà các nhà nghiên cứu thực sự muốn làm, là các nhà nghiên cứu y khoa thực sự muốn làm, là họ muốn điều trị nhiều người hơn và họ muốn chẩn đoán sớm và chính xác hơn cho nhiều người hơn, và hy vọng thực sự là AI sẽ giúp đỡ trong việc đó. Liệu điều này có xảy ra trong thời gian gần? Không. Có thể xảy ra sau này? Có thể.
DAVIS: Những nguy cơ tiềm tàng khi AI được sử dụng trong khả năng này là gì?
BROUSSARD: Một trong những điều mà mọi người thường không nhận ra là khi bạn tạo ra một hệ thống AI, một hệ thống học máy, để chẩn đoán ung thư vú chẳng hạn, bạn thực sự phải điều chỉnh nó sao cho có tỷ lệ cao hơn về kết quả dương tính giả hoặc kết quả âm tính giả.
Vì vậy, kết quả dương tính giả sẽ có nghĩa là nó nói rằng, "Ồ, bạn có thể bị ung thư," khi bạn thực sự không có ung thư và nó sẽ đưa bạn đi kiểm tra nhiều hơn. Và kết quả âm tính giả có nghĩa là nó nói rằng, "Không, không có ung thư ở đây," nhưng bạn thực sự có ung thư. Vì vậy, chi phí của một kết quả âm tính giả cao hơn nhiều trong y học. Và vì vậy, các hệ thống này đã được điều chỉnh để có nhiều kết quả dương tính giả hơn là kết quả âm tính giả, điều đó có nghĩa là nó thường xuyên sẽ nói rằng, "Ồ, có vấn đề ở đây đấy," và sau đó, mọi người sẽ được giới thiệu để kiểm tra thêm, điều mà như nhiều người biết, có thể tạo ra hàng tuần hoặc thậm chí hàng tháng chờ đợi để có các xét nghiệm bổ sung và chỉ lo lắng suốt quá trình này.
DAVIS: Chà, khi ở nhà, mọi người sẽ tự hỏi liệu có xét nghiệm dương tính giả?
BROUSSARD: Vì vậy, tôi đã được chăm sóc y tế rất tốt trong suốt trải nghiệm về ung thư của mình. Và tôi chỉ muốn bày tỏ lòng biết ơn của mình đến tất cả mọi người đã chăm sóc tôi. Một trong những điều thú vị về AI đã chẩn đoán cho tôi là nó thực sự không được sử dụng để chẩn đoán. Nó được các bác sĩ tại bệnh viện cụ thể này sử dụng sau khi họ đã đưa ra chẩn đoán riêng của họ, vì vậy nó giống như một công cụ dự phòng. Vì vậy, bác sĩ, nhà xét nghiệm hình ảnh sẽ nhập vào nơi họ nghĩ rằng chẩn đoán là gì, và sau đó họ sẽ có quyền truy cập vào kết quả của AI. Và họ có thể bỏ qua kết quả của AI hoặc họ cũng có thể sử dụng nó để nói rằng, "Được rồi, có lẽ tôi sẽ quay lại và xem lại khu vực đáng quan ngại kia."
Vì vậy, nó vẫn nằm trong tay của bác sĩ. Không ai cần lo lắng rằng AI đang tự động chẩn đoán ung thư cho mọi người. Và chúng ta chắc chắn không ở trong tình huống mà nhiều người tưởng tượng, nơi mà nó sẽ giống như một chiếc hộp mà bạn tiếp cận và nó quét bạn và nó nói bạn, "Vâng, bạn bị ung thư. Không, bạn không bị ung thư." Điều đó không phải là một kịch bản hợp lý.
DAVIS: Hôm nay chưa.
BROUSSARD: Hôm nay chưa. Ý tôi là, tôi hy vọng điều đó sẽ không bao giờ xảy ra, vì tôi không muốn nhận tin xấu về mặt y tế. Tôi muốn nó từ bác sĩ. Tôi không muốn lấy từ máy móc.
DAVIS: Meredith, chúng tôi chân thành cảm ơn bạn rất nhiều. Tất nhiên, cuộc trò chuyện này sẽ được tiếp tục trong những tháng và năm tiếp theo. Chúng tôi muốn thông báo cho người xem biết rằng cuốn sách của cô, "Hơn một lỗi nhỏ: Đối mặt với định kiến về chủng tộc, giới tính và sự thiếu ngăn trong Công nghệ," hiện đã có sẵn ở bất kỳ đâu sách được bán."
