 |
| Ảnh minh họa. (Nguồn: Pymnts) |
Các ứng dụng chatbot chuyên về hỗ trợ sức khỏe tinh thần sử dụng công nghệ trí tuệ nhân tạo (AI) đang ngày càng phổ biến trên thế giới giữa lúc các nguồn lực y tế vẫn hạn hẹp sau dịch COVID-19.
Những chatbot này có các ưu điểm đáng chú ý về mặt chi phí và khả năng lắng nghe, phản hồi con người.
Tuy nhiên, giới chuyên gia cũng bày tỏ lo ngại về các vấn đề như quyền riêng tư cho dữ liệu người dùng cũng như tính đúng đắn của các lời tư vấn do AI đưa ra.
Chi phí - yếu tố quan trọng hàng đầu
Hỗ trợ sức khỏe tâm lý là một thách thức ngày càng tăng trên toàn thế giới. Ước tính từ Tổ chức Y tế Thế giới (WHO) cho thấy từ trước khi đại dịch COVID-19 bùng phát, khoảng 1 tỷ người trên toàn cầu phải sống chung với chứng lo âu và trầm cảm, trong đó 82% ở các quốc gia có thu nhập thấp và trung bình. Đại dịch đã làm số người mắc các chứng bệnh tâm lý trên toàn cầu tăng thêm khoảng 27%.
WHO cho biết ngay cả trước khi nhu cầu gia tăng vào năm 2020, hầu hết những người được chẩn đoán có tình trạng sức khỏe tâm thần kém không bao giờ được điều trị. Nhiều người khác - khi không có nhiều dịch vụ hỗ trợ ở quốc gia của họ hoặc chịu cảnh bị kỳ thị khi tìm kiếm chúng - đã chọn không điều trị.
Một rào cản lớn đối với những người cần điều trị sức khỏe tâm lý là chi phí thường khá cao.
Như tại Mỹ, chi phí cho một buổi tư vấn tâm lý có thể dao động trong khoảng 100-250 USD cho người không có bảo hiểm.
Trong bối cảnh đó, việc nhiều người tìm tới các ứng dụng tích hợp AI có khả năng hỗ trợ sức khỏe tâm lý là điều dễ hiểu.
Theo Viện nghiên cứu Brookings, những bệnh nhân có bảo hiểm y tế có thể được thăm khám trị liệu trực tiếp, còn những người không bảo hiểm sẽ tìm tới các chatbot do chúng rẻ hơn và gần như luôn có sẵn 24/7.
Các công cụ kỹ thuật số chuyên hỗ trợ sức khỏe tâm lý đã xuất hiện từ hơn một thập kỷ qua.
Tạp chí chuyên về công nghệ thông tin trong lĩnh vực y tế the International Journal of Medical Informatics thống kê hiện có hơn 40 chatbot AI đang hoạt động trong lĩnh vực này trên toàn cầu.
Tuy nhiên, các nhà nghiên cứu cảnh báo rằng mặc dù mức phí thấp - thậm chí miễn phí của chatbot AI có thể hấp dẫn người dùng, họ phải cảnh giác về sự chênh lệch trong khả năng của chuyên gia con người với một chatbot.
Ví dụ được đưa ra là Hiệp hội về chứng rối loạn ăn uống quốc gia Mỹ (NEDA) hồi tháng 5/2023 đã bắt đầu để một chatbot - có tên Tessa - thay thế đường dây nóng vốn do con người vận hành trong suốt hơn 20 năm qua.
Nhưng ngay sang đầu tháng Sáu, NEDA đã ngừng sử dụng Tessa sau khi chatbot này cung cấp những lời khuyên có hại cho những người đang vật lộn với bệnh tâm lý.
Trong một số trường hợp, Tessa đã khuyên người bệnh vốn đã mắc chứng rối loạn ăn uống nên giảm cân.
Dễ trải lòng hơn với AI
Ngoài chi phí, tính ẩn danh và thiếu khả năng nhận thức là lý do tại sao nhiều người chọn chatbot AI thay vì một bác sỹ trị liệu con người.
Một người dùng chia sẻ rằng họ hiểu chatbot chỉ là một mô hình ngôn ngữ lớn và nó không có khả năng "nhận biết" bất cứ điều gì. Nhưng chính điều này giúp việc trải lòng của người dùng trở nên dễ dàng hơn.
 |
| (Nguồn: AFP) |
Đáng chú ý, một nghiên cứu đầu năm 2023 được đăng trên Tạp chí của Hiệp hội Y học Mỹ đã khảo sát 195 bệnh nhân được chọn ngẫu nhiên từ một diễn đàn mạng xã hội để đánh giá câu trả lời của chatbot và bác sỹ con người.
Kết quả, các câu trả lời của chatbot được đánh giá "cao hơn đáng kể về cả chất lượng lẫn sự đồng cảm" so với câu trả lời của bác sỹ con người.
Tuy nhiên, như đã thấy trong trường hợp chatbot Tessa của NEDA, dù những nghiên cứu trước đó cho thấy chatbot mang lại kết quả khả quan, thực tế vận hành lại trái ngược.
NEDA cũng thừa nhận rằng chatbot không thể dùng để thay thế đường dây trợ giúp do con người vận hành.
Các nhà nghiên cứu đi đến kết luận rằng cần khám phá thêm về công nghệ chatbot tích hợp AI trong môi trường lâm sàng, chẳng hạn như sử dụng chúng để soạn thảo các câu trả lời có sẵn rồi để bác sỹ chỉnh sửa sau đó.
Nghiên cứu nhận định việc ứng dụng chatbot tích hợp AI có thể giúp cải thiện các câu trả lời của bác sỹ, giảm tình trạng kiệt sức của họ cũng cải thiện kết quả của bệnh nhân.
Nỗi lo về quyền riêng tư dữ liệu
Dù vậy, trong một nghiên cứu công bố vào tháng 5/2023, tổ chức phi lợi nhuận chuyên hỗ trợ và phát triển các dự án mã nguồn mở Mozilla Foundation nhận thấy các vấn đề về bảo vệ quyền riêng tư vẫn là một rủi ro lớn đối với người dùng chatbot hỗ trợ sức khỏe tâm lý.
Trong số 32 ứng dụng được Mozilla Foundation phân tích, bao gồm những ứng dụng phổ biến Talkspace, Woebot và Calm, 28 ứng dụng bị đánh dấu vì "mối quan ngại sâu sắc về quản lý dữ liệu người dùng."
Ngoài ra, 25 ứng dụng không đáp ứng các tiêu chuẩn bảo mật cơ bản như yêu cầu người dùng có mật khẩu đủ mạnh.
Nhà nghiên cứu của Mozilla, ông Misha Rykov, đã mô tả các ứng dụng này là "những cỗ máy hút dữ liệu với lớp vỏ ứng dụng hỗ trợ sức khỏe tâm lý".
Hoàn toàn có khả năng thông tin người dùng bị các công ty môi giới bảo hiểm, buôn bán dữ liệu cũng như các công ty truyền thông xã hội thu thập. Ví dụ như Woebot, ứng dụng này có chia sẻ thông tin cá nhân với bên thứ ba.
Các chuyên gia AI đã cảnh báo chatbot AI vẫn đối mặt với rủi ro về quyền riêng tư giống như các chatbot truyền thống hoặc bất kỳ dịch vụ trực tuyến nào thu nhận thông tin cá nhân từ người dùng.
Họ hy vọng rằng các quốc gia sẽ sớm có những quy định chặt chẽ để bảo vệ người dùng trước các hoạt động AI phi đạo đức, tăng cường bảo mật dữ liệu và đảm bảo các tiêu chuẩn chăm sóc sức khỏe được nhất quán.
Chatbot tích hợp AI không phải lời giải cho cuộc khủng hoảng sức khỏe tâm lý hiện thời, khi ngày càng nhiều người phải vật lộn với chứng lo âu và trầm cảm nghiêm trọng.
Nhưng khi kết hợp với các bác sỹ và chuyên gia, chatbot AI có thể trở thành một công cụ vô cùng hữu ích trong hành trình chữa trị các chứng bệnh tâm lý. Sau cùng, nhân loại nên sử dụng công nghệ để cùng làm việc thay vì để thay thế con người.
