AI chatbot doctor từng là một sản phẩm rất đáng mong đợi của Babylon Health. Mặc dù vậy tổ chức này đã hủy tất cả sự kiện AI test được tổ chức vào cuối năm trước nhằm quảng bá tính năng.
AI chatbot của Babylon Health là một ứng dụng điện thoại tại Anh cung cấp dịch vụ y tế đăng ký cung cấp tư vấn từ xa với các bác sĩ và chuyên gia chăm sóc sức khỏe thông qua tin nhắn văn bản, video call và các ứng dụng di động khác.
Ứng dụng Babylon Health tên là GP at hand, chatbot có thể kết nối bệnh nhân qua cuộc gọi thoại video call với bác sĩ. Ứng dụng được tạo ra bởi cựu thư ký kĩ thuật số người Anh Matt Hancock và được NHS (dịch vụ y tế quốc gia) hậu thuẫn.
Hơn thế nữa, Samsung kết hợp cùng Babylon Health cuối năm trước để tích hợp dịch vụ này với các thiết bị Galaxy.
AI Chatbot Babylon được hỗ trợ bởi Trí tuệ nhân tạo nhằm mục đích cung cấp hướng dẫn bệnh nhân về quá trình khám bệnh. Ý tưởng giúp làm giảm áp lực lên dịch vụ y tế công cộng cho những bệnh nhân có triệu chứng có thể được xử lý tại nhà.
Babylon Health xóa AI chatbot vì tư vấn nhầm cho bệnh nhân.
Theo lý thuyết, AI chatbot là một ý tưởng tốt và 1 ngày nào đó sẽ trở thành cách để chúng ta tiếp cận dịch vụ y tế. Tuy nhiên, theo báo cáo được thực hiện, hiện nay AI chatbot chưa thể đủ kiến thức để tư vấn và đã đưa ra lời khuyên có thể dẫn đến tử vong.
Tài khoản của Dr Murphy trên Twitter đã nhấn mạnh những điểm lỗi của ứng dụng này trong vài năm qua.
Một ví dụ đáng lưu ý được đưa ra bởi Murphy là bệnh nhận 48 tuổi hút nhiều thuốc lá có biểu hiện bị đau phần ngực. Bất kể người nào có triệu chứng tương tự sẽ ngay lập tức gọi 999. Tuy nhiên, chatbot lại gợi ý lịch tự vấn trong vài giờ tới.
Vấn đề đặc biệt này đã được khắc phục, nhưng các tình huống nguy hiểm tương tự cũng đã được phát hiện. Tình huống này là một ví dụ rõ ràng về lý do tại sao AI test cho chatbot cần được kiểm tra nghiêm ngặt, được chứng minh và kiểm tra độc lập . Nó phải được thiết lập trước khi AI chatbot có thể bắt đầu đưa ra lời khuyên cho bệnh nhân.
Vào tháng 6 năm ngoái, Babylon Health đã tổ chức một sự kiện về khả năng AI chatbot của mình và đánh bại các thực tập sinh tại kỳ thi MRCGP. (Kì thi được sử dụng để kiểm tra khả năng chẩn đoán các vấn đề y tế của họ.)
Các học viên GP có điểm số trung bình là 72 % trong năm năm qua đã bị đánh bại bởi AI chatbot. Vậy Babylon đã làm như thế nào? Tiến sĩ Mobasher Butt đã đặt ra câu hỏi này tại sự kiện này. Giám đốc của Babylon Health đã trả lời rằng tính chính xác của ứng dụng này là 82 % cao hơn các học viên tại GP.
Sau hàng loạt các bê bối của chatbot, công ty đã gỡ bỏ hàng loạt các bài báo trên các trang báo mạng nổi tiếng. Công ty đã trả lời công chúng như sau: “Là một công ty công nghệ y tế năng động và phát triển nhanh, Babylon liên tục làm mới trang web với thông tin mới về các sản phẩm và dịch vụ của chúng tôi. Như vậy, nội dung cũ thường bị loại bỏ để nhường chỗ cho cái mới.”
Theo Artificial Intelligent News.