👩‍⚕️ Аудитория Онтарио выявила, что ИИ-секретари врачей выдумывают данные

Проверка, проведенная в канадской провинции Онтарио, показала, что системы искусственного интеллекта, используемые врачами для автоматической записи и расшифровки приёмов, часто генерируют ложную информацию. Аудит выявил случаи, когда AI-нотариусы добавляли в медицинские карты симптомы, которых у пациентов не было, или искажали рекомендации специалистов.

Исследование охватило несколько клиник, использующих популярные сервисы на базе больших языковых моделей. В ряде записей были обнаружены «галлюцинации» — вымышленные детали разговора, которые могли повлиять на дальнейшее лечение. Эксперты подчёркивают, что подобные ошибки несут серьёзные риски для пациентов, так как на основе этих данных могут назначаться лекарства или процедуры.

Разработчики AI-инструментов уже заявили, что работают над улучшением точности, однако аудит показал: текущие модели всё ещё ненадёжны для клинического использования без обязательной проверки врачом.

#Ai #Healthcare #Doctors #Medicine