💗 Инструменты AI для здоровья: количество растет, а качество?

В начале месяца Microsoft запустила Copilot Health, новое пространство в своем приложении Copilot, где пользователи смогут подключать свои медицинские записи и задавать конкретные вопросы о своем здоровье. За пару дней до этого Amazon объявила, что Health AI, инструмент на основе LLM, ранее доступный только участникам сервиса One Medical, теперь будет широко доступен.

Эти продукты присоединяются к ChatGPT Health, который OpenAI выпустила в январе, и Claude от Anthropic, который может получить доступ к медицинским записям пользователей с их разрешения. Health AI для масс официально становится трендом. Растет обеспокоенность по поводу того, как эти инструменты работают.

Несмотря на растущую популярность, эффективность и безопасность этих инструментов вызывают вопросы. Важно понимать, как они обрабатывают конфиденциальную медицинскую информацию и насколько точны их ответы и рекомендации. Необходимы дополнительные исследования и регулирование, чтобы гарантировать, что эти инструменты приносят пользу пациентам и не наносят вреда.

#Health #AI #automation

💊 Новое исследование: могут ли AI-чатботы рассуждать как врачи?

IEEE Spectrum опубликовал результаты исследования, которое разжигает дискуссию о применении AI в клинической поддержке принятия решений. Ученые проверили, способны ли современные языковые модели (LLM) демонстрировать логику, сопоставимую с врачебной, при анализе медицинских данных.

В ходе эксперимента AI-системы решали диагностические задачи и интерпретировали результаты анализов. Выяснилось, что хотя чатботы часто выдают внешне убедительные ответы, их «рассуждения» не всегда соответствуют клинической логике. Модели могут пропускать ключевые симптомы или делать выводы на основе статистических корреляций, а не причинно-следственных связей.

Авторы работы подчеркивают: AI может быть полезным инструментом для врачей, но полагаться на него как на самостоятельного диагноста пока преждевременно. Исследование ставит под вопрос готовность LLM к реальной клинической практике без контроля человека.

#Ai #Health #Medicine #Research

🛡 The Path: стартап Тони Роббинса и бывших сотрудников Calm обещает безопасную AI-терапию

Новый проект The Path, основанный известным коучем Тони Роббинсом и выходцами из приложения для медитации Calm, нацелен на создание более безопасного AI-терапевта. Стартап заявляет, что его модель набрала 95 баллов по бенчмарку безопасности ментального здоровья Vera-MH. Для сравнения: лучший результат среди массовых чат-ботов составляет всего 65 баллов.

The Path позиционируется как альтернатива существующим AI-ассистентам, которые часто дают непроверенные или потенциально опасные советы в чувствительной области психотерапии. Разработчики утверждают, что модель прошла дополнительное обучение на клинических данных и имеет встроенные механизмы фильтрации, предотвращающие вредоносные рекомендации.

Практическая значимость: если заявленные показатели подтвердятся независимыми аудитами, The Path может стать первым коммерчески viable AI-решением для начального скрининга и поддержки пациентов с легкими формами тревожности и депрессии. Однако эксперты напоминают, что ни один AI пока не заменяет живого психотерапевта.

#Ai #Medicine #Health #Calm #Startup #Business