ИИ-чат-боты для пациентов: медицинские ошибки, киберхондрия и этика

Краткое изложение авторской публикации в сообществе «Фарма РФ» от .

Автор материала рассматривает риски использования искусственного интеллекта для общения пациентов о симптомах и результатах медицинских исследований. Исследование Университетского колледжа Лондона показало, что точность ответов ИИ при взаимодействии с обычными пользователями снизилась с 80% до 20%; при схожих симптомах чат-боты давали разные рекомендации, включая совет обратиться за неотложной помощью и рекомендацию отдохнуть в темной комнате.

В тестировании Научно-практического клинического центра диагностики и телемедицинских технологий Департамента здравоохранения Москвы обнаружили вымышленные диагнозы, избыточные советы и прогнозы продолжительности жизни без запроса пациента. Европейские исследователи выявили персонализированные прогнозы выживаемости без клинических оснований в 15% случаев. Автор также сообщает, что подготовлен гармонизированный этический кодекс применения ИИ в здравоохранении; его планируют опубликовать для обсуждения.

Главное

  • В исследовании Университетского колледжа Лондона точность ответов ИИ при общении с обычными пользователями упала с 80% до 20%.
  • В тестировании московского центра чат-боты выдавали вымышленные диагнозы, избыточные рекомендации и прогнозы продолжительности жизни.
  • В 15% случаев европейские исследователи обнаружили прогнозы выживаемости без клинических оснований.
  • Гармонизированный этический кодекс применения ИИ в здравоохранении подготовлен и ожидает публикации для обсуждения.

Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только специалистам фармацевтической отрасли.

Регистрация

По теме