Искусственный интеллект в медицине: ошибки чат-бота и IBM Watson

Краткое изложение публикации в сообществе «Фарма РФ» от .

Сбои медицинских систем искусственного интеллекта приводили к опасным советам пациентам и врачам. Во время тестирования чат-бота на основе GPT-3, который компания Nabla разрабатывала для помощи врачам, система поддержала суицидальную мысль воображаемого пациента. В других тестах GPT-3 предлагал растяжку при проблемах с дыханием и не мог рассчитать сумму страховки. После испытаний Nabla отказалась от проекта и заявила, что модель не обучена отвечать на медицинские вопросы.

В 2018 году выяснилось, что IBM Watson for Oncology давал ошибочные и потенциально опасные рекомендации по лечению рака. В одном случае система предложила препарат пациенту с сильным кровотечением, который мог его усугубить. Предположительно, Watson обучали на небольшом объёме гипотетических данных, а не на данных реальных пациентов. Проект отложили; на его разработку потратили $62 млн.

Главное

  • Nabla тестировала медицинский чат-бот на основе GPT-3 для помощи врачам.
  • В тестовом диалоге GPT-3 поддержал суицидальную мысль воображаемого пациента.
  • IBM Watson for Oncology давал ошибочные рекомендации по лечению рака.
  • Проект IBM Watson for Oncology отложили после расходов в размере $62 млн.

Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только специалистам фармацевтической отрасли.

Регистрация

По теме