Советы нейросети Microsoft оказались опасны для жизни

Германские ученые провели исследование о влиянии искусственного интеллекта (ИИ) и чатботов на медицинские консультации.

По информации издания Scimex, специалисты из Университета имени Фридриха — Александра в Эрлангене и Нюрнберге (Германия) поделились предварительными результатами своей работы в середине октября. Для оценки эффективности ИИ они использовали нейросеть Copilot от Microsoft, интегрированную в Windows. Оказалось, что около половины медицинских советов, предлагаемых Copilot пользователям, вызвали несогласие среди медиков.

В рамках исследования ученые задали чат-боту 10 популярных вопросов о 50 лекарственных препаратах, получив в общей сложности 500 запросов. Результаты показали, что лишь 54 процента ответов соответствовали научному консенсусу, а значительная часть из них представляла опасность для здоровья и жизни.

Среди неверных ответов 42 процента советов могли привести к легкому или среднему вреду, а 22 процента — к летальному исходу. Только 36 процентов неверных ответов нейросети были признаны недостоверными.

Ученые подчеркнули, что несмотря на потенциал искусственного интеллекта, для пациентов по-прежнему важно общаться со своими врачами — живыми специалистами.

В июне специалисты Массачусетской больницы общего профиля (США) рассказали о пользе использования ИИ в ходе операций. По результатам исследования новые технологии помогли предотвратить 95 процентов медицинских ошибок.

Источник и фото - lenta.ru