Исследование показывает, что ChatGPT Health часто пропускает важные рекомендации при экстренных ситуациях

(MENAFN) Недавнее исследование показало, что ChatGPT Health, инструмент на базе искусственного интеллекта, используемый примерно 40 миллионами человек ежедневно, не направлял пользователей в экстренную помощь в более чем половине серьезных медицинских случаев, оцененных врачами.

Исследователи разработали 60 структурированных клинических случаев, охватывающих 21 медицинскую специальность, от незначительных заболеваний, подходящих для домашнего ухода, до опасных для жизни чрезвычайных ситуаций. Три независимых врача определили соответствующий уровень срочности для каждого случая на основе руководств 56 медицинских обществ.

Каждый сценарий был протестирован в 16 различных контекстуальных вариациях, что привело к 960 взаимодействиям с ChatGPT Health. Исследование, опубликованное в понедельник в журнале Nature Medicine, выявило несколько тревожных закономерностей.

Хотя инструмент показывал приемлемую работу в очевидных чрезвычайных ситуациях, он недооценивал более половины случаев, которые врачи считали требующими срочной помощи. Исследователи из Медицинской школы Икана в Маунт-Синай отметили особенно тревожную тенденцию: ChatGPT Health часто признавал опасные симптомы в своих объяснениях, но при этом успокаивал пользователя вместо того, чтобы рекомендовать немедленное обращение за медицинской помощью.

В исследовании также были отмечены серьезные недостатки в системе защиты от суицидальных кризисов. Хотя система запрограммирована на направление пользователей с высоким риском в Линию жизни при суициде и кризисных ситуациях, оповещения были непоследовательными — иногда срабатывали при низком риске и не появлялись, когда пользователи описывали конкретные планы самоповреждения.

«Хотя мы ожидали некоторую вариативность, то, что мы наблюдали, выходило за рамки несогласованности», — отметил старший автор исследования Гириш Н. Надкарни.