Риск или польза? Стоит ли доверять здоровье ИИ
Где только не используют ИИ - даже исследовали с его помощью, использует ли путин двойников. Искусственный интеллект продолжает набирать популярность и все активнее захватывает сферу здравоохранения не только как инструмент для врачей, но и как советчик для пациентов. Ежедневно более 40 миллионов людей в мире обращаются к ChatGPT за медицинской информацией.
Активнее всего к инструментам ИИ обращаются американцы, пытающиеся ориентироваться в сложной и непрозрачной системе здравоохранения США. Пользователи используют чат-бот для расшифровки медицинских счетов, выявления завышенных цен и оспаривания отказов страховых компаний. Более того, пациенты все чаще воспринимают ChatGPT как «союзника» в собственном лечении. При отсутствии доступа к врачам некоторые пользователи прибегают даже к самодиагностике или управлению лечением.
Но проблема заключается в том, что около половины ответов чат-ботов на базе ИИ могут быть обманчивыми или сомнительными. Об этом сообщает агентство Bloomberg со ссылкой на исследование, опубликованное в научном журнале BMJ Open.
Около 50% ответов — сомнительные
Исследователи из США, Канады и Великобритании оценили пять популярных платформ — ChatGPT, Gemini, Meta AI, Grok и DeepSeek — задав каждой из них 10 вопросов в пяти категориях. В результате около 50% ответов признали сомнительными, из которых почти 20% были крайне противоречивыми, пишет Bloomberg.
«Чат-боты лучше справлялись с вопросами, предполагающими короткий и однозначный ответ, а также в темах, касающихся вакцинации и онкологии. Напротив, худшие ответы давали там, где требовалось развернутое пояснение или индивидуальная рекомендация, в частности в темах, связанных со стволовыми клетками и питанием», — говорится в материале.
Ни один чат-бот не предоставил полностью исчерпывающего и точного списка источников
Ответы ИИ часто выглядели уверенно, хотя ни один чат-бот не предоставил полностью исчерпывающего и точного списка источников. Только в двух случаях был отказ отвечать — оба раза это сделала Meta AI.
«Эти результаты подчеркивают растущую обеспокоенность по поводу того, как люди используют генеративные платформы искусственного интеллекта, которые не имеют лицензии на предоставление медицинских советов и не обладают клиническим суждением для постановки диагнозов», — подчеркнули в Bloomberg.
Более 200 миллионов человек задают ChatGPT вопросы о здоровье
Стремительный рост популярности чат-ботов на базе ИИ сделал их популярным инструментом для людей, ищущих советы относительно своих недугов и симптомов.
В частности, компания OpenAI заявила, что еженедельно более 200 миллионов человек задают ChatGPT вопросы о здоровье и самочувствии. В январе платформа анонсировала инструменты для здравоохранения как для обычных пользователей, так и для врачей, а компания Anthropic в том же месяце сообщила, что ее продукт Claude запускает новое предложение в сфере здравоохранения.
Авторы исследования считают, что главным риском внедрения чат-ботов является распространение недостоверной информации, особенно при отсутствии надлежащего контроля и осведомленности пользователей.
«Эти системы могут генерировать ответы, которые звучат авторитетно, но потенциально содержат ошибки», — отметили они.
Вместе с тем, доктор политических наук Инна Костыря считает, что университетам следует готовиться к смене модели «обучение-работа».
155Читайте нас в Facebook
