ИИ в медицине может быть опасен: исследования
Чат-бот вместо доктора: каждый четвёртый использует ИИ для здоровья. Новые тревожные данные
За окном сумерки, вы отдыхаете у себя дома после напряженного рабочего дня, горло сильно першит, температура поднялась до 37,8. Берете телефон и видите, что ближайшая запись к терапевту — только послезавтра. Еще и поликлиника неблизко, в платную клинику дорого. Что делает большинство из нас в такой момент? Пишет в чат-бот: «Горло болит, температура, что это может быть и стоит ли волноваться?». ИИ почти мгновенно отвечает, иногда даже успокаивает. Кажется, что жизнь стала заметно проще и доступнее.
Но то, что раньше выглядело как редкий случай, уже превратилось в массовую привычку. Согласно исследованию, проведённому среди 5660 взрослых американцев с 27 октября по 22 декабря 2025 года, каждый четвёртый взрослый в США — а это более 66 миллионов человек — хотя бы раз использовал ИИ чат-боты для получения информации или советов по физическому или психическому здоровью.
Люди задают самые разные вопросы: о симптомах (58%), питании и физических нагрузках (59%), побочных эффектах лекарств (46%), как правильно понять результаты анализов (44%), о возможных диагнозах (38%) и даже о вопросах психического здоровья (24%). Кто-то ищет быстрый ответ (71%), кто-то просто любопытствует, что скажет машина (67%), многие используют ИИ как помощника до или после визита к врачу. Приятно, когда чат-бот помогает чувствовать себя увереннее на приёме у доктора (46%), подсказывает, что проблема может быть серьёзнее, чем казалось (22%), или помогает избежать ненужных анализов (19%).
Однако есть и обратная сторона, которая беспокоит. 14% тех, кто недавно консультировался с ИИ, решили вообще не идти к врачу после полученных рекомендаций. В масштабах США это около 14 миллионов человек. Причины очень человеческие: не хочется тратить деньги (27%), нет возможности оплатить визит (14%), не хватает времени на запись (21%), врач далеко или не принимает в удобное время, а иногда просто стыдно обсуждать деликатные темы (18%). Доверие к ответам ИИ остаётся довольно шатким — только 4% сильно верят в их точность, а 11% пользователей уже получали рекомендации, которые сами посчитали небезопасными.
«Искусственный интеллект уже меняет то, как американцы ищут информацию о здоровье, принимают решения и взаимодействуют с врачами, и системы здравоохранения должны успевать за этими изменениями. Риск не в том, что ИИ движется слишком быстро — риск в том, что системы здравоохранения могут двигаться слишком медленно, чтобы ответственно направлять его использование»,— отметил Тим Лэш, президент West Health Policy Center.
Пока мы привыкаем к новым цифровым помощникам, учёные пытаются понять, можно ли вообще сделать такие системы по-настоящему безопасными и надёжными. 14 апреля 2026 года в журнале PNAS Nexus вышло исследование под руководством Гектора Зенила и его коллег. Они математически доказали: идеальное «выравнивание» мощного искусственного интеллекта с человеческими ценностями и интересами невозможно. Слишком сложные модели становятся вычислительно несводимыми и непредсказуемыми — как следует из теоремы Гёделя о неполноте и проблемы остановки Тьюринга.
Вместо бесполезных попыток полностью «приручить» ИИ авторы предлагают принципиально другой подход — «управляемое несовпадение» (managed misalignment). Представьте целую экосистему из разных ИИ-агентов с разными характерами, стилями мышления и частично пересекающимися целями. Один агент будет больше заботиться о пользе для человека, другой — о долгосрочных рисках, третий — смотреть шире. Они будут спорить, проверять и дополнять друг друга, не давая ни одному принять потенциально опасное решение в одиночку. Эта концепция «искусственной агентной нейродивергентности» может сделать систему гораздо устойчивее.
В тот же день, но уже в журнале BMJ Open опубликовали результаты независимого аудита пяти популярных генеративных чат-ботов: Gemini от Google, DeepSeek, Meta AI, ChatGPT от OpenAI и Grok от xAI. Учёные задали им реальные медицинские вопросы и получили тревожный результат: половина всех ответов оказалась под вопросом достоверности: 30% частично неверными или неполными, а 20% — сильно проблематичными. Особенно плохо ИИ справлялись с темами стволовых клеток, спортивных достижений и питания. Качество ссылок в среднем составляло всего 40%, часто возникали «галлюцинации» — выдуманные источники. При этом ответы звучали очень уверенно, без важных оговорок.
«Наши выводы относительно научной точности, качества ссылок и читаемости ответов подчеркивают важные поведенческие ограничения и необходимость переоценить, как чат-боты ИИ используются в публичной коммуникации по вопросам здоровья и медицины»,— отметили авторы исследования в BMJ Open.
Они напоминают простую, но важную вещь: современные чат-боты не думают и не взвешивают научные доказательства. Они просто предсказывают наиболее вероятные следующие слова на основе огромного объёма данных, в которые входят в том числе интернет-форумы и социальные сети.
Почему это важно
С каждым днем все больше людей впускают в свою жизнь искусственный интеллект и по человеческой природе сразу начинает ему доверять. Вспомните, как вы или ваши близкие уже не раз пользовались ИИ в повседневной жизни. Мама поздно вечером замечает у ребёнка странную сыпь и быстро спрашивает у чат-бота, стоит ли сразу бежать в больницу. Студент перед важной тренировкой уточняет, можно ли есть определённые продукты. Пожилой родственник проверяет, совместимо ли новое лекарство с теми таблетками, которые он уже принимает. Удобно, быстро, бесплатно — особенно когда до врача далеко или дорого.
Но когда 14 миллионов человек в одной только Америке начинают пропускать реальные визиты к доктору из-за совета алгоритма, а каждый второй медицинский ответ чат-бота вызывает серьёзные вопросы у экспертов, это перестаёт быть просто удобным гаджетом. Это уже реальная угроза здоровью. Ошибка ИИ может привести к тому, что серьёзную болезнь пропустят на ранней стадии, или, наоборот, человек впадёт в ненужную панику. Поэтому сегодня особенно важно учиться пользоваться такими инструментами осознанно: как умным помощником, а не как полной заменой живому врачу. И в тех случаях, когда речь идёт о здоровье, всегда лучше перепроверить информацию у квалифицированного специалиста.
Исходный материал можно прочитать тут, тут и тут.