Бурное развитие нейросетей и генеративного ИИ вскрыло множество проблем, словно открытие ящиков Пандоры, и из этих щелей начали выпадать неприятные «скелеты». В частности, наивная вера в то, что универсальные ИИ можно без опасений применять в медицине, привела к тому, что вред от таких систем иногда превышает гипотетическую пользу, и западные СМИ регулярно сообщают о случаях, когда люди, полагаясь на советы «всемогущего сетевого разума», травмируют себя и окружающих вплоть до летального исхода.
Масштаб проблемы стал настолько очевиден, что к концу 2025 года OpenAI пересмотрела правила использования ChatGPT, по сути запретив системе интерпретировать медицинские данные пользователей и назначать лечение. Подобные меры ввёл и Google, ограничив возможности функции AI Overviews для медицинских запросов в поиске.
Ключевая причина — серьёзные фундаментальные недостатки архитектуры и алгоритмов массовых ИИ. Во?первых, такие модели обучаются на всём подряд, включая содержимое социальных сетей, где можно найти любые любительские советы — от лечения рака соком одуванчика до прочих опасных рецептов.
Во?вторых, эти системы по умолчанию настроены угождать пользователю: если в запросе высказана гипотеза о кисте в мозге, ИИ с высокой вероятностью подберёт подтверждающие формулировки. В?третьих, массовые модели склонны к галлюцинациям — они нередко изобретают факты и подсовывают несуществующие доказательства очень убедительным тоном.
В итоге самолечение с опорой на массовый ИИ становится не просто рискованным, а порой смертельно опасным. Это не означает, что применение ИИ в медицине само по себе недопустимо.
Опыт Москвы показывает: ИИ — не универсальное средство, а мощный специализированный инструмент, который при ответственном и грамотном внедрении способен спасать множество жизней. В столице работают по нескольким направлениям использования ИИ в медицине.
В радиологии нейросети анализируют снимки, выполняют точные измерения и маркируют возможные патологические зоны. В поликлиниках применяют ИИ?агентов для оперативного составления кратких выжимок из медицинской истории пациента, а также используются системы поддержки врачебных решений, помогающие формулировать предварительные и итоговые диагнозы, опираясь на реальные данные конкретного пациента.
Почему московский подход не боится «галлюцинаций» ИИ? Потому что, в отличие от открытых моделей, обученных на огромном массиве интернет?контента, где преобладает информационный мусор, внедрение больших языковых моделей (БЯМ) в Москве основано на принципах клинического контроля.
Пациент здесь не остаётся наедине с алгоритмом. ИИ выступает как оперативный помощник, освобождающий врача от рутинных операций, способный за доли секунды обработать огромные объёмы данных, выявить скрытые в них закономерности и предложить наиболее вероятные направления дальнейших действий.
Кроме того, в практику введён ИИ?сервис, который анализирует электронную медицинскую карту (ЭМК) и уведомляет специалистов поликлиник о пациентах с риском сердечно?сосудистых заболеваний, предлагая перечень контрольных обследований. Основная задача врачей и специалистов — справиться с колоссальным объёмом данных, требующих анализа.
Ежегодно в Москве проводится множество профилактических обследований и приёмов (маммография, флюорография, диспансеризация и т. п.). По состоянию на июль 2025 года на платформе ЕМИАС накоплено более 4,2 миллиарда записей, и их число продолжает стремительно расти.
Но главное отличие московской модели — многоуровневая система проверки. Прежде чем информация попадает к врачу, все модели проходят экспертный фильтр.
Специалисты уже провели свыше девяти тысяч экспертных оценок, выявляя ошибки в логике и неточности ответов, что позволило существенно сократить количество критических сбоев в работе нейросетей.