Агентство Reuters сообщило о десятикратном росте травм из-за медицинского ИИ в США. Причина в том, что в погоне за прибылью и под давлением лоббистов местный регулятор (FDA) разрешил внедрять «сырые» нейросети в хирургию по ускоренной процедуре. В отчетах уже фигурируют пробитые основания черепа и повреждения артерий с последующими инсультами из-за ошибок навигации. А грозит ли нам то же самое?

Россия зашла в эту сферу медицинского ИИ чуть позже и смогла учесть чужие ошибки. Программное обеспечение с ИИ у нас сразу отнесли к максимальному классу риска — наравне с хирургическими имплантами. С 2022 года действует жесткий национальный стандарт (ГОСТ Р 59921-2021), который блокирует любые попытки упрощенного допуска. Отечественный разработчик обязан провести полноценные клинические испытания и доказать Росздравнадзору безопасность систем.

Юридический статус нейросетей в РФ также ограничен: они работают исключительно как системы поддержки принятия врачебных решений. Это означает, что программа не имеет права ставить диагноз или назначать лечение автономно. ИИ лишь маркирует зоны патологии на снимках КТ или МРТ, выполняя роль «второго мнения». Наше законодательство запрещает использование нейросетей в качестве «автопилота», оставляя всю ответственность на враче.

Перед выходом в регионы нейросети в России проходят через единый фильтр — московский Центр диагностики, где брак отсеивается через проверки на миллионах данных. Благодаря такому отбору сегодня в 84 субъектах страны штатно и безопасно применяются 43 проверенные системы.