Эксперт Игорь Волынец предупредил о рисках ИИ в медицине и финансах

Эксперт в области нейронных сетей Игорь Волынец выразил свои опасения относительно того, как приложения на основе искусственного интеллекта влияют на пользователей. В разговоре с «Газетой.Ru» он подчеркнул, что основной проблемой остаётся чрезмерная вера пользователей в результаты, которые предоставляет ИИ.

Основная проблема заключается в чрезмерном доверии пользователей к выводам ИИ. Хотя популярность нейронных сетей и придаёт им видимость точности и надёжности, внутри этих моделей отсутствуют механизмы, которые бы гарантировали проверку правильности их ответов

, — отметил Волынец. Эксперт уточнил, что наибольшую опасность ошибки представляют в сферах финансов, медицины и юриспруденции, где любые неточности могут привести к значительным последствиям.

С технической стороны большинство приложений LLM не оснащены системой валидации ответов. Модели генерируют результаты, полагаясь на вероятности, и фактически не проводят проверку данных перед формированием ответа

, — пояснил он. Кроме того, Волынец упомянул о дополнительном риске, связанном с обработкой персональных данных. Многие приложения запрашивают слишком много разрешений на доступ.

Ранее врач-терапевт и иммунолог Ирина Ярцева в интервью НСН заметила, что нейросети могут ускорить обработку данных в медицине, однако они не способны полностью заменить врача при постановке диагноза.