В Нижнем Новгороде Минздрав РФ ввёл запрет на использование ИИ-чат-ботов для постановки медицинских диагнозов после скандала с некорректными заключениями. Как сообщает Mash, пациенты начали получать документы с характерными для ChatGPT формулировками и эмодзи, что вызвало массовые обращения в ведомство.
Врачи, как выяснилось, применяли ИИ без официального одобрения, что привело к системным нарушениям. Запрет вступил в силу немедленно после выявления инцидента. В Минздраве подчеркнули, что использование ИИ в медицинской диагностике должно строго регулироваться, а текущая практика не соответствует установленным требованиям. Эксперты отмечают, что без чётких нормативов внедрение искусственного интеллекта в здравоохранение грозит серьёзными рисками для пациентов.
По данным источника, в некоторых случаях диагнозы содержали не только эмодзи, но и неточности, которые могли повлиять на лечение.
Власти Нижнего Новгорода уже инициировали проверку деятельности медицинских учреждений, где использовались ИИ-инструменты. В ведомстве заявили, что будут разрабатывать новые правила для контроля за применением технологий в медицине. Инцидент стал ещё одним сигналом о необходимости ужесточения регулирования ИИ в критически важных сферах.
Эксперты предупреждают, что без надёжных механизмов верификации ИИ-систем могут повторяться подобные случаи. Минздрав РФ рассматривает возможность введения обязательной сертификации всех медицинских ИИ-решений до их внедрения в практику.
