В Нижнем Новгороде ИИ-диагнозы поставили под запрет после скандала с эмодзи и ChatGPT-стилем
В Нижнем Новгороде врачи использовали ИИ-чат-боты для постановки диагнозов, что привело к скандалу: пациенты получали заключения с эмодзи и текстом в стиле ChatGPT. Минздрав РФ оперативно запретил практику после обращений. Система здравоохранения столкнулась с новой угрозой — нек.
- Минздрав РФ запретил использование ИИ-чат-ботов для постановки диагнозов в Нижнем Новгороде после скандала с некорректными заключениями.
- Пациенты получали диагнозы с эмодзи и текстом, стилизованным под ответы ChatGPT, что вызвало массовые жалобы.
- Запрет вступил в силу немедленно после выявления нарушений, сообщили в ведомстве.
- Эксперты связывают инцидент с неконтролируемым внедрением ИИ в медицинскую практику без соответствующих нормативов.
- Власти рассматривают возможность ужесточения правил использования искусственного интеллекта в здравоохранении.
В Нижнем Новгороде Минздрав РФ ввёл запрет на использование ИИ-чат-ботов для постановки медицинских диагнозов после скандала с некорректными заключениями. Как сообщает Mash, пациенты начали получать документы с характерными для ChatGPT формулировками и эмодзи, что вызвало массовые обращения в ведомство.
Врачи, как выяснилось, применяли ИИ без официального одобрения, что привело к системным нарушениям. Запрет вступил в силу немедленно после выявления инцидента. В Минздраве подчеркнули, что использование ИИ в медицинской диагностике должно строго регулироваться, а текущая практика не соответствует установленным требованиям. Эксперты отмечают, что без чётких нормативов внедрение искусственного интеллекта в здравоохранение грозит серьёзными рисками для пациентов.
По данным источника, в некоторых случаях диагнозы содержали не только эмодзи, но и неточности, которые могли повлиять на лечение.
Власти Нижнего Новгорода уже инициировали проверку деятельности медицинских учреждений, где использовались ИИ-инструменты. В ведомстве заявили, что будут разрабатывать новые правила для контроля за применением технологий в медицине. Инцидент стал ещё одним сигналом о необходимости ужесточения регулирования ИИ в критически важных сферах.
Эксперты предупреждают, что без надёжных механизмов верификации ИИ-систем могут повторяться подобные случаи. Минздрав РФ рассматривает возможность введения обязательной сертификации всех медицинских ИИ-решений до их внедрения в практику.
Скандал в Нижнем Новгороде обнажил системную проблему: ИИ всё активнее внедряется в медицину, но без должного контроля. Врачи, стремясь ускорить работу, используют чат-боты, не учитывая риски ошибок. Минздрав оперативно среагировал, но этого недостаточно — нужны не только запреты, но и чёткие стандарты. Государство должно взять на себя роль регулятора, чтобы предотвратить подобные инциденты в будущем. Иначе ИИ, вместо помощи, станет источником новых угроз для пациентов.
Владимир Платонов
