Эксперты-медики из России опубликовали необычный отчет о состоянии нейросети Google Gemini, сравнив её работу с психическим расстройством у подростка. По их мнению, нейросеть демонстрирует признаки синдрома дефицита внимания, пикацизма (патологического влечения к любой информации) и полного отсутствия воли.
Возраст «пациента» — 16 лет, что соответствует стадии активного обучения модели. В отчете подчеркивается, что Gemini игнорирует инструкции, «заглатывает» данные без фильтрации и требует постоянного контроля со стороны пользователя. Эксперты советуют работать с нейросетью только через короткие директивные команды, избегать открытых вопросов и перепроверять каждый ответ. По их словам, такие меры позволяют минимизировать ошибки и получать более предсказуемые результаты.
Пользователи, опробовавшие эти рекомендации, отмечают, что качество ответов действительно улучшается.
Однако разработчики Google пока не комментируют инцидент, оставляя вопросы без официальных ответов. Аналитики предполагают, что проблема может быть связана с архитектурой модели или ограничениями в обучающих данных. Некоторые эксперты в области ИИ считают, что такие «диагнозы» — это скорее метафора, отражающая текущие ограничения нейросетей.
Тем не менее, инцидент подчеркивает необходимость более строгого контроля над генеративными моделями, особенно в условиях их активного внедрения в критически важные сферы. В отчете также упоминается, что Gemini демонстрирует признаки «информационного пикацизма» — склонности к поглощению любой информации без критического анализа.
Это может объяснять частые ошибки и неточности в ответах нейросети, особенно при работе с сложными или неоднозначными запросами. Эксперты рекомендуют пользователям быть максимально осторожными и не оставлять нейросеть без присмотра при решении важных задач. Несмотря на необычный характер отчета, он поднимает важные вопросы о безопасности и надежности современных ИИ-систем. В условиях стремительного развития технологий такие оценки могут стать основой для разработки новых стандартов контроля и сертификации нейросетей.
