Meta внедряет ИИ для выявления аккаунтов детей младше 13 лет по фотоскелету

Meta* начала использовать нейросеть для автоматического выявления аккаунтов детей младше 13 лет в Instagram. Система анализирует фотоскелеты пользователей — оценивает рост и структуру костей на фотографиях, а затем сопоставляет эти данные с текстом постов, лайками и комментариями.

• Meta внедряет ИИ-систему для автоматического выявления аккаунтов детей младше 13 лет на основе анализа фотоскелетов
• Нейросеть оценивает рост и структуру костей на фотографиях, сопоставляя данные с текстом постов, лайками и комментариями пользователя
• При подозрении в нарушении система деактивирует аккаунт, а для восстановления требует фото паспорта или видеоселфи
• Владельцы аккаунтов призываются не публиковать фотографии в полный рост, чтобы избежать ложных срабатываний
• Новая технология стала частью политики Meta по ужесточению контроля за возрастом пользователей социальных сетей
• Эксперты отмечают риски ошибок ИИ и возможные последствия для пользователей, чьи данные могут быть ошибочно классифицированы

Если нейросеть определяет, что аккаунт принадлежит ребёнку, она деактивирует его. Для восстановления доступа владельцу потребуется предоставить фото паспорта или видеоселфи с лицом, чтобы подтвердить возраст. Новая технология стала частью ужесточённой политики Meta по контролю за возрастом пользователей. Ранее компания уже использовала алгоритмы для выявления несовершеннолетних, но новая система работает на основе анализа фотоскелетов — метода, который ранее не применялся в социальных сетях.

Это решение вызвано необходимостью соблюдать законодательные требования, включая закон о защите детей в интернете, действующий в ряде стран.

Однако эксперты предупреждают о возможных рисках ошибок. Нейросеть может ошибочно классифицировать аккаунты взрослых пользователей, чьи фотографии в полный рост попадают в поле зрения системы. В Meta заявили, что система обучается на большом объёме данных и должна минимизировать ложные срабатывания, но полностью исключить их пока невозможно.

Пользователям рекомендуют избегать публикации фотографий в полный рост, чтобы снизить вероятность блокировки. Новая технология также поднимает вопросы о конфиденциальности данных.

Для восстановления аккаунта пользователи должны предоставить фото паспорта или видеоселфи, что вызывает опасения у защитников приватности. Meta утверждает, что данные обрабатываются в соответствии с политикой конфиденциальности и не хранятся дольше необходимого для проверки возраста. Эксперты отмечают, что внедрение такой системы может стать прецедентом для других социальных сетей, которые также стремятся ужесточить контроль за возрастом пользователей. Однако вопрос эффективности и безопасности нового метода остаётся открытым.

В Meta обещают дорабатывать систему, опираясь на обратную связь от пользователей и экспертов.

*Meta признана экстремистской организацией в РФ.

Внедрение ИИ для выявления детских аккаунтов — шаг в правильном направлении, но технология пока несовершенна. Риск ошибок и вторжения в частную жизнь пользователей требует тщательной проработки. Важно следить за тем, как Meta будет балансировать между безопасностью детей и защитой данных взрослых пользователей. Также стоит обратить внимание на реакцию регуляторов и возможные изменения в законодательстве.

Владимир Платонов