Common Sense Media обозначает ИИ Google Gemini Kids как «Высокий риск»

Последняя оценка рисков Common Sense Media маркирует уровни Google Gemini «До 13 лет» и «Подростки» как высокорисковые для детей и подростков. В отчёте указано, что эти версии по сути являются взрослыми моделями ИИ с поверхностными фильтрами, что подвергает молодых пользователей неподходящему контенту (секс, наркотики, алкоголь) и потенциально вредным советам по психическому здоровью. Отмечается необходимость создавать безопасность ИИ с нуля с учётом этапов развития, а не добавлять фильтры позже. По слухам, Apple собирается интегрировать Google Gemini в Siri, что увеличит риск более широкого воздействия опасностей ИИ на подростков. Google утверждает, что провёл тестирование модели и добавил меры защиты, однако вопросы прозрачности и независимых проверок остаются актуальными. Эксперты отрасли призывают к усиленному дизайну ИИ с учётом стадии развития, строгому независимому контролю и чётким стандартам безопасности для защиты наиболее уязвимых пользователей.