15 июля Common Sense Media опубликовала оценку AI Overviews и AI Mode в Google Search после более чем 2 600 поисковых запросов с аккаунтов, настроенными как для 11- и 15-летних пользователей. Итоговая категория по её собственной методике звучит жёстко: «неприемлемый риск».
Для разговора об ии для детей важнее не сама оценка, а место, где обнаружили проблему. Речь не об отдельном чат-боте, который взрослый может не открывать, а о поиске, где ребёнок ожидает увидеть ссылки, но получает готовый синтезированный ответ. По позиции Common Sense, родители и школы не могут отдельно отключить этот AI-слой в Google Search, хотя у самостоятельного Gemini есть отдельные настройки.
Это меняет вопрос для семьи и школы. Не «разрешать ли ребёнку нейросети вообще», а «в каких задачах ответ можно проверять, а в каких нельзя оставлять его единственным источником».
Подключите модели для поиска и баз знаний с оплатой в рублях на provod.ai
Что именно нашёл тест
Исследователи проверяли AI-ответы при включённом SafeSearch и затем оценивали не только сам текст, но и источники, на которые он ссылался. Было проаудировано более 2 100 цитируемых источников.
Наиболее тревожные результаты касались трёх ситуаций.
Во-первых, AI Mode полностью выполнил все 180 протестированных домашних заданий. Для ребёнка это выглядит как удобная подсказка, но для учителя и родителя превращает поиск в инструмент, который может подменить самостоятельную работу готовым результатом.
Во-вторых, более четверти приведённых ссылок в тесте вели на форумы и социальные посты без редакционной ответственности. Наличие ссылки рядом с ответом не означает, что источник подходит для учебной работы.
В-третьих, более чем в четырёх из десяти исторических вопросов ответы заметно менялись при повторном поиске. Это не доказывает, что каждый такой ответ неверен. Но для учебной задачи это создаёт риск, если ребёнок не заметит расхождения между вчерашней и сегодняшней формулировкой, а проверка версий не станет частью работы с ответом.
Почему SafeSearch не решает эту задачу
SafeSearch остаётся фильтром поиска, но результаты теста показывают другую проблему: фильтрация и управление генеративным ответом не одно и то же. Даже если запрос проходит через детские настройки, ребёнок всё равно может получить уверенно сформулированный синтез, качество которого трудно оценить по одному экрану.
Особенно важен контраст с безопасными, ограниченными сценариями. Нейросети для детей могут быть полезным инструментом, когда взрослый заранее задаёт цель и проверяет результат: например, обсудить черновик сказки, придумать варианты задания или вместе разобрать, почему ответ нуждается в источниках. Запросы вроде «нейросеть сказка для детей» или «генератор сказок для детей» не требуют принимать ответ за факт.
Иная ситуация с учебным вопросом, исторической справкой или темой, где ребёнок может искать помощь в трудный момент. Там удобство готового ответа становится риском, если рядом нет взрослого, понятного ограничения или привычки сверять источники.
У этого вывода есть существенная оговорка
Google оспорила исследование. Компания назвала запросы узкими, неоднозначными и искусственно составленными, заявила, что не смогла воспроизвести выводы и что при релевантных запросах показывает кризисные ресурсы.
Это сильное возражение: тест не измеряет каждую детскую сессию в поиске и не позволяет объявить любой AI-ответ Google опасным. Саму категорию «неприемлемый риск» следует понимать как оценку Common Sense по её framework, а не как юридический вердикт.
Но именно здесь возникает поворот. Если ответ на один и тот же вопрос может заметно меняться, отсутствие полного воспроизведения не только ослабляет тест, но и описывает часть родительской проблемы. Взрослому трудно проверить не только качество одного ответа, но и то, каким будет следующий.
При оценке независимости исследования стоит учитывать и раскрытие финансирования: Youth AI Safety Institute получает финансирование от индустрии, включая Anthropic и OpenAI Foundation, при этом заявляет редакционную независимость. Это не отменяет найденные симптомы, но не позволяет превращать один отчёт в окончательный приговор.
Практика: не запрет, а разделение задач
Вместо полного запрета родителям и школам можно выбрать более объясняющую модель: разделить задачи на три группы.
Можно использовать как творческое пространство. Черновик сказки, идеи для раскраски, варианты персонажа, список вопросов для проекта. Здесь ребёнок не обязан доверять ответу как факту, а взрослый может обсуждать, что именно придумала модель.
Можно использовать только вместе с проверкой. Нейросети обучение для детей, подготовка к уроку, объяснение темы, план презентации. Правило простое: AI-ответ не сдаётся и не пересказывается, пока ребёнок не найдёт независимый источник и не сможет объяснить вывод своими словами.
Не стоит оставлять без взрослого маршрута. Вопросы, где нужна экстренная помощь, точная медицинская, правовая или психологическая информация, а также ситуация, в которой ребёнок явно ищет не сведения, а поддержку. Здесь поиск не должен быть единственным каналом помощи.
Для семьи полезен короткий диагностический разговор после любой новой AI-функции в поиске:
- Видит ли ребёнок разницу между ссылкой на источник и готовым ответом?
- Может ли он назвать, откуда взялся ключевой факт?
- Что произойдёт, если повторить тот же запрос и ответ изменится?
- Есть ли у взрослого способ увидеть, обсудить или ограничить этот сценарий?
- Что ребёнок сделает, если вопрос касается его безопасности или самочувствия?
Если на два последних вопроса нет ясного ответа, это не повод объявлять технологию плохой. Это сигнал, что доступ пока организован как случайность, а не как учебный инструмент.
Чего не хватает детскому режиму по умолчанию
Отдельный переключатель важен не потому, что AI-ответы всегда вредны. Он нужен для выбора контекста. Семья может хотеть обычный поиск со ссылками для домашней работы, а школе может понадобиться другой режим для исследовательского задания, где учитель заранее объяснил правила проверки.
Управляемый режим для ребёнка или класса стоило бы обсуждать через четыре вопроса: можно ли явно включить и выключить AI-слой, какие модели и сценарии доступны, видны ли источники и есть ли у взрослых понятные controls. Это не перечень подтверждённых функций конкретного сервиса, а критерий, по которому можно оценивать любой инструмент.
Такой контур можно продумать и в provod.ai: сначала определить допустимые задачи, затем правила источников и роль взрослого, а не начинать с выбора самой впечатляющей модели.
Что для вас рискованнее: закрыть ребёнку полезный инструмент без объяснения или оставить AI-ответы в обычном поиске без отдельного контроля взрослых?
provod.ai — официальный уровень цен в удобном для бизнеса контуре
Один рублёвый баланс заменяет расчёты с несколькими зарубежными сервисами: юридические лица получают договор, счёт и закрывающие документы, а команда — единый API.
В одном каталоге — актуальные модели для текста и медиа: GPT от OpenAI, Claude от Anthropic, Gemini от Google, Grok от xAI, DeepSeek, Qwen, GLM, Kimi и MiniMax; для изображений — Nano Banana 2 Pro и GPT Image; для видео — последние версии Seedance, Kling, Veo и Google Omni. Также доступны модели для reasoning, поиска, документов, эмбеддингов, музыки и аудио.
Цены 1:1 с провайдером — это минимальная наценка provod.ai, равная нулю: платформа не увеличивает официальную стоимость токенов и генераций.
Посчитайте стоимость своего AI-сценария: форма регистрации · цены на модели · защита данных по 152-ФЗ · реквизиты и документы