Почему сайт может быть невидим для ИИ, даже если он хорошо индексируется в Google
Google умеет исполнять JavaScript при индексации уже много лет, и сайт на React или Vue вполне успешно попадает в его выдачу. Но AI-краулеры — не Googlebot: часть из них может не дожидаться исполнения клиентских скриптов и работать с тем HTML, который отдает сервер до рендеринга. Если весь контент подгружается через JS, для такого бота страница может выглядеть практически пустой.
CSR, SSR, SSG и пререндеринг: в чем разница
- CSR (Client-Side Rendering) — сервер отправляет минимальный HTML-шаблон, весь контент рендерится в браузере через JavaScript;
- SSR (Server-Side Rendering) — полный HTML собирается на сервере при каждом запросе;
- SSG (Static Site Generation) — HTML генерируется заранее, на этапе сборки проекта;
- Пререндеринг — HTML-снимок страницы сохраняется через headless-браузер и отдается ботам вместо CSR-версии.
Для видимости контента в исходном HTML-ответе подходят SSR, SSG и пререндеринг — все три гарантируют, что текст присутствует в ответе сервера, а не только после исполнения скрипта в браузере.
Как проверить, что видит конкретно ИИ-бот
Самый быстрый способ — запрос с подменой user-agent:
curl -A "GPTBot" https://yoursite.com/page/ | head -100
Если в выводе команды нет ключевого текста страницы — значит, для этого user-agent контент недоступен в исходном HTML. Важная оговорка: подмена user-agent в curl проверяет ответ сервера, но не подтверждает, что запрос действительно обработан так, как если бы пришел от настоящего бота — это инструмент диагностики, а не эмуляция полного поведения краулера.
Дополнительно можно использовать URL Inspection Tool в Google Search Console — он показывает отрендеренную версию страницы и ее HTML, что помогает понять общую картину проблем с рендерингом, даже если инструмент ориентирован на Googlebot, а не на AI-краулеров напрямую.
Что делать, если сайт построен на клиентском JS
- Определите приоритетные страницы — те, что должны попадать в ответы ИИ.
- Проверьте их через curl с разными user-agent.
- Если ключевой контент отсутствует в HTML-ответе — внедрите SSR, SSG или пререндеринг хотя бы для этих страниц.
- Повторите проверку после внедрения и сравните результат.
- Включите эти страницы в регулярный технический мониторинг.