Рендеринг и JS для ИИ-ботов

Почему сайт может быть невидим для ИИ, даже если он хорошо индексируется в Google

Google умеет исполнять JavaScript при индексации уже много лет, и сайт на React или Vue вполне успешно попадает в его выдачу. Но AI-краулеры — не Googlebot: часть из них может не дожидаться исполнения клиентских скриптов и работать с тем HTML, который отдает сервер до рендеринга. Если весь контент подгружается через JS, для такого бота страница может выглядеть практически пустой.

CSR, SSR, SSG и пререндеринг: в чем разница

  • CSR (Client-Side Rendering) — сервер отправляет минимальный HTML-шаблон, весь контент рендерится в браузере через JavaScript;
  • SSR (Server-Side Rendering) — полный HTML собирается на сервере при каждом запросе;
  • SSG (Static Site Generation) — HTML генерируется заранее, на этапе сборки проекта;
  • Пререндеринг — HTML-снимок страницы сохраняется через headless-браузер и отдается ботам вместо CSR-версии.

Для видимости контента в исходном HTML-ответе подходят SSR, SSG и пререндеринг — все три гарантируют, что текст присутствует в ответе сервера, а не только после исполнения скрипта в браузере.

Как проверить, что видит конкретно ИИ-бот

Самый быстрый способ — запрос с подменой user-agent:

curl -A "GPTBot" https://yoursite.com/page/ | head -100

Если в выводе команды нет ключевого текста страницы — значит, для этого user-agent контент недоступен в исходном HTML. Важная оговорка: подмена user-agent в curl проверяет ответ сервера, но не подтверждает, что запрос действительно обработан так, как если бы пришел от настоящего бота — это инструмент диагностики, а не эмуляция полного поведения краулера.

Дополнительно можно использовать URL Inspection Tool в Google Search Console — он показывает отрендеренную версию страницы и ее HTML, что помогает понять общую картину проблем с рендерингом, даже если инструмент ориентирован на Googlebot, а не на AI-краулеров напрямую.

Что делать, если сайт построен на клиентском JS

  1. Определите приоритетные страницы — те, что должны попадать в ответы ИИ.
  2. Проверьте их через curl с разными user-agent.
  3. Если ключевой контент отсутствует в HTML-ответе — внедрите SSR, SSG или пререндеринг хотя бы для этих страниц.
  4. Повторите проверку после внедрения и сравните результат.
  5. Включите эти страницы в регулярный технический мониторинг.
Поделиться
Репостнуть