Un laberinto digital de URLs ilumina una ciudad futurista. La página principal destaca entre enlaces duplicados.
¿Cómo optimizar el Crawl Budget limpiando URLs innecesarias?
Un sitio web puede parecer ordenado desde el menú principal y, al mismo tiempo, ser una ciudad subterránea de URLs repetidas, filtros eternos y páginas que nadie pidió. Googlebot entra con una linterna; nosotros, con demasiada frecuencia, le damos un laberinto y luego nos sorprendemos de que no llegue al tesoro.
Optimizar el crawl budget —o presupuesto de rastreo— no consiste en “hacer trucos” para que Google rastree más, como quien intenta sobornar a un portero con una sonrisa. Consiste en algo menos vistoso y mucho más rentable: reducir el ruido, consolidar señales, eliminar URLs innecesarias y hacer que los bots dediquen su tiempo a las páginas que de verdad importan para el negocio.
Hay una paradoja hermosa, y un poco incómoda, en el SEO técnico: a veces se crece eliminando. Menos URLs, más autoridad. Menos rastreo inútil, más descubrimiento de contenido valioso. Menos selva, más camino. En tiempos de webs infladas por plugins, parámetros, etiquetas, filtros, sitemaps automáticos y CMS generosos hasta el delirio, limpiar URLs se parece a podar un árbol frutal: duele cortar ramas, pero la cosecha lo agradece. 🌱
Qué es realmente el Crawl Budget 🕷️
El crawl budget es la cantidad aproximada de URLs que un motor de búsqueda, especialmente Google, puede y quiere rastrear en un sitio durante un periodo determinado. No es una cifra pública fija ni un crédito mensual con saldo visible. Es más bien una corriente: sube, baja, se desvía, se frena.
Google lo explica a partir de dos grandes fuerzas:
- Crawl capacity limit: la capacidad de rastreo que tu servidor puede soportar sin degradar la experiencia. Si tu sitio responde lento, falla o devuelve demasiados errores 5xx, Googlebot reduce la intensidad. Es cortesía algorítmica, no romanticismo.
- Crawl demand: el interés que tiene Google en rastrear ciertas URLs. Las páginas populares, frescas, enlazadas y actualizadas suelen tener más demanda que un archivo perdido de 2017 con tres líneas y una imagen rota.
Dato importante: Google ha señalado en varias ocasiones que los sitios pequeños —por ejemplo, de unas pocas cientos o miles de URLs bien gestionadas— rara vez necesitan obsesionarse con el crawl budget. El problema suele aparecer en sitios grandes, ecommerce, medios, marketplaces, portales con filtros, webs internacionales, WordPress con años de acumulación o instalaciones donde cada plugin parece haber abierto una puerta nueva al sótano.
Dicho de otro modo: si tu web tiene 80 páginas, probablemente tu prioridad no sea “optimizar el crawl budget”, sino publicar mejor contenido, mejorar la intención de búsqueda y cuidar la velocidad. Pero si tienes 80.000 URLs, de las cuales 60.000 son variantes con parámetros, archivos inútiles o duplicados, entonces sí: el rastreo se convierte en una economía. Y toda economía mal administrada termina con inflación. En este caso, inflación de basura indexable.
Cuándo debe preocuparte el presupuesto de rastreo 🔍
No todas las webs sufren el mismo dolor. Un blog modesto puede tener problemas de SEO, claro, pero no necesariamente de rastreo. En cambio, un ecommerce con filtros por talla, color, marca, precio, disponibilidad, ordenación y sesión de usuario puede generar millones de combinaciones. Una camisa azul en talla M parece inocente; multiplicada por todos los parámetros posibles, se convierte en una hidra con URLs en lugar de cabezas.
Deberías revisar tu crawl budget si reconoces una o varias de estas situaciones:
- Tu sitio tiene decenas de miles o millones de URLs.
- Google tarda mucho en descubrir o actualizar páginas importantes.
- Hay muchas URLs en estado “Descubierta: actualmente sin indexar” o “Rastreada: actualmente sin indexar” en Google Search Console.
- Los logs muestran que Googlebot visita con frecuencia páginas de bajo valor y apenas toca las páginas comerciales.
- El sitemap XML contiene URLs redirigidas, bloqueadas, con noindex, canonicalizadas hacia otra URL o con errores.
- Existen muchas páginas duplicadas por parámetros, filtros, etiquetas, paginaciones o versiones HTTP/HTTPS.
- Tu servidor responde lento o devuelve errores 500, 502, 503 o timeouts.
- Has migrado recientemente, cambiado estructura de URLs o eliminado grandes secciones.
En SEO técnico, el exceso rara vez es abundancia. A veces es niebla.
Señales de que estás desperdiciando rastreo 🚦
Un desperdicio de crawl budget no siempre grita. A veces susurra en los informes, se esconde en los logs o se disfraza de “normalidad” dentro del CMS. Como esas casas donde todo parece limpio hasta que abres el cajón de los cables.
En Google Search Console
- Aumento de URLs excluidas sin motivo claro.
- Muchas páginas duplicadas sin canonical elegido por el usuario.
- URLs importantes que tardan semanas en indexarse.
- Errores 404 o soft 404 en grandes volúmenes.
- Caídas en el informe de estadísticas de rastreo.
En los logs del servidor
- Googlebot rastrea parámetros irrelevantes.
- Mucho rastreo en URLs con filtros o búsqueda interna.
- Frecuencia alta en páginas no indexables.
- Poco rastreo en categorías, productos o artículos clave.
- Respuestas 3xx, 4xx y 5xx consumiendo visitas del bot.
Search Console ofrece una vista útil, pero parcial. Los logs son la libreta del portero: registran quién entró, cuándo, por dónde y qué respuesta recibió. No opinan. Y justamente por eso son tan valiosos.
Una mini anécdota, porque también pasan estas cosas
Hace años revisé una web que juraba tener “unas 4.000 páginas”. El CMS decía eso. El sitemap también. Pero al rastrear el sitio y analizar logs aparecieron más de 180.000 URLs accesibles. La mayoría eran combinaciones de parámetros generadas por un buscador interno: orden ascendente, descendente, filtros vacíos, páginas sin resultados. Era como abrir una pequeña tienda de barrio y encontrar detrás una estación ferroviaria abandonada.
Lo irónico era que el equipo publicaba contenido nuevo cada semana y se quejaba de que Google tardaba en indexarlo. Google sí entraba. Solo que pasaba buena parte del tiempo mirando pasillos sin mercancía.
Qué URLs innecesarias debes limpiar 🧹
No toda URL que existe merece ser rastreada. No toda URL rastreada merece ser indexada. Y no toda URL indexada merece sobrevivir. La arquitectura web madura exige una cierta crueldad elegante: distinguir entre lo útil y lo ornamental, entre contenido y eco.
| Tipo de URL | Problema habitual | Ejemplos comunes | Acción recomendada |
|---|---|---|---|
| Parámetros de seguimiento | Generan duplicados de una misma página. | ?utm_source=, ?fbclid=, ?gclid= |
Canonical a la URL limpia, no enlazarlas internamente, normalizar en analítica. |
| Búsqueda interna | Páginas infinitas, thin content y resultados cambiantes. | /search?q=zapatos, /?s=hosting |
Noindex follow; en casos masivos, bloquear patrones tras evaluar. |
| Facetas y filtros | Explosión combinatoria de URLs. | ?color=rojo&talla=m, /marca/nike/?precio=50-100 |
Indexar solo facetas con demanda SEO; canonical, noindex o bloqueo para el resto. |
| Ordenaciones | Duplican listados sin aportar contenido único. | ?orderby=price, ?sort=popular |
Canonical a la categoría base o noindex. |
| Etiquetas sin valor | Archivos pobres, solapados o casi vacíos. | /tag/noticias/, /tag/general/ |
Noindex o eliminación; conservar solo etiquetas estratégicas. |
| Archivos de fecha o autor | Duplican listados del blog. | /2022/08/, /author/admin/ |
Noindex si no tienen valor de búsqueda propio. |
| Adjuntos de WordPress | Páginas vacías para imágenes o documentos. | /mi-imagen/, attachment pages |
Redirigir al archivo o a la página padre; no indexar. |
| Paginaciones excesivas | Consumen rastreo en listados profundos poco útiles. | /blog/page/89/ |
Mejorar arquitectura, enlazado interno y profundidad; no bloquear sin análisis. |
| Duplicados técnicos | Varias versiones para el mismo contenido. | HTTP/HTTPS, www/no-www, slash/no slash, mayúsculas/minúsculas | Redirecciones 301 consistentes y canonical correcto. |
| Entornos de prueba | Staging indexado o rastreable. | staging.dominio.com, /dev/ |
Autenticación, bloqueo por servidor, noindex si ya fue accesible. |
Matiz crucial: “innecesaria” no significa “fea”. Una URL puede ser poco elegante y, aun así, generar tráfico orgánico valioso. Antes de eliminar, redirigir o desindexar, revisa datos: impresiones, clics, backlinks, conversiones, enlaces internos, logs y relevancia estratégica. El bisturí es mejor que la motosierra.
Cómo auditar URLs innecesarias paso a paso 🧭
La limpieza de crawl budget empieza con una pregunta incómoda: ¿cuántas URLs tiene realmente tu sitio? No cuántas crees. No cuántas muestra el menú. No cuántas aparecen en el sitemap. Cuántas puede descubrir un bot.
1. Extrae todas las fuentes de URLs
Trabajar solo con el sitemap es como inspeccionar una ciudad mirando únicamente las avenidas principales. Necesitas callejones.
- Sitemap XML: normalmente en
/sitemap.xmlo generado por Yoast SEO, Rank Math, SEOPress u otro plugin. - Google Search Console: páginas indexadas, excluidas, rastreadas, descubiertas y errores.
- Logs del servidor: accesos reales de Googlebot, Bingbot y otros rastreadores.
- Crawlers SEO: Screaming Frog, Sitebulb, JetOctopus, Oncrawl, Lumar u otras herramientas.
- Base de datos/CMS: posts, páginas, productos, categorías, etiquetas, adjuntos, autores.
- Backlinks: URLs enlazadas desde fuera, mediante Ahrefs, Semrush, Majestic o Search Console.
- Analítica: páginas con tráfico orgánico, conversiones o ventas.
2. Clasifica por estado HTTP
Una buena auditoría empieza por separar vivos, muertos, mudados y enfermos.
| Estado | Qué significa | Impacto en rastreo | Qué hacer |
|---|---|---|---|
| 200 | La URL responde correctamente. | Puede consumir crawl budget de forma legítima o inútil. | Evaluar calidad, indexabilidad, canonical y valor SEO. |
| 301/308 | Redirección permanente. | Consume rastreo adicional si hay cadenas o enlaces antiguos. | Actualizar enlaces internos hacia la URL final. |
| 302/307 | Redirección temporal. | Puede confundir señales si se usa como permanente. | Convertir en 301 si el cambio es definitivo. |
| 404 | No encontrada. | Normal en pequeñas cantidades; problemática a gran escala. | Redirigir solo si hay equivalente relevante; si no, dejar 404 o usar 410. |
| 410 | Eliminada definitivamente. | Señal más clara de eliminación. | Útil para URLs que no volverán y no tienen sustituto. |
| 5xx | Error del servidor. | Daña la capacidad de rastreo y la confianza técnica. | Prioridad alta: corregir hosting, caché, aplicación o CDN. |
3. Cruza indexabilidad con valor real
Aquí conviene crear una matriz. Por un lado, si una URL es indexable. Por otro, si merece serlo.
- URL indexable y valiosa: conservar, optimizar y enlazar mejor.
- URL indexable pero pobre: mejorar, fusionar, canonicalizar, noindex o eliminar.
- URL no indexable pero rastreada mucho: investigar por qué Googlebot la visita tanto.
- URL bloqueada pero enlazada internamente: corregir arquitectura; estás invitando al bot a una puerta cerrada.
4. Analiza patrones, no solo URLs individuales
En sitios grandes no se arregla URL por URL, igual que no se vacía el mar con una taza. Se detectan patrones:
?sort=,?orderby=,?filter_,?add-to-cart=/tag/,/author/,/date//page/con profundidad excesiva/wp-content/uploads/cuando hay adjuntos indexables- URLs con mayúsculas y minúsculas duplicadas
- URLs con slash final y sin slash final accesibles en paralelo
- Versiones imprimibles, AMP obsoletas o parámetros de sesión
Herramientas útiles: Google Search Console, Bing Webmaster Tools, Screaming Frog SEO Spider, Sitebulb, Ahrefs, Semrush, JetOctopus, Oncrawl, Log File Analyser de Screaming Frog, Looker Studio para informes y herramientas del servidor como AWStats, GoAccess o registros de Nginx/Apache.
Qué hacer con cada URL: eliminar, redirigir, bloquear, noindex o canonicalizar ⚖️
Una de las grandes tragedias del SEO técnico es usar todas las etiquetas como si fueran lo mismo. robots.txt, noindex, canonical, 301, 404 y 410 no son sinónimos con sombrero distinto. Cada uno resuelve un problema concreto.
1. Redirección 301: cuando existe un equivalente claro
Usa una redirección 301 si la URL antigua tiene una alternativa relevante. Por ejemplo, un producto descatalogado que tiene una nueva versión, una categoría fusionada o un artículo que se ha integrado en una guía más completa.
No redirijas todo a la home. Esa costumbre, tan extendida como poco elegante, es el equivalente SEO de responder cualquier pregunta con “mira qué bonita es la recepción”. Google suele tratar esas redirecciones irrelevantes como soft 404.
2. Código 410: cuando la URL murió y no volverá
El 410 Gone indica que la página fue eliminada de forma definitiva. Puede ser útil en limpiezas masivas de URLs sin valor, spam, filtros obsoletos o páginas generadas accidentalmente. No transfiere autoridad como una redirección, pero comunica con claridad.
3. 404: cuando no hay sustituto y no pasa nada
Un 404 no es pecado. Internet se mueve, las páginas desaparecen, los productos caducan. El problema no es tener algunos 404; el problema es enlazarlos internamente, generarlos por miles o dejar que páginas valiosas mueran sin redirección.
4. Noindex: cuando la página debe existir, pero no posicionar
noindex es ideal para páginas útiles para usuarios pero no para resultados de búsqueda: búsquedas internas, páginas de cuenta, ciertos archivos, resultados filtrados sin demanda SEO o listados pobres.
Cuidado: no bloquees en robots.txt una URL que necesita procesar noindex. Si Google no puede rastrearla, quizá no vea la directiva. Primero permite el rastreo para que detecte el noindex; después, cuando salga del índice y si el volumen lo justifica, puedes evaluar bloqueos más agresivos.
5. Canonical: cuando hay duplicados o variantes
La etiqueta rel="canonical" ayuda a indicar la versión preferida de una página. Es especialmente útil para parámetros de tracking, ordenaciones, versiones similares o fichas duplicadas. Pero conviene recordar algo: el canonical es una señal, no una orden militar. Si la arquitectura interna contradice el canonical, Google puede elegir otra URL.
6. Robots.txt: cuando quieres evitar rastreo, no necesariamente indexación
robots.txt sirve para decir a los bots qué rutas no deben rastrear. Puede ahorrar rastreo en zonas enormes y poco útiles, pero tiene límites. Una URL bloqueada puede aparecer en Google si recibe enlaces y Google conoce su existencia, aunque no pueda ver su contenido.
User-agent: * Disallow: /wp-admin/ Disallow: /?s= Disallow: /*?orderby= Disallow: /*?add-to-cart=
Ejemplo orientativo. No copies reglas sin probarlas: una directiva demasiado amplia puede bloquear recursos, categorías o páginas que sí quieres posicionar.
7. Actualizar enlaces internos: el gesto menos glamuroso y más necesario
Si enlazas internamente a URLs redirigidas, bloqueadas, canonicalizadas o con noindex, estás enviando señales contradictorias. Es como invitar a alguien a cenar y darle una dirección antigua. El bot irá, claro, porque es educado; pero no deberías culparlo por perder tiempo.
| Situación | Solución preferente | Comentario |
|---|---|---|
| URL con backlinks y sustituto equivalente | 301 | Preserva señales y mejora experiencia. |
| URL sin valor, sin tráfico y sin sustituto | 410 o 404 | 410 si quieres comunicar eliminación definitiva. |
| Resultados de búsqueda interna | Noindex, luego posible bloqueo | Evita indexación de páginas pobres. |
| Parámetros UTM | Canonical a URL limpia | No los incluyas en enlaces internos. |
| Filtros sin demanda SEO | Noindex/canonical/bloqueo selectivo | Depende de volumen, enlazado y necesidad de rastreo. |
| Categorías estratégicas | Indexar y optimizar | Contenido único, enlaces internos y sitemap. |
Optimizar el Crawl Budget en WordPress 🧩
WordPress es magnífico. También es prolífico. Le das un artículo y te devuelve el artículo, la categoría, la etiqueta, el autor, la fecha, el feed, los adjuntos, la paginación y, si te descuidas, tres versiones emocionales de la misma URL. No es maldad; es abundancia sin criterio editorial.
1. Revisa etiquetas y categorías
Las etiquetas de WordPress suelen ser una fábrica de thin content. Si una etiqueta agrupa dos entradas, no tiene texto descriptivo, duplica una categoría y no recibe tráfico, difícilmente merece indexarse.
Acciones recomendadas:
- Conservar solo etiquetas con intención de búsqueda clara.
- Eliminar etiquetas duplicadas, genéricas o vacías.
- Añadir descripciones útiles a categorías estratégicas.
- Configurar
noindexpara etiquetas si no aportan valor. - Evitar crear una etiqueta nueva por cada variación mínima.
2. Desactiva o redirige páginas de adjuntos
Las páginas de adjuntos son uno de esos detalles que parecen pequeños hasta que descubres miles de URLs con una imagen y poco más. Muchos plugins SEO permiten redirigir automáticamente las páginas de adjuntos al archivo multimedia o a la entrada padre.
- Yoast SEO: permite redirigir URLs de adjuntos en sus ajustes de medios.
- Rank Math: incluye opción para redirigir adjuntos.
- SEOPress: ofrece controles similares de indexación y redirección.
3. Controla archivos de autor y fecha
En blogs con un solo autor, el archivo de autor suele duplicar el blog principal. Los archivos por fecha también pueden crear listados redundantes. No son “malos” por naturaleza, pero en muchas webs no aportan nada que una categoría o una buena arquitectura no resuelva mejor.
Si no tienen estrategia propia, configúralos como noindex. Si están vacíos o no deberían existir, desactívalos o redirígelos con criterio.
4. Vigila feeds, REST API y parámetros
WordPress genera feeds RSS, endpoints REST, URLs con comentarios paginados y otros recursos. La mayoría no supone un problema en sitios pequeños, pero en webs grandes pueden aparecer en rastreos y logs.
No se trata de bloquear todo como si el sitio fuera una fortaleza medieval. Se trata de observar. Si Googlebot dedica tiempo significativo a rutas que no aportan valor orgánico, entonces sí conviene intervenir.
5. Plugins SEO: útiles, pero no mágicos
Yoast, Rank Math, SEOPress o The SEO Framework ayudan a gestionar canonicals, noindex, sitemaps XML y metadatos. Pero un plugin no entiende tu modelo de negocio por inspiración divina. Puede generar un sitemap limpio o incluir basura con impecable puntualidad. La puntualidad de la basura, admitámoslo, sigue siendo basura.
Regla práctica para WordPress: revisa cada tipo de contenido en el CMS: entradas, páginas, productos, categorías, etiquetas, autores, fechas, adjuntos, landing pages, plantillas, custom post types y taxonomías. Decide cuáles deben indexarse y cuáles no. Después asegúrate de que el sitemap refleje esa decisión.
Ecommerce, filtros y facetas: donde el crawl budget va a perderse 🛒
En una tienda online, las facetas son necesarias para los usuarios. Nadie quiere revisar 600 zapatillas una por una si puede filtrar por talla, color y precio. El conflicto aparece cuando cada combinación de filtros se convierte en una URL rastreable e indexable. Lo que para el usuario es comodidad, para el bot puede ser una tormenta de arena.
Facetas con valor SEO frente a facetas sin valor
La clave no es bloquear todos los filtros, sino separar los que responden a búsquedas reales de los que solo reorganizan el inventario.
| Faceta | Posible valor SEO | Ejemplo | Tratamiento |
|---|---|---|---|
| Categoría + marca | Alto si hay demanda | Zapatillas Nike mujer | Crear landing indexable optimizada. |
| Categoría + color | Variable | Vestidos rojos | Indexar si hay búsquedas y catálogo suficiente. |
| Categoría + talla | Normalmente bajo | Camisetas talla M | Noindex o canonical a categoría base. |
| Orden por precio | Bajo | ?orderby=price | Canonical/noindex. |
| Disponibilidad | Bajo o temporal | ?stock=available | Noindex; evitar enlaces rastreables si es masivo. |
| Combinaciones múltiples | Suele ser bajo | Marca + color + talla + precio | Bloqueo, noindex o canonical según caso. |
Buenas prácticas para WooCommerce
- Evita que
?add-to-cart=sea rastreable o enlazado por bots. - No incluyas URLs filtradas sin valor en el sitemap XML.
- Usa canonicals coherentes en filtros y ordenaciones.
- Crea páginas estáticas o landings SEO para combinaciones importantes, en vez de depender de filtros automáticos.
- Controla variaciones de producto: no todas necesitan URL propia indexable.
- Revisa productos agotados: redirigir, mantener, noindex o 410 dependerá de demanda, recurrencia y equivalentes.
- Optimiza paginación y enlazado a categorías profundas.
Un ecommerce bien gestionado no es el que más URLs ofrece a Google, sino el que presenta las correctas. Antítesis sencilla: catálogo abundante, rastreo selectivo. Todo lo contrario de esas tiendas que indexan hasta la indecisión del usuario.
Sitemap XML, enlaces internos y arquitectura: el mapa no debe mentir 🗺️
El sitemap XML es una recomendación, no una garantía. Pero sigue siendo una señal importante. Si incluyes URLs con noindex, redirecciones, errores 404, canonicals hacia otras páginas o contenido pobre, estás enviando a Google una lista de prioridades bastante peculiar. “Rastrea esto”, dices. “Aunque yo mismo te diga luego que no sirve”. La web moderna tiene momentos de comedia involuntaria.
Un sitemap limpio debe incluir solo URLs:
- Con estado HTTP 200.
- Indexables.
- Canónicas hacia sí mismas.
- Con contenido suficiente y valor SEO.
- Sin bloqueo por robots.txt.
- Actualizadas con fechas
lastmodreales, no decorativas. - Importantes dentro de la estrategia orgánica.
El enlazado interno decide qué importa
Google no solo lee tu sitemap. También interpreta tus enlaces internos. Si una página está a un clic desde la home, enlazada desde menús, migas de pan y categorías, parece importante. Si una URL solo aparece en la página 97 de una paginación olvidada, parece lo que quizá es: un susurro en el sótano.
Optimizar el crawl budget exige mejorar la profundidad de rastreo. Las páginas clave no deberían estar enterradas a demasiados clics. Esto afecta a:
- Categorías comerciales.
- Productos rentables o con demanda.
- Guías evergreen.
- Páginas de servicios.
- Landings por ubicación o vertical de negocio.
- Contenido actualizado recientemente.
Actualiza enlaces internos tras limpiar URLs
Después de aplicar redirecciones, noindex o eliminaciones, rastrea tu sitio de nuevo y corrige enlaces internos hacia:
- Redirecciones 301 o 302.
- URLs con canonical hacia otra página.
- 404 y 410.
- URLs bloqueadas en robots.txt.
- Páginas con noindex que reciben enlaces prominentes.
El crawl budget se optimiza cuando la web deja de contradecirse. Menos señales cruzadas, más intención. Menos ruido de maquinaria, más música.
Rendimiento del servidor: si respondes lento, te rastrean con cautela ⚡
Aunque este artículo se centra en limpiar URLs innecesarias, conviene no olvidar la otra mitad del problema: la capacidad de rastreo. Si tu servidor se fatiga con facilidad, Googlebot reducirá la frecuencia para no afectar a los usuarios. El bot no es un bárbaro golpeando puertas; suele ser más prudente que muchos scripts de marketing.
Factores técnicos que afectan al rastreo
- Tiempo de respuesta alto: páginas que tardan demasiado en devolver HTML.
- Errores 5xx: caídas, saturación, problemas PHP, base de datos o CDN.
- Cadenas de redirección: una URL que salta por varias etapas antes de llegar a destino.
- Recursos bloqueantes: JS o CSS pesado que ralentiza renderizado.
- Parámetros que generan consultas caras: filtros que sobrecargan la base de datos.
- Falta de caché: cada visita obliga al servidor a reconstruir lo mismo.
Medidas prácticas
- Implementar caché de página, objeto y navegador.
- Usar CDN correctamente configurada.
- Optimizar consultas lentas en base de datos.
- Reducir plugins innecesarios en WordPress.
- Actualizar PHP, CMS, temas y extensiones.
- Corregir errores 5xx antes de cualquier limpieza cosmética.
- Monitorizar logs y recursos del servidor durante rastreos intensos.
Una web rápida es como una recepción bien atendida: no garantiza que todos compren, pero evita que se marchen antes de preguntar.
Seguridad y URLs basura: el rastreo también encuentra lo que olvidaste cerrar 🔐
En mantenimiento web, seguridad y crawl budget se cruzan más de lo que parece. Entornos de staging indexables, copias antiguas, archivos temporales, parámetros vulnerables, plugins que generan endpoints sin control… todo eso puede terminar en logs, en índices o en manos menos amables que Googlebot.
Algunas URLs innecesarias no solo desperdician rastreo: exponen información. No hablamos necesariamente de una brecha dramática con sirenas, sino de pequeñas negligencias: directorios visibles, backups con nombres obvios, subdominios de prueba sin autenticación, versiones antiguas de páginas legales, archivos PDF duplicados.
Revisión mínima de seguridad relacionada con rastreo:
- Proteger staging con autenticación HTTP o restricción por IP.
- Evitar indexación de subdominios de pruebas.
- Eliminar backups públicos y archivos temporales.
- Revisar directorios expuestos.
- Bloquear endpoints sensibles que no deben ser rastreados.
- Mantener WordPress, plugins y temas actualizados.
- Comprobar que robots.txt no revela rutas delicadas como si fuera un mapa para curiosos.
Robots.txt no es una caja fuerte. Es un cartel. Y hay carteles que conviene no poner en la puerta del tesoro.
Errores frecuentes al limpiar URLs innecesarias 🚫
Limpiar mal puede ser peor que no limpiar. El entusiasmo técnico, cuando va sin diagnóstico, tiene algo de médico victoriano: mucha herramienta brillante y poca anestesia.
1. Bloquear con robots.txt páginas que tienen noindex
Si bloqueas el rastreo, el bot puede no ver el noindex. Primero permite que lo procese. Después decide si necesitas bloquear.
2. Eliminar URLs con tráfico o enlaces sin revisar
Antes de borrar, consulta Search Console, analítica y backlinks. Una URL fea puede tener autoridad. Una URL antigua puede sostener conversiones. La estética no paga facturas; el tráfico cualificado, a veces sí.
3. Redirigir todo a la home
Es tentador y rápido. También suele ser incorrecto. Las redirecciones deben apuntar al equivalente más relevante.
4. Dejar el sitemap lleno de URLs no indexables
El sitemap debe ser una selección, no un vertedero protocolizado.
5. Canonicalizar sin corregir enlaces internos
Si tus enlaces internos apuntan a la versión B, pero el canonical dice que la versión A es la buena, estás generando una conversación de sordos.
6. No medir después de los cambios
La limpieza de crawl budget no termina al aplicar reglas. Hay que medir impacto: rastreo, indexación, tráfico, errores, tiempo de respuesta y descubrimiento de páginas nuevas.
7. Confundir desindexar con desaparecer
Una URL con noindex puede seguir siendo rastreada. Una URL bloqueada puede seguir siendo conocida. Una URL eliminada puede seguir recibiendo enlaces. El SEO técnico no es magia; es fontanería con consecuencias públicas.
Plan profesional de 30 días para optimizar el Crawl Budget 📅
Una limpieza seria necesita orden. No hace falta incendiar la casa para cambiar los muebles. Este plan sirve para sitios medianos y grandes; en proyectos muy complejos conviene adaptarlo por plantillas, secciones o mercados.
| Periodo | Objetivo | Acciones | Indicadores |
|---|---|---|---|
| Días 1-3 | Recolectar datos | Exportar sitemaps, GSC, logs, analítica, backlinks y URLs del CMS. | Total de URLs conocidas por fuente. |
| Días 4-7 | Rastrear y clasificar | Crawl completo; clasificar por estado HTTP, indexabilidad, canonical, profundidad y plantilla. | % 200, 3xx, 4xx, 5xx; URLs indexables vs no indexables. |
| Días 8-12 | Detectar patrones basura | Identificar parámetros, filtros, etiquetas, adjuntos, duplicados y rutas de bajo valor. | Top patrones por volumen y rastreo. |
| Días 13-17 | Definir reglas | Decidir 301, 410, noindex, canonical o robots.txt por patrón. | Documento de decisiones técnicas. |
| Días 18-23 | Implementar | Aplicar cambios en CMS, servidor, plugins SEO, plantillas, robots y sitemaps. | Validación en staging y producción. |
| Días 24-27 | Corregir enlaces internos | Actualizar menús, breadcrumbs, módulos, enlaces contextuales y referencias antiguas. | Reducción de enlaces a 3xx, 4xx y noindex. |
| Días 28-30 | Medir y ajustar | Revisar GSC, logs, rastreo post-cambio y rendimiento del servidor. | Menos rastreo inútil, mejor cobertura, menos errores. |
Checklist rápida de implementación ✅
- El sitemap contiene solo URLs indexables y canónicas.
- No hay URLs importantes bloqueadas por robots.txt.
- Las páginas con noindex no están en el sitemap.
- Las redirecciones internas fueron actualizadas a destino final.
- No existen cadenas de redirección relevantes.
- Las páginas 404 internas fueron corregidas.
- Las facetas sin valor SEO no se indexan.
- Las facetas con demanda tienen landings optimizadas.
- Las etiquetas de WordPress fueron depuradas.
- Las páginas de adjuntos están redirigidas o no indexadas.
- Los logs muestran más rastreo en URLs prioritarias.
- El servidor responde rápido y sin errores 5xx recurrentes.
Cómo medir si la limpieza funcionó 📊
El éxito no siempre se ve al día siguiente. Google necesita recrawlear, procesar señales y ajustar su comportamiento. La paciencia aquí no es resignación; es método.
Métricas clave en Google Search Console
- Estadísticas de rastreo: solicitudes totales, tiempo medio de respuesta, distribución por tipo de archivo y estado.
- Indexación de páginas: evolución de indexadas, excluidas, duplicadas, noindex y rastreadas sin indexar.
- Sitemaps: URLs enviadas frente a URLs indexadas.
- Rendimiento: clics, impresiones, CTR y posición media de las páginas prioritarias.
Métricas en logs
- Porcentaje de hits de Googlebot en URLs indexables.
- Frecuencia de rastreo en páginas estratégicas.
- Reducción de hits en parámetros y filtros inútiles.
- Disminución de respuestas 3xx, 4xx y 5xx.
- Tiempo de respuesta por plantilla.
Señales de mejora
- Google descubre antes contenido nuevo o actualizado.
- Bajan los duplicados y excluidos sin valor.
- Aumenta el rastreo de categorías, productos o artículos clave.
- El sitemap muestra mayor coherencia entre enviadas e indexadas.
- Se reducen errores técnicos y cadenas de redirección.
- El tráfico orgánico se estabiliza o crece en URLs importantes.
No esperes que limpiar 50.000 URLs inútiles produzca automáticamente un salto de rankings. A veces el beneficio es más silencioso: menos fricción, mejor asignación de señales, rastreo más eficiente, indexación más limpia. Como arreglar los cimientos de una casa: nadie los aplaude, hasta que llega el invierno.
Ejemplos de limpieza según tipo de sitio 🧪
Blog editorial con años de publicaciones
Problema típico: etiquetas duplicadas, archivos de fecha, autores redundantes, posts antiguos de baja calidad y paginaciones profundas.
- Fusionar artículos canibalizados.
- Noindex en archivos de fecha y etiquetas débiles.
- Actualizar contenidos evergreen con tráfico histórico.
- Eliminar o redirigir posts obsoletos sin valor.
- Mejorar enlazado interno hacia guías principales.
Web corporativa en WordPress
Problema típico: páginas antiguas de campañas, landings duplicadas, adjuntos indexables, subdominios de pruebas y URLs generadas por constructores visuales.
- Redirigir landings antiguas a servicios relevantes.
- Bloquear staging con autenticación.
- Limpiar sitemap de plantillas o páginas privadas.
- Revisar canonicals en páginas creadas con page builders.
- Eliminar adjuntos indexables.
Tienda WooCommerce
Problema típico: filtros rastreables, productos agotados, URLs de carrito, parámetros de ordenación y categorías pobres.
- Definir facetas SEO indexables.
- Noindex/canonical en filtros sin demanda.
- Bloquear parámetros como
?add-to-cart=si generan rastreo inútil. - Crear textos únicos en categorías clave.
- Gestionar productos descatalogados con reglas claras.
Marketplace o portal grande
Problema típico: millones de combinaciones, contenido generado por usuarios, paginaciones enormes y URLs con datos temporales.
- Trabajar por plantillas y patrones, no por URLs sueltas.
- Usar logs como fuente principal de decisión.
- Limitar facetas combinables.
- Crear reglas de indexación basadas en demanda, inventario y calidad.
- Monitorizar rastreo por segmentos: categorías, fichas, búsquedas, perfiles, filtros.
Preguntas frecuentes sobre Crawl Budget y limpieza de URLs ❓
¿Optimizar el crawl budget mejora el posicionamiento?
No de forma directa como si fuera un botón. Mejora la eficiencia con la que los buscadores descubren, rastrean e interpretan tu sitio. En webs grandes o desordenadas, eso puede traducirse en mejor indexación, señales más claras y, con el tiempo, mejor rendimiento orgánico en páginas importantes.
¿Debo bloquear todas las URLs con parámetros?
No necesariamente. Algunos parámetros pueden ser necesarios para experiencia de usuario, analítica o funcionalidades. La decisión depende de si generan duplicados, si reciben enlaces, si aportan contenido único y si tienen demanda SEO. Primero analiza; después actúa.
¿Qué es mejor: noindex o robots.txt?
Depende. Usa noindex cuando quieres que una página salga del índice pero el bot pueda verla. Usa robots.txt cuando quieres evitar el rastreo de rutas que no necesitan ser procesadas. No son equivalentes.
¿Las páginas 404 gastan crawl budget?
Sí, pueden consumir rastreo si existen en grandes cantidades o están enlazadas internamente. Pero algunos 404 son normales. Lo importante es corregir enlaces internos rotos, redirigir URLs con valor y no obsesionarse con cada URL inexistente que alguien inventó en un enlace externo.
¿Cuánto tarda Google en reflejar una limpieza?
Puede tardar desde días hasta varias semanas o meses, según tamaño del sitio, frecuencia de rastreo, autoridad, enlaces internos y magnitud de los cambios. Los logs suelen mostrar señales antes que los informes consolidados de Search Console.
¿Debo eliminar contenido antiguo?
Solo si no aporta valor, no tiene tráfico, no recibe enlaces, no responde a una intención útil y no puede mejorarse. A veces conviene actualizarlo, fusionarlo o redirigirlo. El contenido antiguo no es malo por ser antiguo; malo es el contenido abandonado que ocupa espacio como un mueble roto en mitad del pasillo.
Menos URLs inútiles, más claridad para los buscadores 🌐
Optimizar el crawl budget limpiando URLs innecesarias es un ejercicio de disciplina técnica y criterio editorial. No se trata de esconder páginas a ciegas ni de reducir la web hasta dejarla anémica. Se trata de decidir qué merece existir, qué merece indexarse y qué merece recibir la atención de los rastreadores.
En la superficie, parece una tarea fría: estados HTTP, canonicals, robots.txt, sitemaps, logs. Pero en el fondo hay una idea casi literaria: toda web cuenta una historia sobre lo que considera importante. Si esa historia está llena de repeticiones, puertas falsas y habitaciones vacías, Googlebot la leerá con cansancio. Si está ordenada, jerarquizada y viva, el rastreo fluye como agua por un cauce limpio.
La web no necesita más URLs por inercia. Necesita mejores caminos. Y, de vez en cuando, alguien dispuesto a entrar con una escoba, una hoja de cálculo y suficiente paciencia para distinguir el polvo del patrimonio.