Estrategia para competir en Kaggle

Guardar información

En una competencia no basta con entrenar modelos.

Es fundamental guardar sistemáticamente:

1. Folds utilizados
   
2. Ejecuciones de modelos
   
3. Predicciones generadas
   
4. Métricas de desempeño

:contentReferenceoaicite:0

¿Por qué guardar todo?

Porque sin trazabilidad:

• No sabes qué funcionó
• No puedes reproducir resultados
• No puedes mejorar de forma consistente

En Kaggle, esto marca la diferencia entre probar y realmente optimizar.

Kaggle: foro y kernels

Dos herramientas clave dentro de la plataforma:

Foro

Discusión entre participantes sobre el problema

Kernels

Notebooks compartidos con código y experimentos

:contentReferenceoaicite:1

Uso estratégico

El uso de estos recursos cambia según la etapa:

Antes de la competencia
- Revisar soluciones pasadas
- Entender enfoques base

Durante la competencia
- Seguir discusiones
- Detectar ideas útiles

Después de la competencia
- Analizar soluciones ganadoras

:contentReferenceoaicite:2

Uso de kernels

Antes
- Revisar baselines de problemas similares

Durante
- Explorar EDA y validación

Después
- Analizar código final compartido

:contentReferenceoaicite:3

Selección de submissions

Durante una competencia se generan muchas predicciones.

No todas deben enviarse.

El proceso real es:

Muchos modelos → Leaderboard público

:contentReferenceoaicite:4

Public vs Private Leaderboard

El leaderboard público:

• Evalúa solo una parte de los datos
  
• Puede inducir a sobreajuste

El leaderboard privado:

• Define la posición final

:contentReferenceoaicite:5

Flujo real de selección

Submissions → Public LB → Mejores modelos → Private LB → Ranking final

:contentReferenceoaicite:6

Error común

Optimizar únicamente para el leaderboard público.

Esto puede llevar a:

• Overfitting
  
• Pérdida de generalización
  
• Caídas en el ranking final

Submissions finales

Dos criterios clave:

1. Mejor desempeño en validación local
   
2. Mejor desempeño en leaderboard público

:contentReferenceoaicite:7

Lo que realmente aprendimos

Más allá del código, el flujo completo es:

• Entender el problema
  
• Hacer EDA
  
• Diseñar validación local
  
• Crear features
  
• Construir ensembles

:contentReferenceoaicite:8

Kaggle vs Data Science

Kaggle no cubre todo el ciclo real.

En producción, el flujo es:

1. Entender el negocio
   
2. Recolectar datos
   
3. Definir métricas
   
4. Dividir datos
   
5. Construir modelo
   
6. Desplegar

:contentReferenceoaicite:9

Idea final

Kaggle enseña:

Optimización, validación y modelado.

Pero la ciencia de datos real exige:

Contexto, interpretación y despliegue.

Cierre

Ganar en Kaggle no es solo modelar mejor.

Es:

• Organizar experimentos
  
• Validar correctamente
  
• Combinar modelos
  
• Tomar decisiones estratégicas