Dos preguntas sobre fútbol. Una se responde eligiendo una categoría. La otra se responde con un número. Esa diferencia es todo el tema de hoy.
Para saber qué tipo de problema tenemos, miramos qué tipo de respuesta queremos. Si la respuesta es elegir entre opciones (sí o no, gol o no gol), es clasificación. Si la respuesta es una cantidad, es regresión.
Miramos: desde qué distancia patea y desde qué ángulo (de frente o de costado).
Respondemos: GOL o NO GOL. No existe "medio gol".
Miramos: cuántas veces pateó al arco en la temporada.
Respondemos: un número, por ejemplo 13 goles. Si le erramos por 1 no es lo mismo que errarle por 10.
Modelo que predice haciendo una serie de preguntas de sí o no sobre los datos, ordenadas como las ramas de un árbol. Cada camino termina en una respuesta.
Funciona como el juego de las 20 preguntas o como Akinator: hace una pregunta, según la respuesta hace otra, y así hasta llegar a una respuesta. La computadora mira los partidos anteriores y elige sola qué preguntas conviene hacer.
Para elegir qué pregunta hacer, el árbol busca la que deja los grupos lo más "ordenados" posible.
En clasificación mide qué tan mezclado queda cada grupo con la entropía o el índice de Gini. Un grupo que tiene solo goles está perfectamente ordenado (entropía 0). Uno mitad goles y mitad no goles está totalmente mezclado.
En regresión usa el error cuadrático (MSE): busca grupos donde los jugadores hicieron cantidades de goles parecidas.
KNN (K Nearest Neighbors, "K vecinos más cercanos") es un modelo que predice mirando los K casos más parecidos que ya conoce y copiando lo que les pasó a ellos.
No aprende reglas: se acuerda de todos los remates que ya vio. Cuando llega uno nuevo, busca los más parecidos y hace lo que hicieron ellos. Es como un técnico que dice "este pibe juega parecido a tal y tal".
Los vecinos votan. Si 2 de 3 fueron gol, dice gol.
Los vecinos se promedian. Si los 2 delanteros más parecidos hicieron 11 y 17 goles, dice (11 + 17) ÷ 2 = 14 goles.
KNN no usa entropía ni ecuaciones. Lo único que calcula es la distancia entre un caso y otro (la más común es la distancia euclidiana, la que medirías con una regla sobre el gráfico). Lo importante es elegir bien la K: con muy pocos vecinos se deja engañar por un caso raro, y con demasiados deja de mirar a los parecidos.
Modelo que predice un número trazando la recta que mejor se ajusta a los datos.
Ponemos a 5 delanteros en un gráfico: cuántas veces patearon al arco y cuántos goles hicieron. La regresión lineal traza la recta que pasa lo más cerca posible de todos los puntos y la usa para predecir.
Para encontrar la recta usa el método de mínimos cuadrados: busca la recta con el MSE más chico, o sea, la que menos le erra a los puntos. No usa entropía ni matriz de confusión, porque no hay categorías.
Modelo que calcula la probabilidad de que algo pertenezca a una categoría (por ejemplo, que un remate sea gol) y con esa probabilidad decide la categoría.
Pensalo como un comentarista que ve el remate y dice "desde ahí entra 9 de cada 10 veces", y con eso apuesta: GOL. Primero calcula qué tan probable es, y después decide.
La recta de la regresión lineal no tiene límites: sigue subiendo y bajando para siempre. Si la usáramos para calcular la probabilidad de gol, para un remate muy cerca diría "más de 100 %" y para uno muy lejos "menos de 0 %". Eso es imposible: una probabilidad siempre está entre 0 % y 100 %.
La logística hace una cuenta igual a la de la recta, pero después pasa el resultado por un traductor que se llama función sigmoidea. El traductor recibe cualquier número y lo convierte en un porcentaje entre 0 % y 100 %:
Es como la barra de volumen del celular: por más que aprietes el botón, nunca pasa de 100 % ni baja de 0 %. Por eso se dice que la sigmoidea "aplasta" el resultado entre 0 y 1.
Mové la distancia y mirá cómo cambia cada paso:
¿De dónde salen el 3 y el 0,25? La computadora los aprende mirando muchos remates que ya pasaron. El 0,25 quiere decir que cada metro más lejos del arco baja un poco el puntaje y, con él, la probabilidad de gol.
| Distancia | 1 · La cuenta | 2 · El traductor | 3 · La decisión |
|---|---|---|---|
| 4 m | 3 − 0,25 × 4 = 2 | 88 % | GOL |
| 12 m | 3 − 0,25 × 12 = 0 | 50 % | justo en el límite |
| 20 m | 3 − 0,25 × 20 = −2 | 12 % | NO GOL |
El traductor es la función sigmoidea. El corte en 50 % se llama umbral. Para aprender sus números (el 3 y el 0,25) usa la entropía cruzada, también llamada log loss: castiga mucho al modelo cuando estaba muy seguro y se equivocó.
Para saber si un modelo funciona, lo probamos con casos nuevos que no vio antes y comparamos lo que dijo con lo que pasó de verdad. Es como un examen: si le tomás las mismas preguntas que estudió, no sabés si entendió o si se las memorizó.
Accuracy es el porcentaje de veces que acertó. Probamos los tres modelos con 5 remates nuevos:
| Remate | Qué pasó | Logística | Árbol | KNN |
|---|---|---|---|---|
| Accuracy | 4 de 5 = 80 % | 4 de 5 = 80 % | 4 de 5 = 80 % | |
Los tres aciertan 4 de 5, pero no se equivocan en el mismo remate. La logística solo mira la distancia, así que falla el remate de costado. El árbol y KNN miran también el ángulo, pero fallan un gol raro que se hizo desde un costado.
Es una tabla que ordena los aciertos y los errores de un modelo de clasificación. Se usa con los tres modelos que clasifican (logística, árbol y KNN). En verde, las veces que acertó; en rojo, las que se equivocó. El accuracy sale de acá: aciertos ÷ total.
| Dijo GOL | Dijo NO GOL | |
|---|---|---|
| Fue GOL | 2 | 0 |
| Fue NO GOL | 1 | 2 |
| Dijo GOL | Dijo NO GOL | |
|---|---|---|
| Fue GOL | 1 | 1 |
| Fue NO GOL | 0 | 3 |
Los tres tienen el mismo accuracy, pero la matriz muestra que se equivocan de forma distinta. En regresión no hay matriz de confusión, porque no hay categorías: ahí se usan MSE y R².
Acá no alcanza con "acertó o no": queremos saber por cuánto le erró. Probamos con 2 delanteros nuevos:
| Delantero | Remates | Goles reales | Lineal | Árbol | KNN |
|---|---|---|---|---|---|
| Nuevo 1 | 20 | 8 | 7 (erró 1) | 7 (erró 1) | 9 (erró 1) |
| Nuevo 2 | 60 | 20 | 19 (erró 1) | 18 (erró 2) | 18 (erró 2) |
| MSE | 1 | 2,5 | 2,5 | ||
| R² | 0,97 | 0,93 | 0,93 | ||
Cuánto se equivoca en promedio. Tomamos lo que erró con cada jugador, lo multiplicamos por sí mismo (así un error grande pesa mucho más que uno chico) y sacamos el promedio.
Árbol: erró 1 y 2
(1×1 + 2×2) ÷ 2 = 5 ÷ 2 = 2,5
Cuanto más chico, mejor. 0 sería perfecto.
Compara al modelo con alguien que no sabe nada y siempre dice el promedio (14 goles para todos). Ese "adivino" erra por 6 con cada jugador, así que su MSE es 6 × 6 = 36.
R² = 1 − (MSE del modelo ÷ MSE del adivino)
Recta: 1 − (1 ÷ 36) = 0,97
Si el modelo es perfecto, R² da 1. Si es igual de malo que el adivino, da 0. Nuestra recta da 0,97: casi perfecta.
¿Gol o no? ¿Aprueba o no? ¿Es spam o no?
Modelos: árbol, KNN y regresión logística.
Se mide con: matriz de confusión y Accuracy (porcentaje de aciertos).
¿Cuántos goles? ¿Qué precio? ¿Qué nota?
Modelos: árbol, KNN y regresión lineal.
Se mide con: MSE (cuánto erra) y R² (qué tan bien explica).
| Modelo | Clasificación | Regresión | Cómo decide |
|---|---|---|---|
| Árbol de decisión | Sí | Sí | Hace preguntas de sí o no hasta llegar a una respuesta. |
| KNN | Sí | Sí | Mira a los casos más parecidos y hace lo que hicieron ellos. |
| Regresión lineal | No | Sí | Traza la recta que pasa más cerca de los puntos. |
| Regresión logística | Sí | No | Hace la cuenta, la traduce a probabilidad y decide con el 50 %. |
| Modelo | Para aprender usa | Se evalúa con |
|---|---|---|
| Árbol (clasificación) | Entropía o índice de Gini | Matriz de confusión, Accuracy |
| Árbol (regresión) | Error cuadrático (MSE) | MSE, R² |
| KNN (clasificación) | Distancia + votación | Matriz de confusión, Accuracy |
| KNN (regresión) | Distancia + promedio | MSE, R² |
| Regresión lineal | Mínimos cuadrados | MSE, R² |
| Regresión logística | Sigmoidea + entropía cruzada (log loss) | Matriz de confusión, Accuracy |
Si te acordás de una sola cosa: mirá qué respuesta querés. "¿Gol?" es clasificación. "¿Cuántos?" es regresión.