Entre las múltiples formas de lograr esto, existe una técnica matemática de gran relevancia llamada descenso de gradiente. Esta estrategia de optimización es básica para algoritmos como las redes neuronales artificiales, por lo que en esta exploración aprenderemos sobre su funcionamiento, definición matemática, ejemplos, y una práctica de experimentación con código en Python.

Inventario recomendado

Regresión lineal

Métricas de evaluación de modelos de regresión

Google Colab

Programación en Python

Matemáticas: una pizca de cálculo

Algún tentempié

Introducción al descenso de gradientes para optimizar funciones

Hasta el momento, hemos cubierto tres etapas básicas para la generación de modelos de aprendizaje de máquinas:

• Recolección y preparación de datos.
• Entrenamiento del modelo.
• Evaluación del modelo.

Esto nos deja listos para comenzar a explorar de forma más detallada los elementos que pertenecen a cada estadio. Anteriormente, nos hemos embarcado en un riguroso entrenamiento sobre los datos y sus orígenes, por lo que comenzaremos a enfocarnos en las minucias asociadas al entrenamiento del modelo.

Cómo recordarás del recorrido sobre funciones de costo, durante la etapa de entrenamiento, un algoritmo de aprendizaje supervisado minimiza una función de pérdida objetivo, la cual cuantifica las diferencias entre las predicciones del modelo y los valores del conjunto de datos de prueba. La manera en la que se minimiza la función de pérdida es lo que se conoce como optimización. Definamos brevemente este concepto.

Optimizadores en aprendizaje de máquinas

En machine learning, un optimizador es un algoritmo que ajusta los parámetros de un modelo para minimizar una función de pérdida.

Sí es algo similar, y el objetivo perseguido es el mismo, pero el método de mínimos cuadrados es un método de resolución directa para minimizar el error cuadrático medio (MSE), a diferencia de los optimizadores tradicionales, que minimizan la función le pérdida de manera algorítmica (como veremos más adelante).

Entre los diferentes optimizadores, existe uno que funge como base de muchos otros utilizados para entrenar modelos de mayor complejidad, y es el que conoceremos a continuación: el descenso de gradiente.

¿Qué es el descenso de gradiente para machine learning?

El descenso de gradiente es un algoritmo de optimización que se utiliza para encontrar los valores óptimos de los parámetros de un modelo minimizando una función de pérdida mediante un proceso iterativo que calcula el gradiente de la función respecto a los parámetros, y actualiza dichos parámetros en la dirección opuesta al gradiente, con el objetivo de reducir progresivamente el valor de la pérdida (el error).

Es verdad que existen algunos términos que hasta el momento no habíamos mencionado. Llegaremos a comprender esta definición de manera intuitiva, partiendo de un ejemplo.

Descenso de gradiente: ejemplos e intuición

Supongamos que queremos entrenar un modelo de machine learning de aprendizaje supervisado, no importa cuáles son los datos, las variables de entrada o las variables de salida, nos centraremos en el entrenamiento mismo.

Cuando decimos entrenar, como bien se ha dicho, nos referimos a encontrar los valores óptimos de los parámetros del modelo, es decir, hallar los valores de los parámetros de un modelo matemático que logre capturar las relaciones entre los datos, permitiendo realizar inferencias de manera satisfactoria (lo cual, como sabemos, se determina utilizando mediciones de su rendimiento).

El descenso de gradiente funciona mediante pasos, es un proceso iterativo basado en la repetición del cálculo de los valores de la función de costo.

Veamos cómo funciona paso por paso para dejarlo más claro:

1. Supongamos que hemos entrenado un modelo con un solo parámetro (en la regresión lineal, por ejemplo, hemos calculado anteriormente los valores de dos parámetros):

• Después del entrenamiento, vemos que hemos obtenido el valor del parámetro del modelo, ¿cómo sabemos si funciona bien con este parámetro que hemos encontrado utilizando machine learning?
• Para resolver nuestras dudas, hacemos una medición del desempeño del modelo con la función de costo (función de pérdida), y obtenemos un valor alto, es decir, el error es alto, por lo que el modelo no está correctamente optimizado.
• Ahora que tenemos el valor del parámetro y el valor de la función de error, visualizamos estos utilizando un gráfico como el siguiente, donde el eje X corresponde al valor del parámetro, y el eje Y al de la función de costo (el error calculado):

En esta gráfica se puede observar un valor relativamente alto del parámetro, y también un valor alto de la función de costo. Estos valores se ven representados por un punto, es decir, para este valor alto del parámetro obtenemos un error medido también alto, lo que implica que el modelo puede optimizarse más.

Nos ayudará a ilustrar el descenso de gradiente, ya verán más adelante.

Ahora, dibujaremos el punto sobre una curva:

Esta curva representa cómo se suelen comportar los valores de la función de costo respecto a cómo cambia el valor de los parámetros calculados.

Para entender mejor esta curva, recordemos que nuestra misión es minimizar los valores del error calculado (mientras sea más chico, mejor), por lo que debemos buscar la dirección hacia la cual se debe mover Mmerf (el valor del parámetro sobre el eje X), de forma que se desplace hacia un mejor valor del error medido. Esto nos lleva al siguiente paso.

2. Si queremos que el error sea menor, basta con mirar la gráfica: el punto debería dirigirse hacia abajo y hacia la izquierda sobre la curva. Siguiendo la tendencia, al hacer más pequeño el valor del parámetro esto debería provocar que el valor de la función de costo disminuya, acercándose al punto mínimo (el centro de la curva).

Ya escuchaste Mmerf, mueve ese trasero etéreo.

Le hemos dado una dirección correcta, se ha ajustado el valor del parámetro a un valor más chico, y esto ha generado un menor valor de la pérdida calculada (se ha acercado a 0 en el eje Y).

3. Como buscamos el menor valor posible, realizamos otro paso, y volvemos a dirigir a Mmerf hacia un valor más pequeño del parámetro, lo cual lo termina desplazando hacia abajo y la izquierda, quedando en el punto más bajo de la curva:

Con este movimiento, donde se ha determinado hacia dónde debe moverse el valor del parámetro, hemos conseguido alcanzar un mínimo de la función de costo, lo cual se suele denominar «convergencia» (converge a un mínimo de la función).

Esta es la esencia del descenso de gradiente. Se le llama así, porque la idea es descender hacia el mínimo de la función de costo (se minimiza el error) modificando los valores de los parámetros de un modelo, y con gradiente se refiere a la dirección (si se sumará o restará en cantidad a los valores de los parámetros) y magnitud (cuánto se le sumará o restará) a considerar para llegar a la convergencia.

El algoritmo, entonces, consiste en los siguientes pasos:

• Se parte de un punto inicial, generalmente aleatorio.
• Se calcula el gradiente, el cual indica en qué dirección la función de pérdida aumenta o disminuye, lo cual se utiliza para moverse en dirección hacia un mínimo.
• Se ajustan un poco los valores de los parámetros del modelo, esperando reducir el error calculado.
• Se repite el proceso, buscando alcanzar un mínimo después de n iteraciones.

A grandes rasgos, sí. Este proceso se entenderá mucho más en la siguiente sección, donde revisaremos su funcionamiento matemático.

Pero antes debemos de conocer dos elementos básicos del descenso de gradiente que son de gran relevancia en ciencia de datos:

• Tasa de aprendizaje.
• Número de iteraciones.

¿Qué es la tasa de aprendizaje en descenso de gradiente?

La tasa de aprendizaje (learning rate) es un hiperparámetro (por fin llegamos a hablar de nuestro primer hiperparámetro) que controla qué tan grande (magnitud) es cada paso que se da cuando se actualizan los parámetros del modelo durante el descenso de gradiente.

¿Cómo es que funciona?, es simple, se trata de un factor que determina el tamaño de cada movimiento de los parámetros tras cada iteración. Ilustrémoslo.

Recordemos lo que hicimos anteriormente, dimos tres pasos para llegar al mínimo de la función, lo cual podemos mostrar como sigue:

Supongamos que ahora hemos determinado que estos pasos serán más pequeños (tasa de aprendizaje menor), por lo que obtendremos el siguiente movimiento hacia un mínimo de la función de pérdida:

Se puede notar cómo los pasos son más cortos, y esto evita que se llegue al mínimo (el punto más bajo de la curva en el centro). Veamos cómo luce añadiendo un paso adicional:

Aún con el cuarto paso, no alcanzamos el mínimo; por lo tanto, lo ideal es que el tamaño de los pasos (tasa de aprendizaje) sea mayor.

Veamos que sucedería si eleváramos el tamaño de la tasa de aprendizaje:

Aquí podemos notar cómo llegamos al mínimo de la función de pérdida aumentando la tasa de aprendizaje.

En ese caso, se puede llegar a sobrepasar el mínimo, obteniendo de nuevo valores altos de la función de costo, lo cual no resulta favorable:

Se observa que, al incrementar el valor de la tasa de aprendizaje, se llega al otro extremo de la curva, esto implica que se tiene un valor cada vez más pequeño del parámetro estimado (más cerca del 0 en el eje X), lo cual genera que el error vuelva a aumentar (de nuevo el punto está más arriba, en el eje Y). Esto significa que valores más pequeños del parámetro de la función no implica siempre que generen mejores valores en las predicciones, por eso es importante configurar una tasa de aprendizaje que permita una convergencia cercana al mínimo de la función de pérdida.

¿Qué es el número de iteraciones en descenso de gradiente?

Las iteraciones son los pasos repetidos que se realizan en la ejecución del descenso de gradiente para ajustar los parámetros de un modelo con el objetivo de minimizar la función de costo.

Tomemos el caso en el que elegimos una tasa de aprendizaje pequeña y obtuvimos lo observado en la Figura 3.9.7, donde vimos que no llegamos a alcanzar el mínimo del error calculado. Para esto, también podríamos haber añadido más pasos, como se muestra en la Figura 3.9.10:

Para un valor relativamente bajo de la tasa de aprendizaje, al aumentar el número de iteraciones (pasos), hemos logrado minimizar el error.

Veamos ahora cómo luce el caso inverso, en el que tenemos un número más grande de tasa de aprendizaje, y reducimos los pasos para evitar oscilaciones que no permitan alcanzar el mínimo:

En este caso, utilizando un menor número de iteraciones se alcanza un mejor resultado.

Con esto hemos podido comprender cómo este par de esenciales hiperparámetros se combinan para optimizar la función de error y ajustar los parámetros de un modelo.

En general, se pueden considerar los siguientes problemas al intentar encontrar una convergencia en la función de pérdida:

Hasta este punto de la exploración podemos decir que entendemos el fin y proceso generalizado del descenso de gradiente. Para comprender con detalle cómo funciona el algoritmo, revisaremos las definiciones matemáticas.

Descenso de gradiente: definición matemática

En esta sección formalizaremos la definición de descenso de gradiente, y haremos un ejercicio de «cálculo a mano» para observar sus efectos en los parámetros del modelo y su función de pérdida asociada.

Definición (3.16) Descenso de gradiente. El descenso de gradiente es un algoritmo de optimización de primer orden que se utiliza para encontrar un mínimo local de una función de pérdida diferenciable L (nota sobre esto más abajo), la cual evalúa el desempeño de un modelo h(x) sobre un conjunto de datos etiquetados.

Sea \mathcal{D} = {(x_1, y_1), \dots, (x_N, y_N)} un conjunto de N observaciones, donde cada x_n es una entrada y y_n su etiqueta asociada, un modelo h(x) que pretende modelar las relaciones entre estos valores y sus etiquetas, y produce predicciones \hat{y}_n = h(x_n); y se define una función de pérdida que cuantifica el error entre y_n y \hat{y}_n, de forma individual como:

l(y_n, \hat{y}_n). \tag{3.76}

La función de pérdida total sobre el conjunto se expresa como:

 L(\mathcal{Y}, \mathcal{\hat{Y}}) = \frac{1}{N} \sum_{i=1}^N l(y_n, \hat{y}_n). \tag{3.77}

El descenso de gradiente busca minimizar esta función L ajustando los D parámetros del modelo de forma iterativa en T pasos. Denotamos por \boldsymbol{\theta}^{(t)} \in \mathbb{R}^D el vector de parámetros (número de parámetros del modelo ordenados en un vector) en la iteración t. El algoritmo actualiza simultáneamente todos los parámetros en dirección opuesta al gradiente de la función de pérdida, según la regla

\boldsymbol{\theta}^{(t+1)} = \boldsymbol{\theta}^{(t)} - \gamma^{(t)} \nabla L(\boldsymbol{\theta}^{(t)}), \tag{3.78}

donde \boldsymbol{\theta}^{(t)} es el vector de parámetros en la iteración t, \gamma^{(T)} > 0 es la tasa de aprendizaje en la iteración t, y \nabla L(\boldsymbol{\theta}^{(t)}) es el gradiente de la función de pérdida respecto a todos los parámetros, es decir, es el conjunto de las derivadas parciales de la función de pérdida respecto a los parámetros del modelo, y se expresa como sigue:

\nabla L(\boldsymbol{\theta}) = \left( \frac{\partial L}{\partial \theta_1}, \frac{\partial L}{\partial \theta_2}, \dots, \frac{\partial L}{\partial \theta_D} \right), \tag{3.79}

Por lo tanto, la actualización de un solo parámetro \theta_d en el paso t puede expresarse como

\theta_d^{(t+1)} = \theta_d^{(t)} - \gamma^{(t)} \frac{\partial L}{\partial \theta_d}(\boldsymbol{\theta}^{(t)}),\tag{3.80}

O utilizando \nabla para denotar la derivada parcial:

\theta_d^{(t+1)} = \theta_d^{(t)} - \gamma^{(t)}\nabla L(\boldsymbol{\theta}_d^{(t)}).\tag{3.81}

El procedimiento del descenso de gradiente se repite por un número predefinido de iteraciones T, o hasta que se cumpla una condición de parada, como:

\left| \nabla L(\theta_i) \right| \approx 0,\tag{3.82}

lo cual indica que el gradiente es cercano a cero, señalando proximidad a un mínimo.

Nota sobre la terminología de la definición 3.16

1. ¿Qué significa que el descenso de gradiente es de primer orden?

Cuando decimos que un algoritmo de optimización es de primer orden, nos referimos a que utiliza únicamente la primera derivada (o el gradiente) de la función que se desea minimizar. No usa derivadas de orden superior, como la segunda derivada (Hessiana), que se emplea en algoritmos de segundo orden, como sucede en el método de Newton.

2. ¿Qué significa que la función es diferenciable?

Decir que una función es diferenciable significa que tiene derivada en todos los puntos de su dominio. Esto implica que:

• Su gráfica no tiene saltos ni esquinas (es suave).
• Se puede calcular el gradiente (vector de derivadas parciales) en cada paso, que es lo que necesitamos para hacer actualizaciones en los pasos del descenso.

En el contexto del descenso de gradiente, esto se traduce en que la función de pérdida L(\theta) debe ser diferenciable con respecto a los parámetros del modelo \theta_d para que podamos aplicar la regla de la Ecuación 3.78.

Si no lo fuera, no podríamos calcular el gradiente y el algoritmo dejaría de ser aplicable.

Ejemplo de cálculo de un parámetro con descenso de gradiente

Todo cobrará más sentido cuando presenciemos cómo es que el descenso de gradiente realiza su magia. Para esto, ajustaremos una función de la forma h(x) = \theta x, donde \theta es el único parámetro del modelo.

Si lo notan, se puede decir que es la ecuación de una recta (la que obtenemos mediante regresión lineal) sin su segundo parámetro, es decir, sin intercepción.

Para esto, utilizaremos el conjunto de datos:

\mathcal{D} = \lbrace{(x_1 = 1, y_1 = 2), (x_2 = 2, y_2 = 4)}\rbrace

Es decir, un conjunto de datos con dos observaciones, como se muestra en la siguiente tabla:

Aquí los valores corresponden a cualquier escenario que puedas idear, por ejemplo, se podría decir que x_n es el número de hamburguesas que puedes comprar en un restaurante, y y_n su correspondiente precio:

• x_1=1, y_1=2 (1 hamburguesa por 2 dólares).
• x_2=2, y_2=4 (2 hamburguesas por 4 dólares).

En realidad, puedes imaginar cualquier caso, lo que importa es la forma en que modelaremos la relación entre estas variables.

Ahora queremos ajustar el parámetro de nuestro modelo para predecir nuevos valores de y respecto a nuevos valores de x, ¿qué función de pérdida nos serviría para evaluar un modelo de regresión?

Utilizaremos la función de pérdida del error cuadrático medio, que definimos en otra travesía de esta manera:

L(\theta) = \frac{1}{N} \sum_{n=1}^N (y_n - \hat{y}_n)^2,\tag{3.83}

Dado que conocemos la forma de la función y el valor de N (tenemos dos ejemplos de entrenamiento), sustituimos en (3.83) y obtenemos

L(\theta) = \frac{1}{2} \sum_{n=1}^{N} (y_n - \theta x_n)^2\tag{3.84}

donde \theta x_n=\hat{y}_n, es decir, es el valor calculado por el modelo parametrizado por los parámetros \theta.

Gradiente de la función de pérdida

Ahora calculamos el gradiente, que, como vimos en (3.79) y (3.80) se trata de la derivada de L(\theta) respecto a \theta:

\begin{align}
\nabla L(\theta) &= \frac{d}{d\theta} L(\theta)\tag{3.85} \\
                 &= -\frac{1}{N} \sum_{n=1}^{N} x_n (y_n - \theta x_n), \tag{3.86}
\end{align}

donde L(\theta) es la función definida en 3.84(\theta). Veamos cómo aplicamos esta derivada para optimizar el modelo.

Hiperparámetros y aplicación de descenso de gradiente

Los hiperparámetros a ajustar para hacer descenso de gradiente son los siguientes:

• Tasa de aprendizaje: \gamma = 0.1
• Número de iteraciones: T= 3

Además, inicializaremos el valor del parámetro en cero:

• \theta_0 = 0

Con esto listo, comencemos a hacer el descenso de gradiente:

Iteración 1

Sustituimos en la Ecuación (3.86) con:

• \theta_0 = 0 (valor del parámetro).
• x_n = 2 (valor de entrada).
• y_n = 1 (valor de salida).
• N = 2 (número de ejemplos de entrenamiento).

Quedando:

\nabla L(\theta^{(0)}) = -\frac{1}{2} [1(2 - 0) + 2(4 - 0)] = -\frac{1}{2}(2 + 8) = -5.\tag{3.87}

Esto quiere decir que el gradiente es igual a -5. Utilizamos este valor y sustituimos en (3.78) con:

• \theta_0^{(0)} = 0 (valor inicial, en el paso 0).
• \gamma = 0.1 (tasa de aprendizaje).
• \nabla L(\theta^{(0)})= -5 (valor de salida).

Quedando:

\theta^{(1)} = \theta^{(0)} - \gamma \cdot \nabla L(\theta^{(0)}) = 0 - 0.1 \cdot (-5) = 0.5.\tag{3.88}

¿Qué significa esto? Que hemos aplicado el gradiente calculado, el cual nos dice en qué dirección se puede minimizar la función de pérdida, y al aplicarlo obtuvimos un nuevo valor para el parámetro \theta_0 , que pasó de ser 0 a 0.5.

¿Cómo comprobamos que esto mejora el desempeño del modelo? Calculemos la función de pérdida antes y después de aplicar el cambio al parámetro.

Función de pérdida (rendimiento del modelo) antes de aplicar el descenso de gradiente (utilizando la Ecuación (3.84)):

L(\theta^{(0)}) = \frac{1}{4} \left[(2 - 0)^2 + (4 - 0)^2\right] = \frac{1}{4}(4 + 16) = 5.\tag{3.89}

Ahora, obtenemos el nuevo valor del rendimiento del modelo con el parámetro modificado:

L(\theta^{(1)}) = \frac{1}{4} \left[(2 - 0.5)^2 + (4 - 1)^2\right] = \frac{1}{4}(2.25 + 9) = \frac{11.25}{4} = 2.8125, \tag{3.90}

donde se debe notar que (3.89) y (3.90) son casi el mismo cálculo, salvo que en la segunda ecuación se utilizó el nuevo valor del parámetro \theta. Con este nuevo parámetro, la función de error arrojó un resultado mejor (el error calculado es menor), lo que indica que el modelo mejoró en sus predicciones.

Lo que acabamos de hacer fue sencillo, pero altamente funcional: al encontrar el gradiente (la derivada), multiplicamos este por la tasa de aprendizaje y lo restamos al parámetro, lo cual nos dio un parámetro optimizado que mejoró las capacidades del modelo.

Continuemos con las siguientes dos iteraciones de manera resumida.

Iteración 2

Se calcula el gradiente:

\nabla L(\theta^{(1)}) = -\frac{1}{2} \left[1(2 - 0.5) + 2(4 - 1)\right] = -\frac{1}{2}(1.5 + 6) = -3.75\tag{3.91}

Se actualiza el parámetro \theta:

\theta^{(2)} = \theta^{(1)} - \gamma \cdot \nabla L(\theta^{(1)}) = 0.5 + 0.375 = 0.875\tag{3.92}

El error antes de aplicar el descenso de gradiente:

L(\theta^{(1)}) = 2.8125\tag{3.93}

El error después de aplicar el descenso de gradiente:

L(\theta^{(2)}) = \frac{1}{4} \left[(2 - 0.875)^2 + (4 - 1.75)^2\right] = \frac{1}{4}(1.2656 + 5.0625) = \frac{6.3281}{4} \approx 1.582 \\\tag{3.94}

Iteración 3

Se calcula el gradiente:

\nabla L(\theta^{(2)}) = -\frac{1}{2} \left[1(2 - 0.875) + 2(4 - 1.75)\right] = -\frac{1}{2}(1.125 + 4.5) = -2.8125
\tag{3.95}

Se actualiza el parámetro \theta:

\theta^{(3)} = \theta^{(2)} - \gamma \cdot \nabla L(\theta^{(2)}) = 0.875 + 0.28125 = 1.15625\tag{3.96}

El error antes de aplicar el descenso de gradiente:

L(\theta^{(2)}) \approx 1.582\tag{3.97}

El error después de aplicar el descenso de gradiente:

\begin{align}
L(\theta^{(3)}) &= \frac{1}{4} \left[(2 - 1.15625)^2 + (4 - 2.3125)^2\right] \tag{3.98} \\
                &= \frac{1}{4}(0.710 + 2.859) = \frac{3.569}{4} \approx 0.892 \tag{3.99}
\end{align}

Se puede notar que en cada iteración, la función de pérdida disminuye, por lo que hemos encontrado mejores versiones del modelo al modificar el parámetro con descenso de gradiente. En la tabla se puede ver la evolución de los resultados:

Es así como evidenciamos el mecanismo interno del descenso de gradiente para optimizar modelos. En lo que concierne a una aplicación de esto a modelos multivariables, solo se aplica la misma actualización pero a todos los parámetros a la vez.

Es un algoritmo sencillo, por lo que encierra una belleza sutil tras bastidores. Un hechizo simple pero poderoso.

Es momento de utilizarlo con Python.

Descenso de gradiente: estudio con Python

Ahora veremos ejemplos de cómo optimizar un modelo de inteligencia artificial con descenso de gradiente en Python, haremos uso de un nuevo conjunto de datos, para lo cual generaremos un modelo con un nuevo propósito.

También puedes previsualizarlo aquí:

Aquí finalizamos nuestro encuentro con el descenso de gradiente. Hemos aprendido cómo funciona, cuáles son sus mecanismos internos, y cómo lo podemos utilizar para entrenar modelos de aprendizaje automático.

En nuestra próxima lección continuaremos con algoritmos de optimización, y exploraremos de qué trata la versión más típica del descenso de gradiente: el descenso de gradiente estocástico.

Este par de situaciones son muy comunes a la hora de modelar datos mediante algoritmos de aprendizaje supervisado. Aquí exploraremos cada uno de estos, describiremos sus causas, consecuencias, diagnóstico, y abordaremos algunos ejemplos de forma teórica y práctica con lenguaje de programación Python.

Inventario recomendado

Regresión lineal

Métricas de evaluación de modelos de regresión

Google Colab

Programación en Python

Algún tentempié

Introducción al sobreajuste y subajuste de modelos de machine learning

Como ya hemos visto durante nuestras dos últimas prácticas para la evaluación de modelos de aprendizaje supervisado (tanto de regresión como de clasificación), existen diferentes formas de medir el desempeño de un modelo cuyos parámetros han sido ajustados mediante algoritmos de machine learning.

Durante la evaluación del modelo resultante, pueden develarse problemas al momento de realizar los cálculos sobre los conjuntos de datos de entrenamiento y prueba. Lo más común es encontrar que, si los modelos no realizan predicciones de manera relativamente aceptable, entonces están sobreajustados o subajustados. ¿A qué nos referimos con esto?

¿Qué es el subajuste de un modelo de machine learning?

Un modelo subajustado es un modelo de aprendizaje de máquinas que no logra capturar o «aprender» correctamente los patrones subyacentes a los datos debido, principalmente, a su simplicidad matemática (del modelo generado) y, por lo tanto, tiene un desempeño deficiente al ser evaluado tanto en el conjunto de datos de entrenamiento como en el de prueba.

Es correcto, sus capacidades predictivas no muestran un rendimiento aceptable al ser utilizado para predecir valores en los conjuntos de datos para su entrenamiento y prueba. Esta es su característica más distintiva.

Para entender mejor cómo funciona esta deficiencia en el ajuste del modelo (el cálculo de sus parámetros) es observando las gráficas de la Figura 3.8.1, donde se observan las formas que dibujan dos modelos que pretenden describir el comportamiento de los datos:

Nótese que la primera figura es una línea recta como la que hemos generado con las regresiones lineales de las prácticas anteriores. A pesar de que la función que dibuja esta línea está optimizada para mantener una distancia promedio corta respecto a cada punto (dato), esta no representa una tendencia muy similar a la que dibujan los datos (que parecen dibujar una especie de curva). Se dice, entonces, que el modelo está subajustado, ya que sus predicciones no son muy precisas al momento de evaluar su desempeño.

En cambio, en la gráfica de la derecha, se han mapeado los valores de una función que genera una forma más ajustada al movimiento de los datos. Esta curva se puede obtener utilizando regresiones polinomiales. El modelo resultante tiene un mejor desempeño en las predicciones.

Una regresión polinomial es una regresión lineal que modela un polinomio de n-ésimo grado. No la utilizaremos mucho, por lo que no ahondaremos en el tema, si deseas saber más puedes revisar la definición en Wikipedia, la cual me ha parecido correcta y concisa, pero no es necesario que lo atiendas. También utilizaremos esto más tarde en nuestra práctica de Python.

Matemáticamente hablando, los modelos de ambos ejemplos (Figura 3.8.1) tienen la siguiente forma:

• Modelo subajustado (regresión lineal):

y = ax + b \tag{3.76}

• Modelo con un mejor ajuste (regresión polinomial de grado 3):

y = ax^3 + bx^2 + cx + d  \tag{3.77}

Hago este énfasis porque la elección del algoritmo utilizado para entrenar el modelo muchas veces es un aspecto clave para un ajuste efectivo de los parámetros. Nótese que los modelos presentados son solo la forma general de estos, donde los valores de los parámetros (a, b, c, d...) son los que se encuentran mediante la etapa de entrenamiento con un algoritmo de aprendizaje supervisado.

Finalmente, hay que tomar en cuenta que las deficiencias características del subajuste se encuentran directamente al medir el rendimiento del modelo en los conjuntos de datos de entrenamiento y prueba; esto es lo que hicimos durante nuestras últimas dos prácticas, en especial en la que corresponde a las métricas de evaluación de modelos de regresión (ya que acabamos de plantear el uso de regresiones lineales).

Hagamos un pequeño ejercicio al respecto, para refrescar nuestra memoria en el tema:

Esto quedará mucho más claro en nuestra práctica con Python, donde veremos ejemplos que analizaremos con métricas de evaluación.

Posibles causas de un modelo subajustado

Las razones por las que un modelo puede sufrir un subajuste pueden ser variadas y depender de los datos y el tipo de algoritmo utilizado para ajustar los parámetros. Sin embargo, estas pueden ser las causas más comunes para un subajuste:

• Modelo demasiado simple: No tiene suficiente capacidad para aprender patrones complejos. Esto se vio en el ejemplo de la Figura 3.8.1, donde un modelo como el que produce una regresión lineal simple (univariada) no es lo mejor en datos con patrones no lineales.
• Falta de datos: No hay suficiente información para aprender relaciones significativas entre las variables de entrada y las salidas, es decir, se requiere de un conjunto de datos más grande.
• Muy pocas características: No se han incluido variables de entrada clave en los datos de entrenamiento. Por ejemplo, si se desea obtener un modelo que sea capaz de predecir la calificación que obtendrá un alumno en un examen, probablemente los datos que pueden aportar información al respecto son: horas de estudio, calificaciones promedio, o estatus social. En cambio, variables que no aportan información relevante pueden ser: nombre del alumno, día de nacimiento, rango en Fortnite, etc.
• Mala selección de hiperparámetros: existen algunos parámetros relativos a los algoritmos utilizados, que veremos más adelante en el curso, que pueden ser decisivos en el ajuste final del modelo, algunos ejemplos son: número de iteraciones, regularización, optimizador, tasa de aprendizaje.

¿Qué es el sobreajuste de un modelo de machine learning?

Un modelo sobreajustado es un modelo obtenido mediante algoritmos de aprendizaje de máquinas cuyo comportamiento se adhiere de manera muy fiel a la tendencia de los datos de entrenamiento, con un ajuste que no solo captura los patrones subyacentes, sino también el ruido y las variaciones irrelevantes.

Esto provoca que el modelo tenga un rendimiento muy aceptable al evaluarse en el conjunto de datos de entrenamiento, pero que sea deficiente al operar sobre datos nuevos (es decir, en el conjunto de datos de prueba, o datos nuevos recolectados), ya que no logra generalizar bien su comportamiento.

A diferencia del subajuste, el sobreajuste ocurre cuando el modelo es demasiado complejo en comparación con la estructura de los datos. Como mencionó Mmerf, en la etapa de entrenamiento su desempeño luce muy bien, pero al evaluarse con los datos de prueba ya no funciona de igual manera.

El efecto del sobreajuste se observa en las gráficas de la Figura 3.8.2:

En este caso, en la primera gráfica yace el modelo que vimos anteriormente, donde los datos pueden ser modelados mediante una curva que decae sutilmente y se ajusta a su comportamiento sin encajar perfectamente en estos, lo que implica que realiza predicciones con pequeños defectos pero cercanas a la tendencia subyacente.

En la figura de la derecha, sin embargo, se visualiza una función que está demasiado ajustada al movimiento de los datos, provocando que se dibuje una figura irregular que intenta abarcar las variaciones de todas las observaciones, aunque estas puedan representar valores atípicos o ruido; obsérvese el último punto, el cual parece ser un valor atípico en el conjunto de datos, y que el modelo traza de manera exacta.

Esto implica que el modelo está sobreajustado, generando una función matemática que predice correctamente solo los valores del conjunto de datos de entrenamiento, pero falla en el conjunto de datos de prueba (no es capaz de realizar estimaciones correctas sobre valores cuya tendencia en realidad es una curva, no un conjunto de valles irregulares, como lo que se ha dibujado en la gráfica de la derecha).

Matemáticamente hablando, los modelos de ambos ejemplos tienen la siguiente forma:

• Modelo con un mejor ajuste (regresión polinomial de grado 3):

y = ax^3 + bx^2 + cx + d

• Modelo sobreajustado (regresión polinomial de grado 15):

y = a_{15}x^{15} + a_{14}x^{14} + \dots + a_2x^2 + a_1x + a_0

De esto se desprende que utilizar modelos de varias dimensiones (variables) y grados altos puede desembocar en un sobreajuste, por lo que es necesario tener cuidado en mantener un balance entre los algoritmos de aprendizaje de máquinas a utilizar y las dimensiones de entrada de los datos.

Las gráficas finales de cada modelo con ajustes diferentes se pueden contemplar en la Figura 3.8.3

Así es, los modelos de clasificación pueden tener los mismos problemas. Para identificarlos se sigue la misma metodología, se realizan las respectivas mediciones de desempeño utilizando métricas de evaluación de modelos de clasificación.

Posibles causas de un modelo sobreajustado

Las razones por las que un modelo puede sufrir sobreajuste, al igual que en el subajuste, pueden ser variadas y dependen principalmente del conjunto de datos y/o de la complejidad del modelo utilizado. A continuación, se presentan algunas de las causas más comunes para un sobreajuste:

• Modelo demasiado complejo: Tiene una gran cantidad de parámetros y variables, lo que le permite aprender incluso el ruido en los datos en lugar de los patrones generales.
• Demasiadas características irrelevantes: Si el modelo tiene muchas variables que no aportan información útil, puede ajustarse demasiado a datos específicos sin realizar generalizaciones correctamente.
• Insuficiente cantidad de datos: Con pocos datos, el modelo puede aprender patrones específicos del conjunto de entrenamiento en lugar de patrones generales.
• Las particiones del conjunto de datos no tienen la misma distribución: Los conjuntos de datos de entrenamiento prueba y/o validación no muestran consistencia en su comportamiento.
• Mala selección de hiperparámetros: Algunos parámetros, como la falta de regularización o arquitectura del algoritmo a utilizar, pueden hacer que el modelo sea demasiado flexible y se adapte al ruido.

Detección de ajuste y sobreajuste de modelos con Python

Es hora de un poco de acción. En la práctica de hoy revisaremos un caso de subajuste y sobreajuste de modelos, realizando diagnósticos con métricas de evaluación.

Puedes previsualizar el contenido aquí:

Hemos concluido uno de los temas más comunes de deficiencias en modelos de aprendizaje de máquinas. Conforme avancemos en esta travesía, experimentaremos formas de identificar y lidiar con estos desperfectos.

A partir de ahora, los temas serán un poco más avanzados y enfocados en la optimización del entrenamiento de modelos, ya que constituyen el preámbulo para la comprensión y práctica de las redes neuronales artificiales.

Justo como hicimos cuando aprendimos sobre métricas para medir el desempeño de modelos de regresión, en esta sesión revisaremos qué métricas cumplen con este objetivo para modelos que categorizan datos, cómo se usan, analizan, e interpretan; todo llevado a la práctica en un caso utilizando Python.

Inventario recomendado

Matemáticas: algo de álgebra, probabilidad y estadística

Fundamentos del aprendizaje supervisado

Regresión logística

Función de pérdida de la regresión logística

Google Colab

Programación en Python

Algún aperitivo

Métricas de evaluación de modelos de clasificación: cuáles y cómo utilizarlas

Recordemos que en aprendizaje supervisado podemos abordar problemas mediante dos tipos de enfoques en cuanto a objetivos de modelos: modelos de regresión y modelos de clasificación.

Los modelos de regresión predicen valores de una variable continua (salida) respecto a los valores de variables con las que está relacionada (entradas). De este tipo de modelos ya hemos trazado cómo evaluar su desempeño al generar predicciones sobre datos nuevos no pertenecientes al conjunto de datos de entrenamiento.

Los modelos de clasificación, por otro lado, tratan sobre funciones que, mediante un análisis de probabilidades, determinan a qué clase pertenece cada dato de entrada de entre un grupo de categorías predefinidas.

Un ejemplo de esto es el caso que hemos desarrollado en la práctica de Python de la regresión logística, en la que se clasificaron canciones de entrada en géneros musicales de acuerdo a sus características. Más adelante veremos cómo utilizar esas mismas clasificaciones para evaluar los modelos con Python, pero hoy trabajaremos con un nuevo ejemplo para explicar cómo determinar las capacidades de clasificación de un modelo de este tipo, las cuales no contemplan ninguna de las métricas vistas en la anterior exploración.

Métricas para evaluar modelos de clasificación

Antes de exponer un nuevo ejemplo, haré mención de las métricas de las que puedes disponer para evaluar modelos de clasificación. Primero, y porque ya las hemos mencionado y estudiado con anterioridad, puedes considerar el uso de funciones de pérdida.

Las funciones de pérdida más comunes para modelos de clasificación son las siguientes:

• Pérdida de entropía cruzada (Cross Entropy Loss).
• Pérdida de entropía cruzada sigmoidea (Sigmoid Cross Entropy Loss).
• Pérdida de entropía cruzada softmax (Softmax Cross Entropy Loss).
• Verosimilitud logarítmica negativa (Negative Log-Likelihood).
• Pérdida 0-1 (0-1 Loss).
• Pérdida de Hinge (Hinge Loss).
• Pérdida Huber modificada (Modified Huber Loss).
• Pérdida de Hinge suavizada (Smooth Hinge Loss).
• Pérdida de Hinge reescalada (Rescaled Hinge Loss).
• Pérdida de rampa (Ramp Loss).
• Error de clasificación mínimo (Minimum Classification Error).
• Pérdida logarítmica (Log Loss).
• Pérdida exponencial (Exponential Loss).
• Pérdida basada en margen (Margin-Based Loss).
• Ranqueo por parejas (Pairwise Ranking).
• Ranqueo por tripleta (Triplet Ranking).
• Pérdida contrastiva (Contrastive Loss).
• Pérdida pinball (Pinball Loss).
• Pérdida pinball truncada (Truncated Pinball Loss).

No, siendo honestos dudo que haya alguien que las conozca y haya aplicado todas, salvo quienes se hayan dedicado específicamente a escribir artículos científicos sobre funciones de pérdida de modelos de clasificación. Solo lo pongo aquí para que sepan que existen.

Mientras menos ignoremos sobre lo que nos especializamos, mejor. Además, deben tener en cuenta que las funciones de pérdida tienen un amplio uso en el entrenamiento de modelos, más que en su evaluación final. Para eso, suelen utilizarse otras métricas, que son las que veremos a continuación.

Además de las funciones de pérdida, entre las cuales ya estudiamos con gran detalle la entropía cruzada, se cuenta con métricas que son mucho más frecuentes en la práctica de la ciencia datos.

Todas estas parten de la organización de los resultados en algo que se conoce como matriz de confusión. Es un concepto clave en ciencia de datos que debemos conocer.

Matriz de confusión para evaluar modelos de clasificación

La matriz de confusión es una herramienta típica para la evaluación de modelos que realizan clasificaciones binarias. De forma más específica, la matriz de confusión es una matriz de dos dimensiones utilizada para evaluar sistemas de clasificación mostrando la cantidad de datos correcta e incorrectamente categorizados.

Vamos a revisar con detalle cómo luce y cómo se utiliza, pero para entenderla de forma concreta, antes debemos definir los elementos que la componen.

Componentes de la matriz de confusión

Una matriz de confusión está conformada por los valores de las clasificaciones binarias (de dos clases) realizadas por un modelo entrenado. Se distinguen dos tipos:

• El modelo predice que un dato pertenece a la clase 0 (que también llamaremos clase <<negativa>>).
• El modelo predice que un dato pertenece a la clase 1 (que también llamaremos clase <<positiva>>).

Teniendo esto en cuenta, en la matriz de confusión se utilizan este par de clasificaciones y se dibujan los siguientes casos de acuerdo a los aciertos o errores del modelo:

• El modelo predice que un dato pertenece a una clase 1 (positiva), y su predicción es correcta.
• El modelo predice que un dato pertenece a una clase 1 (positiva), pero en realidad pertenece a la clase 0 (negativa), por lo que su predicción es incorrecta.
• El modelo predice que un dato pertenece a una clase 0 (negativa), y su predicción es correcta.
• El modelo predice que un dato pertenece a una clase 0 (negativa), pero en realidad pertenece a la clase 1 (positiva), por lo que su predicción es incorrecta.

Así es, y cada uno de estos casos tiene un nombre, vamos a revisarlos, definirlos, y compararlos con ejemplos.

Ejemplo de evaluación de modelo clasificación con matriz de confusión

Para el estudio de la matriz de confusión, vamos a plantear un caso típico en el que entrenamos un modelo para clasificar reseñas de películas en <<positivas>> y <<negativas>>.

Las entradas del modelo (el conjunto de datos) son reseñas de películas, por ejemplo:

Esta es una reseña de película que se considera positiva, ya que elogia a la obra.

Sin embargo, podemos tener entradas de este otro tipo:

En esta otra reseña podemos notar una intención comunicativa diferente, en la que la película no es del agrado del crítico, y por lo tanto se considera negativa.

El objetivo de utilizar un algoritmo de aprendizaje automático para procesar esta información, es entrenar un modelo que, dada una nueva reseña, la clasifique como positiva o negativa.

Por ahora necesito saber, con los conocimientos que tenemos hasta esta parte de nuestras exploraciones, ¿qué tanto me puedes decir sobre esta tarea de ciencia de datos?

Entonces, podemos distinguir los siguientes elementos en este proyecto de machine learning:

• Conjunto de datos: está compuesto por reseñas positivas y negativas de películas. Los datos son fragmentos de texto, por lo que son datos no estructurados, de tipo cualitativo. Además, los datos están etiquetados, señalando cuáles reseñas son positivas y cuáles negativas.
• Objetivo: entrenar un modelo de machine learning que clasifique reseñas en positivas o negativas.
• Algoritmo a utilizar: algún algoritmo de aprendizaje supervisado de clasificación, como la regresión logística.

Ahora que conocemos el caso de estudio, prosigamos con la definición de los componentes de la matriz de confusión.

Tipos de falsos y verdaderos de la matriz de confusión

Revisemos ahora los casos que se toman en cuenta en una matriz de confusión y dan vida a las métricas para evaluar modelos de clasificación.

Verdadero Positivo (VP)

Un verdadero positivo es una entrada que el modelo ha clasificado correctamente como positiva.

Nuestro modelo de clasificación de reseñas de películas se ha entrenado determinando que la clase positiva es 1, por lo tanto, un verdadero positivo significa que se ha entregado al modelo una reseña positiva y este la ha clasificado correctamente en esta categoría.

Verdadero Negativo (VN)

Un verdadero negativo es una entrada que el modelo ha clasificado correctamente como negativa.

Dado que la clase negativa es 0, un verdadero negativo generado por el modelo de clasificación de reseñas sucede cuando se le entrega una reseña negativa y la clasifica correctamente.

Falso Positivo (FP)

Un falso positivo es un caso en el que modelo clasifica incorrectamente una entrada que pertenece a la clase negativa. En estadística también se le conoce como error Tipo I.

En nuestro ejemplo, un falso positivo se da cuando se le entrega al modelo clasificador una reseña negativa, y este la categoriza como reseña positiva.

Falso Negativo (FN)

Un falso negativo se da cuando el modelo ha clasificado de forma errónea una entrada que es de la clase positiva, asignándola como negativo. En estadística también se le conoce como error Tipo II.

En nuestro ejemplo, un falso negativo se da cuando se le entrega al modelo clasificador una reseña positiva, y este la categoriza como reseña negativa.

Estos son los diferentes casos que componen a la matriz de confusión, los verdaderos positivos y negativos (VP y VN) y los falsos positivos y negativos (FP Y FN) son lo que se utilizan para obtener métricas de evaluación de modelos de clasificación.

Volvamos a la matriz de confusión.

Estructura de la Matriz de Confusión

La matriz de confusión es una herramienta para la evaluación de modelos de clasificación organizando la cantidad de clasificaciones binarias correctas e incorrectas en una matriz de dos dimensiones, como se muestra en la Figura 3.7.3:

Donde, como ya vimos antes:

• VN y VP son verdaderos positivos y negativos, ese decir, las clasificaciones realizadas correctamente.
• FN y FP son falsos positivos y negativos, ese decir, las clasificaciones realizadas incorrectamente.
• Nótese que la diagonal de la matriz (VN y VP) muestra las predicciones correctas.
• De forma inversa, los elementos fuera de la diagonal (FP y FN) muestran las predicciones incorrectas.

Con esto debería quedar claro cómo está compuesta una matriz de confusión. Se trata simplemente del arreglo de los resultados de utilizar el modelo de clasificación en el conjunto de datos de prueba: se registran los errores y aciertos, y se categorizan como verdaderos o falsos respecto a cada clase (como es clasificación binaria, estas se consideran como negativa y positiva).

Por fin podemos hablar de las métricas que se derivan de estos valores.

Utilizando los resultados de una matriz de confusión, se pueden derivar las siguientes medidas para evaluar modelos de clasificación:

• Exactitud (Accuracy).
• Precisión (Precision).
• Sensibilidad (Recall, Sensitivity).
• Puntaje F1 (F1 Score).
• Curvas ROC y AUC.
• Tasa de falsos positivos (False Positive Rate).
• Tasa de falsos negativos (False Negative Rate).
• Tasa de falsas omisiones (False Omission Rate).
• Prevalencia (Prevalence).
• Valor predictivo negativo (Negative Predictive Value).
• Marcación (Markedness).
• Razón de probabilidades diagnóstica (Diagnostic Odds Ratio).
• Coeficiente de correlación de Matthews (Matthews Correlation Coefficient).
• Puntuación de amenaza, índice de éxito crítico, índice de Jaccard (Threat Score, Critical Success Index, Jaccard Index).
• Umbral de prevalencia (Prevalence Threshold).
• Exactitud balanceada (Balanced Accuracy).
• Índice de Fowlkes-Mallows (Fowlkes-Mallows Index).
• Razón de verosimilitud positiva (Positive Likelihood Ratio).
• Razón de verosimilitud negativa (Negative Likelihood Ratio).
• Información (Informedness).

Si te preguntas cómo es que se obtienen estas métricas de una matriz de confusión, lo veremos más adelante en esta exploración.

Sí, son demasiadas, pero de entre estas se suelen usar solo un subconjunto relativamente pequeño.

Estas son las métricas de evaluación de modelos de clasificación más utilizadas:

• Exactitud.
• Precisión.
• Sensibilidad.
• Puntaje F1.
• Pérdida de entropía cruzada.

Y con esto llegamos a las medidas que estaremos conociendo y poniendo a prueba aquí. Tenemos cuatro métricas derivadas de la matriz de confusión, y una obtenida por función de pérdida (entropía cruzada). Estas son de bastante utilidad para la evaluación de modelos de clasificación.

Para entenderlo mejor, lo desarrollaremos y veremos aplicado a nuestro caso de estudio de clasificación de reseñas.

Ejemplo de evaluación de modelo de machine learning con métricas de la matriz de confusión

Supondremos que hemos entrenado un modelo de aprendizaje supervisado para la categorización de reseñas de películas, y lo hemos utilizado sobre un conjunto de datos de prueba, donde obtuvimos los siguientes resultados:

• Verdaderos Positivos (VP): 90 reseñas positivas fueron clasificadas correctamente como positivas.
• Verdaderos Negativos (VN): 80 reseñas negativas fueron clasificadas correctamente como negativas.
• Falsos Positivos (FP): 20 reseñas negativas fueron clasificadas incorrectamente como positivas.
• Falsos Negativos (FN): 10 reseñas positivas fueron clasificadas incorrectamente como negativas.

Ahora organizamos esta información en la matriz de confusión:

Compara esta matriz con la de la imagen Figura 3.7.3 y podrás notar cómo es que se han realizado los acomodos de las cifras obtenidas.

Métricas Derivadas de la Matriz de Confusión

Con lo que hemos visto hasta ahora basta para poder aprender sobre métricas de evaluación de modelos de clasificación, para lo cual se utilizan los valores organizados en la matriz de confusión, y se calculan mediante fórmulas sencillas.

Exactitud (Accuracy)

La exactitud es una métrica que mide la proporción de clasificaciones correctas entre todas las clasificaciones realizadas. Se calcula con la siguiente fórmula:

\text{Exactitud} = \frac{VP + VN}{VP + VN + FP + FN}, \tag{3.69}

donde VP, VN, FP y FN son los valores de la matriz de confusión revisados en la sección anterior. Esta fórmula es bastante simple, consiste en sumar las predicciones correctas (VP y VN) y dividirlas entre todas las demás, por lo que arroja una proporción de los datos correctamente clasificados por el modelo.

Aquí haremos una breve pausa para revisar un término de importancia medular. Para interpretar correctamente esta métrica y las subsecuentes, debemos tener en cuenta un tipo de estructura que puede presentar un conjunto de datos: datos desbalanceados.

Influencia de datos desbalanceados en métricas de rendimiento

Como vimos en la exploración pasada, los datos desbalanceados es una propiedad de un conjunto de datos en el que las categorías (datos de salida objetivo para el entrenamiento de un modelo de clasificación) no están repartidas de manera equitativa. Esto significa que una o más clases tienen significativamente más ejemplos de entrenamiento que otras.

Para ilustrarlo, recordemos que tenemos datos etiquetados, donde, en el caso de las tareas de clasificación, se designan clases a cada uno de los ejemplos de entrenamiento. Sin embargo, estos datos pueden llegar a estar desproporcionados (desbalanceados). Un ejemplo se puede observar en la Figura 3.7.4:

Pongamos otro ejemplo: se podrían tener 200 datos etiquetados con la clase 1, y solo 10 datos etiquetados con la clase 0. Esto significa que no se tiene una proporción igual entre datos que pertenecen a ambas clases (5% de los datos de una clase, y 95% de otra clase).

Esto puede llegar a generar confusión, ya que un modelo podría acertar en predecir todas las clases de tipo 1 y fallar en todas las clases de tipo 0, pero aun así, si calculamos su exactitud como se hace en la Ecuación (3.69), su precisión sería del 95%, porque las clases están desbalanceadas. Sin embargo, como en realidad no ha logrado clasificar correctamente ningún dato en la clase 0, se podría concluir que en realidad es 50% efectiva, lo cual lo hace un modelo poco eficiente.

Este tema de datos desbalanceados es algo que se debe tener en cuenta al evaluar modelos de clasificación. En una ocasión futura, veremos técnicas para lidiar con esto desde el preprocesamiento de datos.

Interpretación de la exactitud

Ahora sí, volvamos con la métrica de Exactitud, y expliquemos como se interpreta. Esta mide la proporción de predicciones correctas realizadas por un modelo en relación con el total de predicciones. Es decir, evalúa qué tan bien el modelo clasificó correctamente tanto los casos positivos como los negativos en un conjunto de datos.

Los resultados de esta métrica se interpretan como sigue:

• Exactitud alta (valores cercanos a 1): Indican que el modelo tuvo un alto porcentaje de predicciones correctas.
• Exactitud baja (valores cercanos a 0): Indican un bajo desempeño del modelo, es decir, muchas predicciones incorrectas.

Limitaciones en cuanto a datos desbalanceados:

• En conjuntos de datos con clases desbalanceadas (por ejemplo, como ya hemos visto, donde los datos positivos son muy pocos en comparación con los negativos), la exactitud puede ser engañosa. Un modelo podría obtener una alta exactitud simplemente prediciendo siempre la clase con mayor predominancia. En estos casos, es mejor considerar métricas adicionales como la precisión, la sensibilidad (recall) o la métrica F1, que veremos a continuación.

Ejemplo de cálculo e interpretación de la exactitud

Ahora calcularemos la exactitud del modelo clasificador de reseñas. De acuerdo a los valores de la matriz mostrados en la Tabla 3.7.1 y a la fórmula de la Ecuación (3.69), se calcula como sigue.

\text{Exactitud} = \frac{VP + VN}{VP + VN + FP + FN} = \frac{90 + 80}{90 + 80 + 20 + 10} = \frac{170}{200} = 0.85 \tag{3.70}

Esto implica que el modelo tiene una exactitud del 85%, es decir, el modelo clasifica correctamente el 85% de las reseñas de películas. Es una buena métrica general, pero puede ser engañosa si las clases están desbalanceadas (no es el caso en nuestro ejemplo).

Precisión (Precision)

La precisión es una métrica que mide la proporción de clasificaciones de la clase positiva que se han hecho correctamente entre todos los datos pertenecientes a la clase positiva. Se calcula con la siguiente fórmula:

\text{Precisión} = \frac{VP}{VP + FP}. \tag{3.71}

Nótese que esta fórmula solo considera los positivos, tanto los aciertos como los errores. Quiere decir que refleja el porcentaje de datos correctamente clasificados para la clase 1 (positiva).

Interpretación de la precisión

Los resultados de la precisión se interpretan de la siguiente manera:

• Precisión alta (valores cercanos a 1): Significa que la mayoría de las predicciones positivas del modelo son correctas. Es decir, el modelo tiene pocos falsos positivos. Es importante en escenarios donde los falsos positivos son costosos o críticos, como en el diagnóstico médico.
• Precisión baja (valores cercanos a 0): Indica que el modelo realiza muchas predicciones positivas incorrectas, lo que sugiere un número elevado de falsos positivos.

Cálculo e interpretación en el ejemplo propuesto

Calcularemos la precisión del modelo clasificador de reseñas:

\text{Precisión} = \frac{VP}{VP + FP} = \frac{90}{90 + 20} = \frac{90}{110} \approx 0.818 \tag{3.72}

La precisión es aproximadamente 81.8%, lo que significa que de todas las reseñas clasificadas como positivas, el 81.8% realmente son positivas.

Sensibilidad o Exhaustividad (Recall)

La sensibilidad o exhaustividad es una métrica que mide el porcentaje de casos positivos correctamente identificados como positivos, considerando también aquellos positivos mal clasificados. Se calcula con la siguiente fórmula:

\text{Sensibilidad} = \frac{VP}{VP + FN} \tag{3.73}

Esta fórmula se diferencia de la precisión porque considera a los falsos negativos (FN), lo cual sucede porque su objetivo principal es medir la capacidad del modelo para identificar correctamente los casos positivos. Los falsos negativos representan los casos positivos que el modelo no logró detectar, por lo que son fundamentales para evaluar esta métrica. Si el modelo tiene un número alto de falsos negativos, significa que está fallando en detectar una gran cantidad de casos positivos. Esto reduce el valor de la Exhaustividad, indicando un desempeño deficiente en la detección de la clase positiva.

Interpretación de la sensibilidad

Los resultados de la sensibilidad se interpretan de la siguiente manera:

• Exhaustividad alta (valores cercanos a 1): El modelo es muy efectivo detectando los casos positivos. Es decir, tiene pocos falsos negativos. Esta métrica es ideal en escenarios donde es crucial no pasar por alto falsos negativos.
• Exhaustividad baja (valores cercanos a 0): Indica que el modelo falla al identificar muchos casos positivos, generando un alto número de falsos negativos.

Cálculo e interpretación en el ejemplo propuesto

Calcularemos la sensibilidad del modelo clasificador de reseñas:

\text{Sensibilidad} = \frac{VP}{VP + FN} = \frac{90}{90 + 10} = \frac{90}{100} = 0.9
 \tag{3.74}

La sensibilidad obtenida es del 90%, lo que indica que nuestro modelo detecta correctamente el 90% de las reseñas positivas. Esta métrica es útil cuando queremos reducir los falsos negativos, priorizando que la mayoría de las reseñas positivas se clasifiquen correctamente.

Casi, pero tienen una pequeña/gran diferencia. Creo que esto se puede prestar a malinterpretaciones, así que revisemos con un poco más de detalle.

Diferencia entre Precisión (precision) y Sensibilidad (recall) | Opcional

La precisión y la sensibilidad son métricas que calculan proporciones de verdaderos positivos, pero no sobre el mismo grupo de información. Considérese lo siguiente:

• La precisión se obtiene dividiendo los verdaderos positivos entre la suma de verdaderos positivos y falsos positivos (Ecuación 3.71). Recordemos que un falso positivo es una predicción errónea, lo cual significa que es un valor de la clase negativa (el modelo la asignó a la clase positiva, pero no acertó). Esto quiere decir que la precisión está obteniendo el porcentaje de predicciones correctas de la clase positiva entre las predicciones correctas e incorrectas de verdaderos positivos. Por lo tanto, un alto valor de precisión indica que el valor de los falsos positivos es bajo, y el modelo está clasificando datos correctamente en la clase positiva, entre otras palabras: de todas las predicciones positivas que hizo el modelo, cuántas son correctas.
• Por otro lado, la sensibilidad es la proporción de verdaderos positivos entre la suma de verdaderos positivos y falsos negativos (Ecuación 3.73). Los falsos negativos son valores que el modelo clasificó incorrectamente, que en realidad eran positivos, pero se clasificaron como negativos. Esto significa que la sensibilidad toma en cuenta no solo los datos que el modelo asignó a la clase positiva, sino también los positivos que quedaron asignados a la clasificación incorrecta. Esto se traduce en que se calcula cuántos datos de la clase positiva fueron detectados entre todos los que corresponden realmente a este.

¿Te parece un poco embrolloso?, lo resumiremos de esta forma:

• La precisión prioriza la minimización de los falsos positivos. Si necesitas que estos sean menores, utiliza esta métrica para ajustar los parámetros de tu modelo. Un ejemplo típico de esto es el diagnóstico médico, ya que un falso positivo se puede traducir en predecir incorrectamente una enfermedad (el positivo indica que el paciente está enfermo, por lo tanto, un falso positivo es un paciente mal diagnosticado con una enfermedad que no tiene), por lo que minimizar falsos positivos evita tratamientos innecesarios.
• La sensibilidad minimiza los falsos negativos. Si la prioridad es que el modelo no de por alto estos casos, esta métrica es la indicada para realizar ajustes. Un ejemplo de esto es la detección de fraudes, donde un valor negativo indica que una transacción no es un fraude; imagina que el modelo predice de forma errónea que una transacción fraudulenta no es un fraude, esto implicaría pérdidas monetarias.

Ahora mucho más resumido:

La importancia de la precisión o sensibilidad depende del contexto:

• Priorizar precisión: Si es crucial minimizar los falsos positivos.
• Priorizar sensibilidad/recall: Si es crucial minimizar los falsos negativos.

Puntuación F1 (F1 Score)

Por último, el puntaje F1 es una métrica que combina la precisión y el recall en un único valor que equilibra ambas métricas. Es especialmente útil cuando se desea un balance entre precisión y sensibilidad.

 \text{F1} = 2 \times \frac{\text{Precisión} \times \text{Exhaustividad}}{\text{Precisión} + \text{Exhaustividad}}
 \tag{3.75}

Interpretación del puntaje F1

Los resultados de F1 se interpretan de la siguiente manera:

• F1 alto (valores cercanos a 1): Indica que el modelo tiene un buen equilibrio entre precisión y sensibilidad (recall). Es decir, detecta correctamente la mayoría de los positivos reales (alta sensibilidad) y sus predicciones positivas son confiables (alta precisión).
• F1 bajo (valores cercanos a 0): Refleja un desempeño pobre del modelo, ya sea porque tiene baja precisión (muchos falsos positivos), baja sensibilidad (muchos falsos negativos), o ambos.

El F1-Score es especialmente útil en escenarios donde:

• Hay un desequilibrio en las clases (una clase es mucho más frecuente que otra).
• Es importante un balance entre precisión y recall.
• Los falsos positivos y falsos negativos tienen un costo similar, y no se puede priorizar una métrica sobre la otra.

F1 es un mediador entre sensibilidad y precisión.

Cálculo e interpretación en el ejemplo propuesto

Calcularemos el puntaje F1 del modelo clasificador de reseñas:

\begin{aligned}
F1 &= 2 \cdot \frac{\text{Precisión} \cdot \text{Sensibilidad}}{\text{Precisión} + \text{Sensibilidad}} \\
   &= 2 \cdot \frac{0.8181 \cdot 0.9}{0.8181 + 0.9} \\
   &= 2 \cdot \frac{0.7363}{1.7181} \\
   &= 2 \cdot 0.4286 \\
   &= 0.8571
\end{aligned}

El F1-Score obtenido es de aproximadamente 0.85, lo que indica que el modelo tiene un buen equilibrio entre precisión (0.81) y recall (0.90). Esto significa que:

• Aunque hay algunos falsos positivos, la mayoría de las predicciones positivas son correctas (precisión moderadamente alta).
• El modelo es capaz de identificar correctamente una gran cantidad de reseñas positivas (recall/sensibilidad alta).

Nota sobre las métricas de la matriz de confusión

Las métricas antes expuestas, derivadas de la matriz de confusión, son muy variadas, pero la mayoría son poco conocidas. Esto es porque solo se suelen utilizar las que mencioné en la última lista. Sin embargo, como seguro ya saben, para mí es importante que tengan el conocimiento de todo el abanico de posibilidades que tienen a su disposición para evaluar modelos.

Una buena síntesis gráfica de estas medidas es la que se muestra en la Figura 3.7.5, donde se puede observar la relación que existe entre las métricas y los valores predichos y reales.

Esta imagen está en inglés porque proviene de Wikipedia en inglés, y la traducción automática al español me pareció imprecisa. Creo que tiene una organización que vale la pena revisar.

Que en este caso, son estas:

1.  Fawcett, Tom (2006). «An Introduction to ROC Analysis» (PDF). Pattern Recognition Letters. 27 (8): 861–874. doi:10.1016/j.patrec.2005.10.010. S2CID 2027090.
2. Provost, Foster; Tom Fawcett (2013-08-01). «Data Science for Business: What You Need to Know about Data Mining and Data-Analytic Thinking». O’Reilly Media, Inc.
3. Powers, David M. W. (2011). «Evaluation: From Precision, Recall and F-Measure to ROC, Informedness, Markedness & Correlation». Journal of Machine Learning Technologies. 2 (1): 37–63.
4. Ting, Kai Ming (2011). Sammut, Claude; Webb, Geoffrey I. (eds.). Encyclopedia of machine learning. Springer. doi:10.1007/978-0-387-30164-8. ISBN 978-0-387-30164-8.
5. Brooks, Harold; Brown, Barb; Ebert, Beth; Ferro, Chris; Jolliffe, Ian; Koh, Tieh-Yong; Roebber, Paul; Stephenson, David (2015-01-26). «WWRP/WGNE Joint Working Group on Forecast Verification Research». Collaboration for Australian Weather and Climate Research. World Meteorological Organisation. Retrieved 2019-07-17.
6. Chicco D, Jurman G (January 2020). «The advantages of the Matthews correlation coefficient (MCC) over F1 score and accuracy in binary classification evaluation». BMC Genomics. 21 (1): 6-1–6-13. doi:10.1186/s12864-019-6413-7. PMC 6941312. PMID 31898477.
7. Chicco D, Toetsch N, Jurman G (February 2021). «The Matthews correlation coefficient (MCC) is more reliable than balanced accuracy, bookmaker informedness, and markedness in two-class confusion matrix evaluation». BioData Mining. 14 (13): 13. doi:10.1186/s13040-021-00244-z. PMC 7863449. PMID 33541410.
8. Tharwat A. (August 2018). «Classification assessment methods». Applied Computing and Informatics. 17: 168–192. doi:10.1016/j.aci.2018.08.003.

En fin, solo estoy divagando de nuevo. Volvamos a donde estábamos.

Métricas de evaluación de modelos de clasificación con Python

Pasemos al campo de batalla. En esta práctica calcularemos medidas de evaluación de los modelos de clasificación que trabajamos en la introducción a la regresión logística, y haremos el análisis de los resultados, para derivar las conclusiones correspondientes.

Puedes previsualizar el contenido aquí:

Así concluye esta (un poco) larga sesión. Estas métricas las verás varias veces a lo largo de tu carrera, es por eso que le hemos dedicado especial detalle. En la siguiente aventura hablaremos sobre el subajuste y sobreajuste de modelos de machine learning, otro tópico altamente relevante para la ciencia de datos.

Cuando se trata de este tema, lo más convencional es iniciar su estudio utilizando como referencia las funciones de costo para algoritmos de regresión, como es el caso del error cuadrático medio (MSE). Sin embargo, es importante conocer cómo opera una función de pérdida para algoritmos de clasificación, para lo cual invocaremos y estudiaremos la función de error utilizada para la optimización de parámetros en la regresión logística y otros algoritmos de modelos de clasificación: la función de entropía cruzada binaria.

Inventario recomendado

Matemáticas

Álgebra y funciones.

Regresión logística

Funciones de pérdida

Algún acompañamiento

Función de pérdida logística

Una función de pérdida que se puede utilizar para la evaluación de modelos de regresión logística, y en general de diversos modelos de clasificación de dos clases, es la función de entropía cruzada binaria (Cross-Entropy), también conocida como función de pérdida logística (Log-Loss). Su objetivo es determinar la cercanía de los cálculos de probabilidad dados por un modelo clasificador respecto a los valores del terreno real (aquellos pertenecientes al conjunto de datos recolectados). Es decir, determina qué tan bien realiza clasificaciones el modelo ajustado durante la etapa de entrenamiento.

La función de pérdida logística opera de forma similar a las funciones de costo de modelos de regresión que vimos anteriormente, pero con unas pequeñas diferencias que examinaremos a continuación.

Funcionamiento de la Entropía Cruzada Binaria

La manera en la que se determinan las pérdidas o errores en la función de entropía cruzada es mediante la determinación de qué tan lejanas se encuentran las probabilidades calculadas para determinadas clases.

Para esto debemos recordar que las salidas de un modelo clasificador como la función logística son probabilidades condicionales que nos dicen lo siguiente: ¿cuál es la probabilidad de que un dato de entrada pertenezca a una clase específica?

Al obtener estas probabilidades con el modelo ajustado, la función de pérdida logística obtiene las diferencias entre las probabilidades y las clases binarias (1 y 0).

Lo desarrollaremos en un ejemplo para comprenderlo mejor.

Ejemplo de función de pérdida logística

Para ilustrar el cálculo de los errores en un modelo clasificador, utilizaremos un ejemplo parecido al que trabajamos para abordar la regresión lineal, en el que trabajamos con un conjunto de datos de horas de estudio y calificaciones obtenidas.

Haremos algo muy similar, pero tornando el enfoque de un problema de regresión a uno de clasificación.

El objetivo será el siguiente: determinar si un alumno logra pasar o no un examen de acuerdo con sus horas de estudio.

Supongamos que la siguiente tabla es parte de nuestros datos:

En los datos mostrados en la tabla se observa cómo para diferentes cantidades de horas de estudio dedicadas se aprueba o no el examen, lo cual genera dos clases, donde 0 significa que el estudiante no pasó el examen, y 1 significa que sí lo aprobó.

La relación entre las dos clases (variable dependiente) y las horas de estudio (variable independiente) la modelaremos realizando una regresión logística sobre la información dada.

Supongamos que hemos entrenado el modelo, y realizamos predicciones para cada dato mostrado en la tabla. Para obtener la pérdida total se realizan operaciones de comparación entre las salidas y observaciones del terreno real y las probabilidades calculadas. Estos cálculos los veremos de forma mucho más detallada en la sección de matemáticas, por el momento, la Figura 3.5.1, la cual es una versión ligeramente modificada de la Figura 3.4.1 perteneciente a nuestro último recorrido, ilustra el proceso de forma simplificada:

Como se puede observar, a diferencia de la función de pérdida que utilizamos para una regresión lineal, en este caso se obtienen las diferencias entre las probabilidades calculadas por el modelo (que están en el rango de 0 a 1) y las clases binarias (que, como sabemos, son 0 o 1).

Al final, estas diferencias se agregan y se obtiene un promedio (la pérdida total).

El cálculo de estos costos o pérdidas depende del uso de una fórmula que no se explicará aquí. Esta genera un número que expresa las diferencias entre las probabilidades calculadas por el modelo, y las etiquetas del terreno real, pero estas diferencias no se calculan directamente, son reexpresadas mediante un proceso matemático que se aprenderá en el siguiente apartado.

Por el momento, ilustraremos los pasos para la obtención de pérdida total logística en 4 puntos.

1. Primero, necesitamos calcular las pérdidas individuales utilizando la función de pérdida logística. Esta es la fórmula de la que te he hablado. Supondremos que hemos obtenido las pérdidas asociadas y las organizamos en una columna nueva:

2. Ahora, obtenemos la suma de estas pérdidas:

Suma de las pérdidas individuales: 2.987

3. Y, por último, calculamos el promedio:

Pérdida total: 2.987/6=0.49

El criterio a seguir para interpretar el resultado de la función de pérdida logística es el mismo que el que se tiene para la función de MSE:

• Valor de pérdida cercano a 0: Un valor bajo de pérdida logística indica que el modelo está haciendo buenas predicciones, es decir, las probabilidades predichas están cerca de las etiquetas reales.
• Valor de pérdida cercano a 1: Un valor alto de log-loss (pérdida logística) indica que el modelo está haciendo predicciones deficientes: las probabilidades predichas están lejos de las etiquetas reales.

Al haber obtenido un valor de pérdida de 0.49 en un conjunto con valores de entrada que van desde 1 a 6, podemos concluir que el modelo ajustado es eficiente al realizar las inferencias de clasificación para las que fue entrenado.

Definición matemática de la función de entropía cruzada binaria

Como vimos en la sección de matemáticas de la regresión logística, esta función modela la probabilidad de que una entrada x_n pertenezca a una clase particular y_n \in {0, 1} . La función de probabilidad para y_n = 1 dada una entrada x_n y los parámetros \theta está dada por:

\begin{aligned} \sigma(x) = p(y_n = 1 | x_n, \theta) = \frac{1}{1 + e^{-(\theta_0 + \sum_{i=1}^D \theta_i x_n^i)}}, \tag{3.28} \end{aligned}

Donde \sigma(x) es la función sigmoide.

Definición (3.11) Función de entropía cruzada binaria. Sea \mathcal{D} = \lbrace (x_{1},y_{1}),…,(x_{N},y_{N})\rbrace un conjunto de N datos etiquetados, y \sigma(x) una función sigmoide como la definida en la Ecuación (3.28) que pretende mapear los valores de cada entrada x_n a su respectiva salida y_n, la función de pérdida de entropía cruzada es una función que mapea un conjunto de valores de ejemplos de entrenamiento a un número real, y está definida como sigue:

\begin{aligned} L(\mathcal{Y}, \mathcal{\hat{Y}})) = \frac{1}{N} \sum_{n=1}^N l(y_n, \sigma(x_n)) \end{aligned}, \tag{3.44}

donde \mathcal{\hat{Y}} es el conjunto de todas las predicciones realizadas con el modelo \sigma(x) , y l es la función de pérdidas individuales definida como sigue:

\begin{aligned} l(y, \sigma(x)) = -[y \log(\sigma(x)) + (1 - y) \log(1 - \sigma(x))] \end{aligned}, \tag{3.45}

la cual obtiene las diferencias entre las probabilidades predichas y sus clases correspondientes en el conjunto de datos.

Te doy un momento para pensarlo

De acuerdo con la estructura de funciones de pérdida revisada en la anterior exploración, se pueden identificar los siguientes componentes:

• Agregador de pérdidas: \frac{1}{N} \sum_{i=1}^N
• Función de pérdidas individuales: -[y \log(\sigma(x)) + (1 - y) \log(1 - \sigma(x))]

A continuación, desarrollaremos con detalle cómo se llega a la forma final de esta función, y qué operaciones definen su utilidad.

Fundamentos matemáticos de la función de pérdida de la regresión logística

Volveremos a invocar (una vez más) la expresión (3.28), la cual es el modelo resultante de la regresión logística, y que nos arroja el cálculo de la probabilidad de que un dato de entrada x_n parametrizado por \theta pertenezca a la clase y_n = 1 :

\begin{equation} p(y_n = 1 | x_n, \theta) = \sigma(x_n) = \frac{1}{1 + e^{-(\theta_0 + \sum_{i=1}^D \theta_i x_n^i)}}. \tag{3.28} \end{equation}

La razón por la cual estoy mostrando de nuevo esta ecuación, es porque la utilizaremos, pero ahora para expresar la ecuación para obtener la probabilidad de que y_n = 0 | x_n, \theta , es decir, de que la etiqueta sea igual a 0 dado el valor de la entrada x_n y sus características, en vez de obtener la probabilidad condicional de que y_n = 1 | x_n, \theta , como se ha mostrado anteriormente.

Considerando que p(y_n = 1 | x_n, \theta) = \sigma(x_n), tenemos que

\begin{equation} p(y_n = 0 | x_n, \theta) = 1 - \sigma(x_n), \tag{3.46} \end{equation}

lo cual no es más que el complemento de la probabilidad, donde 1-(probabilidad de que el dato pertenezca a la clase 1), es la probabilidad restante correspondiente a que el dato corresponda a la clase 0.

Bien, ahora pasemos a lo mágico.

La probabilidad condicional de que y_n sea igual a 1 o 0 se puede escribir de manera compacta utilizando las Ecuaciones (3.28) y (3.46). Esto se hace elevando \sigma(x_n) a la potencia y_n y (1 - \sigma(x_n)) a la potencia (1 - y_n) , quedando

\begin{equation} p(y_n | x_n, \theta) = \sigma(x_n)^{y_n} \cdot (1 - \sigma(x_n))^{1 - y_n}. \tag{3.47} \end{equation}

El por qué de esta expresión y sus potencias lo desglosaremos a continuación. Esta ecuación, la (3.47), es el núcleo de la función de pérdida de entropía cruzada binaria, y comprender el por qué tiene esa forma nos dirá todo sobre su funcionamiento para evaluar un modelo clasificador binario de aprendizaje automático.

La idea central es que, debido a la naturaleza binaria de y_n (su par de etiquetas para clasificación), las expresiones \sigma(x_n)^{y_n} y (1 - \sigma(x_n))^{1 - y_n} seleccionan la probabilidad correcta conforme se tiene y_n = 1 o y_n = 0 en (3.47),

Para entenderlo, desarrollemos cada caso:

1. Cuando y_n = 1 :

\begin{equation}y_n = 1 \implies 1 - y_n = 0, \tag{3.48} \end{equation}

por lo tanto, la Expresión (3.47) se convierte en:

\begin{aligned}\sigma(x_n)^1 \cdot (1 - \sigma(x_n))^0 &= \sigma(x_n) \cdot 1 \\
&= \sigma(x_n). \tag{3.49} \end{aligned}

Esta expresión es correcta porque \sigma(x_n) es, por definición, la probabilidad condicional de que y_n = 1 , dado x_n y los parámetros \theta , recordémoslo:

\begin{equation} p(y_n = 1 | x_n, \theta) = \sigma(x_n). \tag{3.50} \end{equation}

2. Cuando y_n = 0 :

\begin{equation}y_n = 0 \implies 1 - y_n = 1, \tag{3.51} \end{equation}

lo cual que significa que la Ecuación (3.47) se convierte en:

\begin{aligned}\sigma(x_n)^0 \cdot (1 - \sigma(x_n))^1 &= 1 \cdot (1 - \sigma(x_n)) \\
&= 1 - \sigma(x_n), \tag{3.52} \end{aligned}

Lo cual sabemos que es correcto, dado que es su complemento, como definimos en (3.46).

De esto se concluye, entonces, que la expresión compacta:

\begin{equation} p(y_n | x_n, \theta) = \sigma(x_n)^{y_n} \cdot (1 - \sigma(x_n))^{1 - y_n}, \tag{3.53} \end{equation}

es algebraicamente correcta porque selecciona la probabilidad correcta dependiendo del valor de y_n . Es equivalente a las dos probabilidades de las clases definidas, por lo que proporciona una forma unificada para calcular la probabilidad condicional de la clase correcta, ya sea y_n = 0 o y_n = 1 .

Maximización de la verosimilitud

Sabemos que la regresión logística busca ajustar los parámetros \theta del modelo \sigma(x_n) para maximizar la probabilidad de que el modelo prediga correctamente las clases a las que pertenecen las observaciones dadas las entradas. Esto se llama maximización de la verosimilitud (Maximum Likelihood Estimation, MLE), y ya la hemos estudiado con anterioridad.

Para calcular la máxima verosimilitud, se debe considerar la probabilidad conjunta de todas las observaciones, la cual por definición sabemos que es el producto de las probabilidades individuales:

\begin{equation}
P(\mathbf{y}|\mathbf{x}, \theta) = \prod_{n=1}^N p(y_n | x_n, \theta), \tag{3.54}
\end{equation}

donde N es el número total de observaciones.

Trabajar con el producto de probabilidades puede ser numéricamente inestable y complicado. Para simplificar las derivadas y la optimización, se toma (como ya es costumbre) el logaritmo de la probabilidad conjunta. El logaritmo transforma el producto en una suma, que es más manejable:

\begin{equation}
\log P(\mathbf{y}|\mathbf{x}, \theta) = \sum_{n=1}^N \log p(y_n | x_n, \theta). \tag{3.55}
\end{equation}

Por último, en lugar de maximizar la probabilidad logarítmica, minimizamos su opuesto, que es equivalente. De aquí surge la función de pérdida logarítmica (log-loss). Tomar el negativo del logaritmo asegura que estamos minimizando una cantidad positiva cuando las predicciones son buenas (alta probabilidad) y castigando más fuertemente las malas predicciones (baja probabilidad):

\begin{equation}
l(y_n, \sigma(x_n)) = -\log(p(y_n | x_n, \theta)). \tag{3.56}
\end{equation}

Utilizando la expresión compacta de la probabilidad condicional de la Ecuación (3.47), sustituimos en (3.56) y obtenemos:

\begin{equation}
l(y_n, \sigma(x_n)) = -[y_n \log(\sigma(x_n)) + (1 - y_n) \log(1 - \sigma(x_n))], \tag{3.57}
\end{equation}

Si lo piensas bien, esta expresión ya la habíamos avistado antes; revisa la Ecuación (3.36) de la exploración de la regresión logística.

Finalmente, calculamos el promedio de estas pérdidas individuales para obtener la función de pérdida:

\begin{aligned} L(\mathcal{Y}, \mathcal{\hat{Y}})) = \frac{1}{N} \sum_{n=1}^N l(y_n, \sigma(x_n)) \end{aligned}, \tag{3.58}

Con esto queda demostrado cómo es que la función de pérdida refleja las probabilidades calculadas por el modelo dados los distintos valores de las clases.

Lo ilustraremos con un ejemplo.

Ejemplo de aplicación de función de pérdida logística

Volvamos a nuestro ejemplo en el que hemos entrenado un modelo de clasificación de alumnos dadas sus horas dedicadas de estudio, y calculemos la probabilidad de que un par de observaciones pertenezcan a la clase 1 (examen aprobado).

Dado que tenemos solo una variable independiente (horas de estudio), nuestro modelo es una función sigmoidea univariable como la que se ha definido en la Ecuación (3.29):

\begin{aligned}
   \sigma(x_n)=\frac{1}{1+e^{-(\theta_{0}+\theta_{1}x_n)}}\:.  \tag{3.29}
\end{aligned}

Aquí ya usaremos de forma explícita las ecuaciones y valores involucrados en el proceso. Supongamos que después de ajustar los parámetros del modelo en la fase de entrenamiento, hemos obtenido los siguientes valores:

\theta_0 = -2

\theta_1 = 1

Dando como resultado la función:

\begin{aligned}
   \sigma(x_n)=\frac{1}{1+e^{-((-2)+1(x_n))}}\:.  \tag{3.59}
\end{aligned}

Las dos observaciones que utilizaremos de nuestro conjunto de datos son las siguientes:

Para hacer uso de la función de pérdida logística primero calcularemos las predicciones del modelo para las dos entradas univariables.

Comenzamos con el primer dato x_1 = 1 :

\begin{aligned} \sigma(x_1) = \frac{1}{1 + e^{-((-2) + 1(1))}} = \frac{1}{1 + e^{1}} \approx 0.268.  \tag{3.60} \end{aligned}

Para x_2 = 4 :

\begin{aligned} \sigma(x_2) = \frac{1}{1 + e^{-((-2) + 1(4))}} = \frac{1}{1 + e^{-2}} \approx 0.88.  \tag{3.61}\end{aligned}

Ahora que hemos calculado las probabilidades, utilizamos la función de entropía cruzada para obtener la pérdida de las predicciones del modelo, comparando las predicciones dada cada entrada con su respectiva etiqueta real (clase a la que pertenece).

Para la entrada x_1 = 1 con la etiqueta real y_1 = 0 , sustituimos en la Ecuación (3.57), la cual es la función de pérdidas individuales de la regresión logística:

\begin{align*}
L(y_2, \sigma(x_2)) &= - \left[0 \cdot \log(0.268) + (1 - 0) \cdot \log(1 - 0.268)\right] \\
&= - \log(0.732) \\
&\approx 0.311.  \tag{3.62}
\end{align*}

Lo hacemos ahora para x_2 = 4 con y_2 = 1 :

\begin{align*}
L(y_1, \sigma(x_1)) &= - \left[1 \cdot \log(0.88) + (1 - 1) \cdot \log(1 - 0.88)\right] \\
&= - \log(0.88) \\
&\approx 0.127.  \tag{3.63}
\end{align*}

Y obtenemos la pérdida total calculando el promedio:

\begin{aligned} J(\theta) = \frac{1}{2} [0.127 + 0.311] = \frac{1}{2} (0.438) \approx0.219.  \tag{3.64}\end{aligned}

Este valor es interpretable de acuerdo a las reglas expuestas en el tramo anterior. Dado que es de 0.219 , y que conforme la pérdida calculada tienda a 0 la precisión del modelo es mayor, se puede concluir que el modelo tiene un rendimiento aceptable.

Conociendo el cómo operan las funciones de pérdida para modelos de clasificación y regresión, podemos comenzar a explorar cómo funcionan algoritmos de aprendizaje supervisado más complejos, y utilizarlas también para evaluar el rendimiento final de los modelos ajustados al terminar la fase de entrenamiento, lo cual veremos de forma más detallada en la siguiente travesía.

Inventario recomendado

Matemáticas

Un poco de álgebra y cálculo

Regresión lineal (definición de algoritmos de regresión)

Regresión logística (definición de algoritmos de clasificación)

Algún bocadillo

Funciones de pérdida para aprendizaje de máquinas

Como ya hemos visto en la teoría y práctica de la regresión lineal y la regresión logística, al momento de entrenar un modelo de aprendizaje supervisado se está ejecutando un proceso que ajusta los valores de sus parámetros utilizando una función que mide qué tan grande es la distancia entre las estimaciones realizadas por el modelo y los datos reales (también conocidos como datos del terreno real, o verdad fundamental); dichas funciones se conocen como funciones de pérdida.

Dicho de una forma más concisa, una función de pérdida, función de error, o función de costo (loss function), es una función matemática que evalúa el desempeño de un modelo de aprendizaje automático calculando las diferencias entre los valores predichos por este, y los valores reales del conjunto de datos.

Esta función es vital para el entrenamiento del modelo, ya que de esto depende el ajuste/optimización de sus parámetros, y generalmente, ofrece una forma para la evaluación de los resultados finales.

Es correcto, dado que el modelo es puesto a prueba por la función de pérdida, esta evalúa la calidad de los parámetros de la función ajustada durante y después de la etapa de entrenamiento.

La Figura 3.4.1 muestra en términos sencillos cómo opera una función de costo, calculando las diferencias entre los valores obtenidos por el modelo, y las observaciones del conjunto de datos:

Es importante mencionar que las funciones de pérdida se pueden utilizar tanto durante la etapa de aprendizaje (ajuste de parámetros) como después, cuando el modelo ya ha sido entrenado.

Las funciones de costo que hemos visto hasta ahora son utilizadas para optimizar los parámetros en la fase de entrenamiento, pero conforme avancemos en el curso las utilizaremos también para evaluar el modelo final resultante.

A continuación, exploraremos el objetivo y uso de las funciones de pérdida con mayor detalle.

Ejemplo de una función de pérdida

Uno de los ejemplos más comunes de una función de pérdida, y que ya hemos visto en acción en la práctica de la regresión lineal, es la función de error cuadrático medio (MSE, por sus siglas en inglés: Mean Squared Error), la cual calcula el promedio del cuadrado de las diferencias entre los valores del terreno real y los valores predichos.

Vamos a ilustrarlo poco a poco.

Supongamos que hemos ajustado los parámetros de un modelo utilizando técnicas de aprendizaje de máquinas, específicamente, un modelo de aprendizaje supervisado que aborda un problema de regresión. La siguiente tabla contiene los valores reales del conjunto de datos y las cantidades estimadas por el modelo resultante.

Ahora calcularemos el error cuadrático medio (la función de costo), paso por paso:

• De acuerdo con la definición, primero se calcula la diferencia entre los valores reales y los valores predichos, lo cual quedaría como se muestra en la nueva columna añadida:

• Ahora que tenemos las diferencias, obtendremos el cuadrado de estas:

• Teniendo estas diferencias, solo debemos añadir dos pasos más, primero sumamos los valores de esta última columna:
  • Suma del cuadrado de las diferencias = 23.19

• Y por último, calculamos el promedio, es decir, dividimos esta suma entre el número de valores o datos, el cual es 10:
  • Suma del cuadrado de las diferencias dividida entre el total de datos = \frac{23.19}{10} = 2.319.

Esto quiere decir que el error cuadrático medio (valor arrojado por la función de costo) del modelo es aproximadamente 2.31.

De esta forma, el algoritmo calcula qué tanto se acercan las predicciones del modelo a las cifras reales. Dado que el rango de los valores reales está entre 11 y 50, podemos intuir que un promedio de 2.31 de los errores es relativamente pequeño, por lo que se puede aseverar que tiene un desempeño aceptable (estas conclusiones siempre dependerán de los datos, es necesario recordar, en general, que conforme esta métrica se acerca a 0, indica una mejor precisión del modelo).

Dentro de los algoritmos de regresión lineal y logística, recordemos que lo que se hace es optimizar estas funciones, es decir, minimizar o maximizar sus resultados (dependiendo de la función utilizada); por ejemplo, en la regresión lineal se busca minimizar el MSE, de modo que se ajustan los parámetros para encontrar el valor más pequeño posible de los errores medidos por esta función (los mismos que acabamos de calcular). En este sentido, minimizar es optimizar, ya que con ello se encuentran los parámetros más óptimos para generar un modelo eficiente.

El ejemplo atestiguado hasta ahora se centra en una función de pérdida aplicado a un modelo de regresión; con el fin de no extender mucho esta lección, no analizaremos el procesamiento generado por una función de pérdida para modelos de clasificación (para los cuales, de cualquier manera, el principio operacional es el mismo). Esto lo examinaremos con más detalle en la siguiente exploración.

Habiendo ilustrado cómo opera una función de costo y cuál es su uso, echemos un vistazo a los tipos de funciones de pérdida que existen, y una lista con ejemplos de cada uno.

Tipos de funciones de pérdida

Las funciones de error son variadas y se utilizan dependiendo de los conjuntos de datos de entrada y el contexto del propósito del modelo de aprendizaje automático. Se dividen principalmente en dos categorías:

1. Funciones de pérdida para aprendizaje supervisado, que a su vez se subdividen de acuerdo al tipo de modelo:
   • Modelos de regresión.
   • Modelos de clasificación.
2. Funciones de pérdida para aprendizaje no supervisado.

Es verdad, sin embargo, es importante al menos saber que estas funciones existen no solo para un tipo de machine learning. Por lo mismo, a continuación dejaré unas listas con las funciones de error más comunes; en las prácticas de programación no utilizaremos todas, pero puede que en algún momento necesites información sobre algunas de las funciones disponibles, ya sea en el ámbito laboral, personal o académico.

Funciones de pérdida más utilizadas para machine learning

A continuación, enlistaré las funciones de pérdida más comunes para machine learning por categorías, no te preocupes si te parecen cuantiosas, en la práctica solo utilizarás algunas cuantas, solo quiero que conozcas su existencia y sea una referencia que puedas tener a la mano.

Funciones de pérdida para aprendizaje supervisado

Funciones de pérdida para algoritmos de regresión

Las funciones de pérdida más comunes para modelos de regresión son las siguientes:

• Error cuadrático medio (Mean Squared Error, MSE).
• Error absoluto medio (Mean Absolute Error, MAE).
• Error absoluto porcentual medio (Mean Absolute Percentage Error, MAPE)
• Raíz del error cuadrático medio (Root Mean Square Error, RMSE).
• Raíz del error logarítmico cuadrático medio (Root Mean Squared Logarithmic Error, RMSLE).
• Pérdida de Huber (Huber Loss).
• Pérdida Log-cosh. (Log-Cosh Loss).
• Pérdida cuantílica (Quantile Loss).
• L1 suavizado (Smooth L1).
• Pérdida ∈-insensible (∈-Insensitive Loss).

Funciones de pérdida para algoritmos de clasificación

Las funciones de pérdida más comunes para modelos de clasificación son las siguientes:

• Pérdida de entropía cruzada (Cross Entropy Loss).
• Pérdida de entropía cruzada sigmoidea (Sigmoid Cross Entropy Loss).
• Pérdida de entropía cruzada softmax (Softmax Cross Entropy Loss).
• Verosimilitud logarítmica negativa (Negative Log-Likelihood).
• Pérdida 0-1 (0-1 Loss).
• Pérdida de Hinge (Hinge Loss).
• Pérdida Huber modificada (Modified Huber Loss).
• Pérdida de Hinge suavizada (Smooth Hinge Loss).
• Pérdida de Hinge reescalada (Rescaled Hinge Loss).
• Pérdida de rampa (Ramp Loss).
• Erro de clasificación mínimo (Minimum Classification Error).
• Pérdida logarítmica (Log Loss).
• Pérdida exponencial (Exponential Loss).
• Pérdida basada en margen (Margin-Based Loss).
• Ranqueo por parejas (Pairwise Ranking).
• Ranqueo por tripleta (Triplet Ranking).
• Pérdida contrastiva (Contrastive Loss).
• Pérdida pinball (Pinball Loss).
• Pérdida pinball truncada (Truncated Pinball Loss).

Funciones de pérdida para aprendizaje no supervisado

Las funciones de pérdida más comunes para evaluar el desempeño de algoritmos de aprendizaje no supervisado son las siguientes:

• Error cuadrado (Square Error).
• Error de distancia (Distance Error).
• Error de reconstrucción (Reconstruction Error).
• Varianza negativa (Negative Variance).
• Pérdida de energía (Energy Loss).
• Pérdida minimax (Minimax Loss).
• Pérdida de Wasserstein (Wasserstein Loss).
• Función de pérdida de difusión (Diffusion Model Loss Function).

Para más información sobre estas funciones y sus respectivas definiciones matemáticas, puedes consultar los siguientes recursos:

• A survey and taxonomy of loss functions in machine learning.
• A Comprehensive Survey of Loss Functions in Machine Learning.

Teniendo esto en mente, ya has conocido lo suficiente para tener una idea del uso y definición de una función de pérdida. Ahora lo formalizaremos matemáticamente.

Función de perdida, definición matemática

Como habrás notado, las funciones de pérdida son parte medular de nuestros encuentros con gran parte de los algoritmos de aprendizaje automático; su objetivo es generar una medida de qué tan bien opera un modelo entrenado, o en proceso de entrenamiento, para realizar estimaciones numéricas.

Por ello, se puede definir una generalización matemática de esta función, que expresa la idea central de su finalidad y los cálculos que conducen al cumplimiento de su objetivo.

Definición 3.10 (Función de Pérdida). Sea \mathcal{D} = \lbrace (x_{1},y_{1}),…,(x_{N},y_{N})\rbrace un conjunto de N datos u observaciones etiquetadas compuesto por los conjuntos \mathcal{X} = \lbrace x_{1},…, x_{N}\rbrace de entradas y \mathcal{Y} = \lbrace y_{1},…, y_{N}\rbrace de salidas, utilizado para entrenar un modelo o función h(x), donde cada salida del modelo se expresa como h(x)=\hat{y}. Una función de pérdida es un mapeo que toma un valor verdadero y \in \mathcal{Y} y un valor predicho \hat{y}, y asigna a esta pareja un número real que cuantifica el «error» o «pérdida» del modelo h(x) que ha hecho la predicción \hat{y} .

En términos generales, la función de pérdida para la evaluación de un modelo dado un conjunto de datos \mathcal{D} con N instancias se define como sigue:

 L(\mathcal{Y}, \mathcal{\hat{Y}}) = \frac{1}{N} \sum_{n=1}^N l(y_n, \hat{y}_n) , \tag{3.42}

donde \mathcal{\hat{Y}} es el conjunto de todas las predicciones realizadas con el modelo y que están sometidas a evaluación, y l es una función de pérdidas individuales, es decir, la medición del error o distancia entre la predicción \hat{y}_n y su valor y_n real asociado. La forma de agregación, en este caso, expresada mediante la suma \sum, puede variar, así como N puede ser igual a 1 para mantener solo la agregación sin calcular el promedio.

Nota: sin entrar en más detalle, solo se hará mención de que en algunos casos especiales (como en los autoencoders, los cuales definiremos en otra exploración) se tiene que X = Y, pero que esto no desvíe tu atención de la definición antes presentada.

Taxonomía y ejemplo de una función de pérdida

Para digerir más fácilmente esta definición, retomaremos el ejemplo del error cuadrático medio (ECM), ahora relacionando su estructura respecto a la generalización de la función de pérdida de la Definición 3.10. Para esto, identificamos los elementos de su taxonomía como sigue:

• Agregador de pérdidas o errores: el cual viene señalado en la Ecuación (3.42) como \frac{1}{N} \sum_{n=1}^N.
• Función de pérdidas individuales: la cual viene expresada en la Ecuación (3.42) como l(y_n, \hat{y}_n).

Ahora, echemos un vistazo a la definición matemática del error cuadrático medio:

 L(\mathcal{Y}, \mathcal{\hat{Y}})  = \frac{1}{N} \sum_{n=1}^N (y_n - \hat{y}_n)^2 \tag{3.43}

¿Puedes identificar los elementos antes descritos en esta última expresión?

Si revisamos cuidadosamente encontramos lo siguiente:

• Agregador de pérdidas: \frac{1}{N} \sum_{n=1}^N
• Función de pérdidas individuales: (y_n - \hat{y}_n)^2

Podemos observar cómo se promedian los resultados de la función de pérdidas individuales, lo cual es el mismo cálculo que desglosamos en el ejemplo de la sección anterior.

Para ilustrarlo mejor, podemos, por ejemplo, obtener el valor de la pérdida para los primeros cinco valores de la Tabla 3.4.1 utilizando la expresión (3.43):

L(y, \hat{y}) = \frac{1}{N} \sum_{n=1}^N (y_n - \hat{y}_n)^2

=\frac{(12-11)^2+(15-13.5)^2+(19-21)^2+(21.5-24)^2+(33-32)^2}{5}

=\frac{1+2.25+4+6.25+1}{5}

=\frac{14.5}{5} =2.9

Esto significa que el valor de la función de pérdida para los primeros 5 valores respecto a las predicciones del modelo es igual a 2.9. Nótese cómo este número es el resultado de mapear las salidas del conjunto de entrenamiento y las predicciones a un número real, que refleja la similitud entre estas.

Aquí damos por finalizado el estudio de este invaluable artefacto de la ciencia de datos. Aún no veremos cómo obtener los valores de las funciones de pérdida con Python, esto lo haremos más adelante cuando las utilicemos para evaluar el rendimiento de modelos de aprendizaje supervisado.

En la siguiente expedición aprenderemos cómo opera una función de pérdida para la evaluación de modelos de clasificación, lo cual nos abrirá paso a formas más robustas de evaluación de rendimiento de modelos.

Finalmente, hemos arribado al último tramo antes de iniciar la primeras exploraciones enfocadas en modelos de machine learning; en esta ocasión, la travesía será fugaz, pero no por ello menos importante, ya que trata sobre un paso intermedio entre el preprocesamiento y procesamiento de datos, y que es prácticamente indefectible antes de comenzar con el entrenamiento de todo modelo de aprendizaje de máquinas.

Equipaje recomendado

Nociones sobre conjuntos de datos

Nociones sobre preprocesamiento de datos

Fundamentos de machine learning

Tentempié

¿Qué son los conjuntos de datos de entrenamiento, desarrollo y prueba?

Después de preprocesar un conjunto de datos, este ya está listo para ser computado por un algoritmo de machine learning; sin embargo, es necesario gestionar un aspecto de su estructura una última vez mediante un sencillo pero imprescindible paso: la división de este en subconjuntos, conocidos como conjuntos de entrenamiento, desarrollo, y prueba.

Estos conjuntos tienen diferentes objetivos a lo largo de la etapa de entrenamiento de un modelo de aprendizaje automático, y es menester entender el cómo y por qué de estas divisiones antes de comenzar a utilizar algoritmos de este tipo.

Revisaremos a detalle cada uno, su definición y la proporción que generalmente tienen respecto a todos los datos disponibles.

Conjunto de datos de entrenamiento (test set)

El conjunto de datos de entrenamiento (test set) es el subconjunto de datos que se procesa para la extracción de patrones, y con ello ajustar automáticamente los parámetros que constituyen al modelo resultante.

Es decir, es la porción de datos que se entrega de forma inicial a la máquina para que aprenda de estos.

Para ilustrar esto, recordaremos el ejemplo visto en nuestra primera exploración, en el que se entrena a un modelo para el reconocimiento de gatos en imágenes; en este caso, el conjunto de datos comprende la cantidad total de imágenes de animales que damos a la computadora para que aprenda a diferenciarlos.

Este ejemplo se había simplificado en la introducción al aprendizaje de máquinas de la siguiente forma:

Ahora que tenemos mayor conocimiento sobre los conjuntos de datos etiquetados, podemos desarrollar un poco más esta ejemplificación mostrando parte de la estructura y etapas subyacentes de un algoritmo de machine learning, cuya primera fase describiremos como el aprendizaje de la máquina a partir del conjunto de datos de entrenamiento, el cual está compuesto de una porción de todo el conjunto de datos:

El conjunto de datos de entrenamiento es la parte de todas nuestras imágenes que daremos a la máquina para este aprendizaje inicial. Es importante destacar que nunca le proporcionaremos el 100% de los datos, (al menos no en lo que respecta a los algoritmos de aprendizaje supervisado, los cuales estudiaremos primero en este curso), las razones se abordarán más adelante.

Tamaño del conjunto de datos de entrenamiento

La porción de datos que se debe elegir para el entrenamiento del modelo no será siempre la misma, ya que varía de acuerdo al tamaño del conjunto de datos, entre otros factores. Sin embargo, se suele recomendar que al menos el 70% de los datos estén dentro de este subconjunto, ya que se requieren suficientes ejemplos de entrenamiento para un ajuste óptimo del modelo (el tamaño definido puede variar significativamente conforme al número de ejemplos de entrenamiento disponibles).

Conjunto de datos de desarrollo (dev set)

Una vez que hemos seleccionado los datos a utilizar para generar el aprendizaje del modelo, ¿para qué necesitamos hacer otras divisiones del conjunto de datos?

La respuesta a esta cuestión se encuentra en la etapa posterior a la antes descrita, la cual es sumamente importante y característica del aprendizaje automático, ya que consiste en evaluar qué tan bien la máquina ha aprendido, es decir, qué tan bien se ha ajustado el modelo a los datos mediante la determinación de sus parámetros. Para estos fines, se distribuyen típicamente los datos en uno o dos subconjuntos más: el de desarrollo, y el de pruebas.

Hablemos sobre el primero.

El conjunto de datos de desarrollo o de validación (dev set), es el subconjunto que se utiliza para determinar el rendimiento del modelo operando sobre datos nuevos (que no pertenecen al conjunto de entrenamiento), y el cual se utiliza para ajustar sus hiperparámetros, lo cual significa configurar algoritmo utilizado hasta obtener resultados satisfactorios.

Los hiperparámetros son parámetros que definen algunos aspectos sobre las operaciones y estructura de un algoritmo de aprendizaje de máquinas, y que no se ajustan automáticamente porque se definen antes de la etapa de entrenamiento; por lo pronto no ahondaremos mucho en ello, pero será objeto de estudio en próximas expediciones.

El punto clave aquí es que el conjunto de datos de validación se entrega al modelo para evaluar su desempeño y con ello configurar el algoritmo utilizado para determinar qué configuración le favorece más. Esto sucede probando el modelo y cuantificando sus aciertos y errores. En nuestro ejemplo, la evaluación se realizaría utilizando el modelo para etiquetar como gatos o no gatos a nuevas imágenes que no provengan del conjunto de entrenamiento (por eso se genera otro subconjunto aparte).

Una vez evaluado el desempeño del modelo entrenado, se procede a realizar cambios en la arquitectura del modelo con el fin de dilucidar cuáles valores de su configuración proveen las salidas con la precisión más alta, como se muestra en la Figura 2.8.3.

El uso de un conjunto de datos de desarrollo es imprescindible su se desea experimentar con la configuración del algoritmo o algoritmos utilizados para el entrenamiento. Sin embargo, su uso no siempre está presente a la hora de ajustar modelos de machine learning. Todo dependerá de la complejidad de los datos, y de tus resultados preliminares. Habrá ocasiones en que solo necesites de un conjunto de entrenamiento y prueba, esto lo veremos más adelante.

Tamaño del conjunto de datos de desarrollo

Lo recomendable en cuanto al tamaño para este subconjunto es que abarque alrededor del 10% del conjunto original, pero esto dependerá del número total de ejemplos de entrenamiento. Por ejemplo, para un conjunto de datos de 1000 ejemplos de entrenamiento (en el ejemplo, 1000 imágenes), el 10% es 100, y parece suficiente para la etapa de desarrollo; pero si se tratara de un conjunto más grande, por ejemplo, de 1 millón de datos, el 10% serían 100 mil ejemplos de entrenamiento, por lo que incluso podría elegirse solo el 1% (10 mil) o menos para el tamaño del conjunto de validación.

Es importante tomar en cuenta esto último, ya que resalta la influencia de las dimensiones del conjunto de datos para la definición de las porciones de los subconjuntos de entrenamiento, desarrollo y prueba.

Conjunto de datos de prueba (test set)

Para finalizar, el conjunto de datos de prueba (test set) es el subconjunto de datos que pretende simular el uso del modelo de machine learning en producción, es decir, en situaciones fuera del entorno de desarrollo, o lo que podemos llamar como la evaluación de su rendimiento en las condiciones más cercanas al «mundo real».

Estos datos son nuevos para el modelo, no se hallan contenidos en el conjunto de entrenamiento o de validación, por lo que se utilizan para evaluar su desempeño final después de la elección de hiperparámetros, si es que llevaste a cabo una etapa de ajuste de estos.

La intención de este conjunto es responder a la cuestión: ¿qué tan preciso es el modelo en la ejecución sus tareas? Si los resultados son satisfactorios, entonces se puede generalizar que el modelo funcionará con el mismo rendimiento en datos nuevos ya no pertenecientes al conjunto de datos.

Respecto a nuestro ejemplo, esto se traduce en que, después de entrenar al modelo y seleccionar los hiperparámetros más convenientes, se evaluará una última vez con otro cúmulo de imágenes nuevas:

Cuando se han finalizado los ajustes del algoritmo de machine learning, se evalúa de nuevo el modelo, pero ahora con un conjunto de datos completamente nuevo (conjunto de prueba). Este definirá que tan bien hace su trabajo el modelo obtenido. Si el rendimiento final no es el esperado, se vuelve a repetir el proceso realizando ajustes en el algoritmo u otros componentes asociados, como los datos o métricas de rendimiento, hasta alcanzar resultados satisfactorios.

Tamaño del conjunto de datos de prueba

Las dimensiones de este conjunto son similares a las del conjunto de datos de desarrollo: se recomienda un aproximado del 10% del total de los datos, ya que se requiere una cantidad no muy pequeña de ejemplos para poner a prueba el modelo. Como se explicó anteriormente, esto depende mucho del tamaño del conjunto de datos, por lo que porcentajes más chicos pueden ser igualmente funcionales.

Una distribución común de división del conjunto de datos es la proporción 80%-10%-10% para cada subconjunto respectivamente (train, dev, test), principalmente cuando se trata de conjuntos relativamente pequeños o medianos.

Notas:

• Los conjuntos de datos en los códigos de machine learning que te encuentres en la red generalmente no se dividirán en los tres subconjuntos antes descritos, ya que el uso de un conjunto de desarrollo/validación está más enfocado en la experimentación en fases de la definición de la configuración del algoritmo, por lo que se suelen utilizar solo los conjuntos de entrenamiento y prueba. Sin embargo, en proyectos industriales o de investigación científica, se recomienda considerar el conjunto de validación para realizar pruebas de las arquitecturas de los modelos implicados.
• Antes de hacer estas divisiones, es recomendable realizar un barajeo aleatorio de los ejemplos de entrenamiento. Esto se puede lograr fácilmente con funciones como shuffle de Sklearn en Python.
• Si no has cachado todo lo visto en esta lección, no te preocupes, en un futuro muy próximo estaremos haciendo estas divisiones en prácticas de programación (y en la teoría), lo cual te ayudará a comprender su uso.

¡Hemos terminado!

Has finalizado tu entrenamiento en datos, lo que significa que en nuestra próxima exploración arrancaremos en terrenos más inmersos en el dominio del aprendizaje de máquinas, donde te adentrarás en el conocimiento de los algoritmos de aprendizaje supervisado, y podrás experimentar uno de estos por primera vez en Python.

Como primera parada en nuestro paso a través de las parcelas del machine learning, vamos a detenernos un poco, mirar a nuestro alrededor, y echar un vistazo al mapa: ¿qué es machine learning?, ¿para qué sirve?, ¿qué tipos de machine learning existen?, algunos ejemplos, sus componentes principales, entre otras particularidades cuyo conocimiento es conveniente para sortear el terreno y poder adentrarnos de lleno en sus misterios.

¿Qué necesitaremos para nuestra primera exploración?

Dado que es tu primera vez por estos lares, en esta ocasión el inventario es bastante ligero:

Tentempié: algún alimento para amenizar la travesía

Y es todo. Este recorrido en particular contendrá conceptos poco técnicos, solo te recomiendo algún comestible para acompañar, y poner suma atención a todo lo que verás a continuación.

Nota: a lo largo de nuestras travesías me referiré al machine learning también como aprendizaje de máquinas, aprendizaje automático, o aprendizaje artificial.

¿Qué es machine learning?

El machine learning es una rama de las ciencias computacionales y matemáticas (especialmente, de la inteligencia artificial) que estudia y desarrolla técnicas para la creación de sistemas capaces de concretar uno o más objetivos mediante algoritmos no explícitamente programados, a través de un proceso de aprendizaje que consiste en la extracción automática de patrones de conjuntos de datos.

Para mostrar este concepto de una manera más digerible, explicaré puntualmente los diferentes términos clave que lo conforman.

Comencemos hablando sobre el fenómeno central con el que estaremos lidiando durante toda nuestra travesía: el aprendizaje.

Aprendizaje en machine learning

En el contexto del machine learning, el aprendizaje se refiere al hecho de que una máquina sea capaz de realizar una tarea o más tareas, y mejorar en su ejecución mediante el procesamiento de datos; es decir, se da a través de la experiencia, justo como hacemos nosotros en nuestra vida diaria.

Exacto. Como cuando mejoramos en la realización de nuestras actividades cotidianas, en machine learning las computadoras mejoran en la ejecución de sus objetivos conforme a los datos que les damos y sus intentos por alcanzar exitosamente sus metas.

Un ejemplo clásico de esto es un sistema capaz de reconocer gatos. Para lograr que una computadora aprenda cómo diferenciar un gato de otros animales, le tenemos que proporcionar cúmulos de imágenes etiquetadas, es decir, grupos de imágenes en las que le señalemos cuáles son de gatos y cuáles no (justo como lo haríamos con un bebé).

Mediante el procesamiento de estos datos (las imágenes y sus correspondientes pixeles), y la consideración de sus errores y éxitos (la cantidad de gatos que la máquina reconoce de forma correcta o incorrecta), la máquina incrementará progresivamente su capacidad de diferenciar gatos de otros animales. Esto indica que la computadora aprende conforme analiza los datos que le proporcionamos, y esto es en esencia la definición y meta del machine learning.

De forma resumida, podemos aseverar que el machine learning es una rama de la ciencia que busca desarrollar y/o implementar técnicas para generar aprendizaje en máquinas, es decir: mejorar sus capacidades en el cumplimiento de objetivos conforme a los datos que le proveemos.

Las computadoras no interactúan de la misma forma que nosotros con la información de la que van a aprender.

Pero lo hacen.

Componentes principales del machine learning

Con el objetivo de ilustrar cómo es que se genera el aprendizaje de máquinas de manera más concisa, hablaremos sobre los elementos que lo producen. Estos componentes son los bloques más esenciales, y son comunes a todos los diferentes tipos de machine learning (que mencionaremos más adelante).

Como si se tratara de ingredientes imprescindibles para una receta mágica, revisemos cada uno de estos:

1. Conjunto de datos

Este elemento es crucial, vital, ineludible, no solo en aprendizaje de máquinas, sino en toda la ciencia de datos. Los datos son la materia prima de la cual las máquinas aprenden para concretar tareas, y me atrevo a aseverar que son el pilar de toda la inteligencia artificial moderna.

En el ejemplo que revisamos, e ilustramos en la Figura 1.3.2, el conjunto de datos es el grupo de imágenes de gatos y otros animales. Más adelante en el curso aprenderás todo lo que necesitas para manipular y utilizar los datos para producir aprendizaje automático.

2. Un algoritmo para procesar los datos

Cuando hablamos sobre machine learning, hablamos sobre… eso, máquinas aprendiendo. Las computadoras operan mediante instrucciones, y estas instrucciones son recibidas mediante una lógica a seguir. Esta lógica es lo que conocemos como algoritmos.

Los algoritmos en aprendizaje automático comprenden al conjunto de pasos a seguir para procesar los datos y extraer patrones de estos. El estudio del machine learning se puede reducir al estudio de sus algoritmos, ya que se trata de las diversas técnicas existentes para operar sobre datos y obtener modelos matemáticos (de esto hablaremos en el siguiente punto).

En nuestro ejemplo invocado anteriormente, el algoritmo sería el conjunto de operaciones realizadas bajo una lógica para que la máquina logre reconocer gatos con éxito. Aquí hablaremos más tarde sobre los algoritmos de machine learning más populares.

3. Modelo matemático

Esto más que un ingrediente es, de hecho, lo que resultará del procesamiento de datos mediante el algoritmo utilizado. El modelo es una función matemática que captura patrones en los datos, y los expresa matemáticamente. Este modelo es utilizado para realizar los cálculos para que la máquina realice sus tareas.

En el ejemplo antes citado, el modelo matemático resultante es una función que, dada una nueva imagen, genera un valor numérico que indica si la imagen es un gato o no. Los detalles de los modelos matemáticos los abordaremos con mucho más detalle en próximos tópicos del curso, principalmente en los apartados de matemáticas.

Flujo general del machine learning

La relación entre los diferentes componentes aquí expuestos se puede explicar mediante el diagrama de lo que he llamado marco de trabajo general del aprendizaje de máquinas (Figura 1.3.3), en el que se observa cómo los elementos clave conviven y generan lo que llamamos inteligencia artificial mediante algoritmos de machine learning.

Desde este punto de vista, la inteligencia artificial que es producida por aprendizaje de máquinas es menos misteriosa: al final se trata de modelos matemáticos procreados mediante algoritmos que procesan datos.

Hoy en día varios autores se refieren al machine learning como una rama de la inteligencia artificial, e incluso de las ciencias cognitivas. En este curso aceptaremos la convención de que el machine learning es inteligencia artificial, porque sus avances se desprenden del estudio de esta.

Sin embargo, la inteligencia es aún un concepto de diversos tintes, y existen diversas métricas para su medición que difieren entre sí en cuanto a lo que es la inteligencia y cómo es alcanzable por una máquina. Esto evita discernir de forma concreta si estos sistemas son realmente inteligentes o no. Desde mi perspectiva, las computadoras aún no son inteligentes per se, pero esto es un tema que da para un extenso debate. Lo dejo a tu criterio.

Ejemplos de machine learning

Para ilustrar el alcance de este tipo de algoritmos, en la Figura 1.3.4 se pueden apreciar diferentes ejemplos de productos inteligentes creados mediante técnicas de aprendizaje automático:

Estos son solo una diminuta porción del racimo de posibilidades que ofrece el machine learning: sus aplicaciones permean gran parte de nuestra vida diaria, especialmente en los entornos digitales, pero por el momento no nos detendremos a hablar sobre esto, ya que lo estaremos experimentando a lo largo del curso.

El término machine learning fue utilizado por primera vez por el ingeniero Arthur L. Samuel en 1959, en un artículo llamado <<Some Studies in Machine Learning Using the Game Checkers>>. En su texto abordó los procedimientos para lograr que una computadora aprenda a jugar el juego de mesa <<damas inglesas>>. Sobre los resultados expresó lo siguiente: <<se ha realizado suficiente trabajo para verificar el hecho de que una computadora puede ser programada para aprender a jugar mejor que las personas que escribieron el programa>>.

Machine learning vs algoritmos convencionales

Dada la definición del machine learning que hemos desarrollado aquí, se puede distinguir un enorme diferenciador que tiene respecto a la forma en que ofrecen soluciones los programas informáticos convencionales, ya que en estos últimos se establecen reglas que la computadora debe seguir para ejecutar una tarea, y que no cambian salvo que el programador decida realizar alguna edición del código computacional que las establece.

En un algoritmo de machine learning, en cambio, su eficiencia cumpliendo sus objetivos cambia a la par que procesa datos.

Un ejemplo de esto es una computadora que ha sido programada para entablar algún tipo de diálogo con usuarios. Una forma de hacer esto, es con un programa que muestre respuestas predefinidas por el programador dado un texto de entrada específico.

En cambio, un algoritmo de machine learning puede aprender a responder procesando información de conversaciones, y sus respuestas pueden variar conforme «lea» más de estas, como se ejemplifica en la figura 1.3.5.

Por lo tanto, a través del aprendizaje automático se generan programas que funcionan a partir de estructuras matemáticas dinámicas, es decir, que cambian automáticamente a la par que procesan información: estos programas se adaptan y varían su rendimiento con el consumo de datos nuevos.

Nuestra exploración está por terminar, antes solo haremos hincapié en los tipos de machine learning existentes, y otros aspectos adicionales que dejaré a tu elección.

Tipos de machine learning

Ahora que sabemos la definición del aprendizaje automático, es importante conocer cuáles son sus principales tipos.

El machine learning se divide en las siguientes 5 categorías principales:

• Aprendizaje supervisado (supervised learning).
• Aprendizaje no supervisado (not supervised learning).
• Aprendizaje semi-supervisado (semi-supervised learning).
• Aprendizaje por refuerzo (reinforcement learning).
• Aprendizaje auto-supervisado (self-supervised learning).

Estas divisiones están dadas principalmente por la forma en que se entrega al algoritmo los datos a procesar, y cómo los digiere, siendo el aprendizaje supervisado una de las categorías que goza de mayor popularidad en la actualidad.

Exploraremos cada una de estas formas en siguientes lecciones, y si lo deseas puedes echar un vistazo más detallado en el artículo opcional sobre tipos de machine learning.

Con lo que hemos visto hasta aquí, tenemos una introducción bastante sustanciosa a lo que es el machine learning. Debajo tocaré tres breves aspectos más que te darán información adicional sobre sus usos y algoritmos. Si lo deseas, puedes saltar aquí a tu siguiente aventura:

Ir al final

Principales usos del machine learning

De acuerdo a la literatura, podemos enunciar cinco principales tipos de uso para los cuales se invoca el aprendizaje automático, los cuales conoceremos muy a fondo en futuras exploraciones, y que deberás identificar en tu día a día como experto en el área.

Principales usos del machine learning:

• Clasificación: como en nuestro ejemplo de reconocimiento de imágenes de gatos, consiste en categorizar datos. Otro ejemplo de este enfoque sería un algoritmo cuya tarea sea clasificar películas por su género, como terror o fantasía.
• Regresión: trata sobre hacer estimaciones numéricas. Por ejemplo, se pueden generar modelos que respondan a preguntas como: ¿cuál es el precio de un teléfono celular de acuerdo a sus características?, o ¿cuál será el número de visitantes a un centro comercial el día de mañana?
• Agrupación: crear grupos de datos de acuerdo a sus similitudes. Por ejemplo, agrupar animales conforme a sus rasgos genéticos.
• Reducción de dimensionalidad: tiene como objetivo reducir las dimensiones de los datos, ayudándonos a filtrar y mantener aquellos subconjuntos que sean matemáticamente más relevantes.
• Generación (modelos generativos): este caso de uso ha sido ampliamente impulsado en años recientes, y se centra en la creación de nuevos contenidos o respuestas basadas en una amplia gama de entradas. Un ejemplo de esto es ChatGPT o Llama, los cuales pueden a su vez generar soluciones que incluyan las categorías antes mencionadas.

Esto es solo parte de los usos más frecuentes en la actualidad, estas aplicaciones están principalmente destinadas a la investigación científica y la inteligencia de negocios.

Algoritmos de aprendizaje automático más utilizados

Por último, te mostraré una lista con los algoritmos de machine learning más frecuentes en el ámbito de la ciencia de datos, puede que en este momento no te parezcan muy significativos sus nombres, pero con el tiempo no solo los conocerás, sino que también aprenderás a utilizarlos.

Algoritmos de machine learning más utilizados:

• Regresión lineal.
• Regresión logística.
• Red neuronal artificial.
• Máquina de soporte vectorial.
• K-medias.
• Sistemas de recomendación.
• Árbol de decisión.
• Bosques aleatorios.
• Impulso (Boosting).
• Clasificador Bayesiano.
• Análisis de componentes principales.
• Macro Modelos de Lenguaje (LLM).

Entre estos, las redes neuronales artificiales y las LLMs son los que presentan su mayor auge en nuestros tiempos. Todos los algoritmos mencionados y sus características serán objeto de estudio en otras exploraciones, así que no te preocupes si no estás familiarizado con algunos.

Eso es todo por ahora. A partir de aquí, nos adentraremos en una primera sección ya no introductoria en la que aprenderemos sobre los datos, su extracción, manipulación y transformación para el machine learning.

OPCIONAL:

Tipos de machine learning

Previo a comenzar tu aprendizaje del machine learning, e introducirte en el mundo de la ciencia de datos, debes estar familiarizado con Google Colab, la herramienta que utilizarás en este curso para observar y/o desarrollar tus propios modelos. Si ya lo has utilizado antes, puedes saltar esta sección y emprender tu primera exploración del aprendizaje automático:

En caso contrario, te recomiendo que te quedes a revisar este tutorial introductorio.

También puedes visitar la versión en video de este tutorial:

¿Qué es Google Colab?

Google Colaboratory es una plataforma en línea de Google que permite la creación, ejecución, almacenamiento y compartición de programas en Python en espacios de trabajo amigables y sencillos de utilizar. Sus principales beneficios, contra otras aplicaciones de escritorio para programar en Python, son los siguientes:

• No tienes que instalar Python, ni las bibliotecas más populares, o lidiar con posibles tediosas configuraciones para empezar a programar, lo cual es demasiado bueno en términos de ahorro de tiempo.
• Es un entorno sumamente intuitivo y fácil de utilizar.
• Permite almacenamiento de códigos en la nube de Google Drive, así como conexión a tu cuenta de GitHub.
• Es un recurso online, por lo que podrás acceder a él en cualquier lugar con conexión a internet y utilizarlo incluso en tu dispositivo móvil.
• Permite compartir códigos con otros usuarios, ya sea para su edición conjunta o solo para ser ejecutados.
• Es posible utilizar GPU o TPU sin costo.
• A pesar de que hay versiones de paga, su forma gratuita ofrece lo suficiente para configurar y ejecutar algoritmos de machine learning.
• Es popular entre la comunidad, por lo que encontrarás todo tipo de tutoriales y códigos en la red para su uso.
• Empezar a utilizarlo es fácil, solo es necesaria una cuenta de Google.

Tutorial: ¿cómo utilizar Google Colab?

Ahora que ya hablamos de sus nada despreciables bondades, pasemos a la acción. A continuación, te describiré paso a paso cómo comenzar a usar Colab para programar y/o ejecutar programas de Python línea, y cómo utilizar sus diferentes funciones:

1. Entra a Google Colab

Lo primero que tienes que hacer es picar en este botón para abrir una libreta de Google Colab

En pantalla te aparecerá un notebook o libreta ejecutable, la cual es un tipo de entorno interactivo en el que hallarás una interfaz en la que puedes ejecutar código y crear bloques con texto, imágenes, y más (es importante mencionar que este tipo de entornos fue ideado originalmente por jupyter.org).

Lo que verás en pantalla es un notebook que hice para ti con el fin de que te familiarices con la herramienta:

2. Ingresa a tu cuenta de Google

Para poder comenzar a interactuar con esta y cualquier libreta de Colab en línea, primero deberás iniciar sesión en Google, o crear tu cuenta de Gmail. A estas alturas, siendo sinceros, no contar con una es algo extraño.

Para iniciar sesión navega a la parte superior derecha de la libreta, y da clic en el botón <<Acceder>>:

En pantalla aparecerá un campo para iniciar sesión o crear una cuenta nueva. Introduce tus datos:

Una vez dentro, se te redirigirá a la libreta de Colab, lista para ser utilizada.

3. Familiarízate con el espacio de trabajo

Ahora debes entender cómo están estructuradas las libretas en Colab. En esencia, existen dos tipos de entidades principales: celdas de texto, y celdas de código.

Cada celda es un bloque al cual puedes acceder dando clic sobre este. Generalmente, los bloques de texto contienen descripciones detalladas del código, por lo que para trabajar con una nueva libreta solo necesitas leer el contenido de las celdas de texto, y ejecutar los códigos correspondientes. Así de sencillo.

4. Ejecuta código

Para ejecutar las celdas de código lo único que tienes que hacer es presionar el símbolo de reproducir, u oprimir las teclas Ctrl + Enter estando dentro del bloque:

Lo primero que verás al ejecutar la celda es el siguiente mensaje:

Da clic en «Ejecutar de todos modos» (a menos que no confíes en mí ), y notarás que el código empezará a correr, para posteriormente generar su respectiva salida. La primera vez que ejecutas código puede tardar un poco, no te preocupes si es el caso.

Para probar un código más complejo, puedes ejecutar la siguiente celda y observar cómo genera una gráfica:

Con esto que hemos visto hasta ahora puedes comenzar a ejecutar códigos utilizando libretas de Colab tanto del curso como fuera de este. Sin embargo, Colab es una herramienta con muchas características a las que puedes sacar provecho a lo largo de toda tu carrera, por lo que te hablaré de otras características más adelante.

Si esto último no es de tu interés, o quieres consultarlo más tarde, puedes saltar hasta la última parte del tutorial dando clic aquí.

Google Colab: funciones y características

Vamos a hablar rápidamente sobre diferentes utilidades que ofrece Google Colab más allá de lectura, escritura y ejecución de código, pensando en que le puedas dar un uso más personal y ágil.

Tocaremos los siguientes puntos:

• Edición y creación de celdas:
  • Creación y manipulación de celdas.
  • Manipulación de celdas en interfaz.
• Celdas de texto:
  • Markdown y HTML.
  • Estilos y elementos.
  • Tablas.
  • Matemáticas con LaTeX.
  • Magics.
• Celdas de código:
  • Instalación de bibliotecas.
  • Autocompletado.
  • Asistente Gemini.
  • Tablas interactivas.
• General:
  • Almacenamiento e historial de versiones.
  • Edición e inserción de bloques.
  • Información adicional.
  • Entorno de ejecución.
  • Herramientas y configuración.
  • Panel de apoyo
    • Índice
    • Búsqueda y reemplazo.
    • Variables.
    • Secretos.
    • Control de archivos.

Edición y creación de celdas

Primero hablaremos de manera efímera sobre cómo crear y manipular celdas de manera sencilla dentro de la libreta de Colab.

Creación de celdas en interfaz

Para crear una nueva celda (de código o texto) en Google Colab, la manera más sencilla es colocando el cursor justo debajo o encima de una celda ya existente; al hacer esto, aparecerá una línea sobre la que reposarán dos botones con las leyedas <<Código>> y <<Texto>>. Al hacer clic, crearás una celda nueva del tipo que hayas elegido.

Ubica la celda –C1– y añade celdas debajo de la indicación para hacer pruebas:

Manipulación de celdas en interfaz

Además de la creación de celdas sobre el espacio de trabajo, también existe un pequeño menú con opciones para manipular las celdas. Solo debes dar clic en cualquier celda y se mostrará como sigue:

Estos íconos representan funciones sencillas para manipular y/o modificar las celdas. A continuación te describo cada una de estas, describiéndolas de izquierda a derecha:

• Mover hacia arriba (Flecha hacia arriba): Este ícono permite mover la celda actual hacia arriba, intercambiándola con la celda que está justo encima de ella.
• Mover hacia abajo (Flecha hacia abajo): Similar al ícono anterior, este permite mover la celda actual hacia abajo, intercambiándola con la celda que está justo debajo.
• Insertar enlace (Ícono de cadena): Este ícono sirve para añadir un enlace a un texto seleccionado en la celda de texto, facilitando la inclusión de hipervínculos en tus textos.
• Editar celda (Ícono de lápiz): Al hacer clic en este ícono, puedes cambiar el tipo de celda (por ejemplo, de código a texto o viceversa) y editar su contenido.
• Duplicar celda en una pestaña (Ícono de dos rectángulos superpuestos): Este ícono permite editar la celda en una pestaña que aparece en la parte superior derecha de la libreta.
• Eliminar celda (Ícono de basurero): Este ícono elimina la celda actual del notebook. Es importante usarlo con precaución ya que no hay opción de deshacer si eliminas una celda por error.
• Menú de opciones (Tres puntos verticales): Este ícono despliega un menú con opciones adicionales, como mover la celda a una posición específica, copiar, cortar, pegar, y otras configuraciones avanzadas para la celda.

Celdas de texto en Google Colab

Comenzaremos explicando varias características importantes que permiten escribir texto de manera enriquecida en libretas de Colab.

Nota: a partir de este momento, nos referiremos a las celdas con un identificador si es necesario, para facilitar su hallazgo en la libreta, este vendrá marcado por una C y un número, lo cual significa Celda número {n}.

Por ejemplo, esta sería la celda número 1, referenciada con –C1–:

Markdown y HTML

Ahora exploremos el contenido que se puede añadir a las celdas de texto. Para poder crear texto enriquecido debemos comprender que las celdas de Colab utilizan un lenguaje de marcado llamado Markdown, el cual permite añadir contenido de manera sencilla a páginas web. Puedes encontrar todo lo relacionado a este lenguaje en markdown.es.

No es necesario que aprendas este lenguaje de marcado, pero tenerlo en cuenta te ayudará a tener contexto de lo que verás al editar celdas de texto.

Para que entiendas mejor de qué hablo, ubica la celda –C2– y realiza doble clic. Verás lo siguiente:

Al dar doble clic observarás cómo luce el contenido en formato Markdown en la parte superior. Esta es la que puedes editar, siendo la parte inferior la manera como luce una vez que la ejecutas o das clic fuera de la celda:

Además de poder utilizar este lenguaje de marcado, Markdown permite usar HTML para añadir elementos y estilos que no están disponibles en la sintaxis de Markdown, como centrar imágenes, insertar tablas personalizadas, o definir estilos específicos.

Da doble clic en la celda –C3– para que observes el mismo texto de –C2– pero generado con HTML:

Estilos y elementos

Ahora pasemos a cómo generar estilos y elementos en las celdas de texto de Colab. Hacerlo es bastante sencillo, ya que, como habrás notado, se tiene a disposición un editor de texto al dar doble clic en la celda:

Secciones y subsecciones

Para añadir títulos y subtítulos, y con ello generar un índice de forma automática, puedes hacer diferentes secciones o subsecciones en las celdas de texto-

Para esto deberás dar clic en la doble T que aparece al principio del menú de edición de texto:

También lo puedes hacer escribiendo el símbolo <<#>> más el nombre de la sección, y añadiendo más asteriscos para designar jerarquías. Esto lo puedes entender mejor dando doble clic en la celda –C4–, donde verás lo siguiente:

Podrás notar como por cada <<#>> adicional añadido se generan subsecciones.

Formatos de texto

Los formatos de texto pueden ser moldeados a través de las demás herramientas del panel. Si das doble clic en la celda –C5–, aparecerá lo siguiente:

(La línea horizontal, por razones de procesos de la libreta, solo aparece cuando cierras el editor de texto).

Puedes modificar cada línea que requieras para comprender cómo se genera cada formato y objeto diferente.

Listas

Al hacer clic en la celda –C6– se mostrará el Markdown para cada tipo de lista. Toma en cuenta que para añadir listas puedes utilizar los íconos de listas que aparecen en el editor de texto, pero si deseas más de dos elementos debes añadirlos manualmente con el lenguaje de marcado.

Tablas

Para generar tablas debes utilizar exclusivamente el lenguaje Markdown. En la celda –C7– podrás ver el formato requerido:

Imágenes

En cuanto a las imágenes, la carga de imágenes es sencilla, solo hay que presionar en el ícono de la imagen del editor:

Esto te permitirá subir una imagen directamente desde los archivos de tu computadora.

En este caso no he colocado una celda en la libreta de Colab del tutorial mostrando una imagen cargada de esta forma, ya que esta acción genera un enorme código de Markdown:

(Y eso solo es una pequeña parte).

Existen varias formas de cargar imágenes, puedes consultaras de forma detallada en esta libreta de Colab.

Matemáticas con LaTeX en Colab

Algo que te será de mucha utilidad para escribir libretas que impliquen notación matemática es la capacidad de Colab de soportar LaTeX, el cual es un lenguaje para generación de expresiones matemáticas. Si deseas conocer la sintaxis de LaTeX puedes visitar su documentación en latex-project.org o visitar wikibooks.org, sin embargo, lo más recomendable es que utilices una herramienta en línea como el de tutorials.point.com, latexeditor.lagrida.com, o utilizar un servicio como Gemini, ChatGPT, o Claude.

Para usar LaTeX en Colab solo deberás colocar la sintaxis entre el signo «$». Si deseas que estén centradas, debes utilizar dos símbolos $$, como se muestra en la celda –C8–:

Celdas de código

Ahora pasemos a revisar algunos detalles de las celdas código.

Instalación de librerías/bibliotecas

Algo fundamental que debes tener en cuenta a la hora de utilizar Colab, es que ya hay algunas bibliotecas de Python instaladas, por lo que no es necesario preocuparse por ello al momento de utilizar las más populares. Por ejemplo, si vas a la celda –C9– y la ejecutas, podrás notar que el código corre sin problemas:

Pero si ejecutas la celda –C10–, obtendrás el siguiente error:

Esto sucede porque la biblioteca mlektic no está instalada de forma nativa en Colab. Para este caso, la puedes instalar utilizando !Pip como se muestra en la celda –C11–:

!Pip es generalmente la manera más común y sencilla de instalar librerías, pero puedes consultar otras formas de hacerlo en este notebook de Colab.

Autocompletado

A estas alturas tal vez ya lo hayas notado. Google Colab, al igual que varios entornos de desarrollo integrados, muestra sugerencias de autocompletado conforme escribes código. Por ejemplo, si creas una celda debajo de la celda –C11–, y escribes print, seguro te aparecerá una sugerencia como esta:

Si presiones la tecla tabulador una o dos veces, verás que esto se autocompleta con el código sugerido:

Esto puede ser de mucha utilidad para agilizar el trabajo de escritura de código.

Asistente Gémini

Seguro también ya habrás notado que Colab ofrece la ayuda de Gemini, la LLM de Google, como asistente para la configuración de código.

Probablemente notaste que cada vez que creas una celda de código aparece la siguiente leyenda:

Para utilizar el asistente de Google solo debes presionar en donde dice <<generar>>:

Y escribir tu consulta:

En este caso, he solicitado crear una gráfica de barras utilizando la librería Matplotlib y he dado clic en <<Generar>>, lo cual creó el siguiente código en la celda –C12–:

Al ejecutarlo se obtiene lo siguiente:

Esta herramienta es muy útil, pero también puede ser (muy) imprecisa. Debes tomar precaución y utilizarla a consciencia; si la usas sin saber bien qué hace tu código, podría estar haciendo mal su trabajo y te podrían suceder dos cosas: o no sabes cómo solucionarlo, o no te das cuenta de que está mal.

Tablas interactivas

Por último, en cuanto a celdas de código, veremos cómo visualizar tablas de manera interactiva. Colab permite esto al realizar la impresión de una tabla generada con la librería Pandas como sigue:

Al ejecutar la celda –C13– podrás notar que se genera una tabla:

Puedes utilizar las opciones presentadas del lado derecho para interactuar con la tabla:

Da clic en el primer ícono para obtener la siguiente vista:

Esta te permitirá que interactúes con los datos, filtrando, navegando y ordenando estos.

Puedes consultar más características de las tablas interactivas en este notebook de Colab.

Ahora da clic en el segundo ícono, esto mostrará algo como lo siguiente:

Esta opción utiliza IA para sugerirte gráficas de los datos contenidos en las tablas. Si crees que alguna es de utilidad, da clic en ella y se generará el código de manera automática:

Finalmente, si das clic en el último ícono, aparecerá lo siguiente:

A pesar de que aparece el mensaje «Suggest a plot» puedes solicitar diferentes acciones a realizar sobre la tabla. Yo he escrito lo siguiente:

Y he obtenido el código de la celda –C14–:

Nota que estos resultados no te saldrán iguales a como lucen en las imágenes al ejecutar las celdas, ya que los valores de la tabla se generan de forma aleatoria.

Te recomiendo hacer tus propios experimentos con la tabla generada en nuevas celdas de código.

Funciones generales

Con esto que hemos visto hasta ahora es seguro que puedes crear libretas de Colab con una organización y atractivo visual considerables. Los siguientes puntos hablarán sobre generalidades que pueden ser desde relativamente básicas, hasta ayudarte a culminar un trabajo más especializado.

Con esto que hemos visto hasta ahora ya tienes más que suficiente para poder utilizar Colab eficazmente para el curso. Si deseas saltarte esta parte o volver a consultarla más tarde, ve al final del tutorial dando clic aquí.

Almacenamiento e historial de versiones

Comenzaremos hablando sobre la barra de herramientas que tienes a disposición en la parte superior de tu espacio de trabajo:

En el primer menú (<<Archivo>>), encontrarás las opciones de almacenamiento, historial de versiones y otras funciones más:

A continuación, se detallan las funciones de cada opción desplegada en el menú <<Archivo>> de Google Colab:

• Ubicar en Drive: Muestra la ubicación del notebook actual dentro de Google Drive (que es donde siempre se almacenan).
• Abrir en modo de sitio de pruebas: Permite abrir el notebook en un entorno aislado para pruebas, útil para evitar afectar el entorno principal.
• Nuevo notebook en Drive: Crea un nuevo notebook en tu Google Drive.
• Abrir bloc de notas (Ctrl+O): Abre un archivo de notebook existente desde Google Drive o desde tu equipo.
• Subir notebook: Permite subir un archivo de notebook desde tu computadora a Google Colab.
• Renombrar: Cambia el nombre del notebook actual.
• Mover: Mueve el notebook a otra carpeta dentro de Google Drive.
• Mover a la papelera: Envía el notebook a la papelera de reciclaje en Google Drive.
• Guardar una copia en Drive: Guarda una copia del notebook actual en tu Google Drive.
• Guardar una copia como Gist en GitHub: Guarda una copia del notebook como un Gist en GitHub.
• Guardar una copia en GitHub: Guarda una copia del notebook en un repositorio de GitHub.
• Guardar (Ctrl+S): Guarda los cambios realizados en el notebook actual.
• Guardar y fijar revisión (Ctrl+M S): Guarda el notebook y marca esta versión como una revisión, creando un punto de restauración.
• Historial de revisión: Muestra el historial de cambios y revisiones realizadas en el notebook.
• Descargar: Ofrece varias opciones para descargar el notebook en diferentes formatos (por ejemplo, .ipynb, .py, .html).
• Imprimir (Ctrl+P): Imprime el notebook actual o lo guarda como PDF.

Edición e inserción de bloques

Para abordar estas opciones, describiré los menús «Editar» e «Insertar» de la barra de herramientas, comenzando por el menú para edición de bloques:

Funciones del menú «Editar» de Colab:

• Deshacer inserción de la celda (Ctrl+M Z): Revierte la última acción de inserción de una celda, restaurando el estado anterior.
• Rehacer (Ctrl+Shift+Y): Rehace la última acción que fue deshecha.
• Seleccionar todas las celdas (Ctrl+Shift+A): Selecciona todas las celdas del notebook, facilitando operaciones en masa como cortar o copiar.
• Cortar celda o selección (Ctrl+M X): Elimina la celda o selección actual y la guarda en el portapapeles para pegarla en otra ubicación.
• Copiar celda o selección (Ctrl+M C): Copia la celda o selección actual al portapapeles sin eliminarla del documento.
• Pegar (Ctrl+M V): Pega el contenido del portapapeles en la ubicación actual.
• Borrar las celdas seleccionadas (Ctrl+M D): Elimina las celdas que están seleccionadas actualmente en el notebook.
• Buscar y reemplazar (Ctrl+H): Abre una herramienta para buscar texto dentro del notebook y, si se desea, reemplazarlo por otro texto.
• Buscar siguiente (Ctrl+G): Salta a la siguiente coincidencia de la búsqueda actual dentro del notebook.
• Buscar anterior (Ctrl+Shift+G): Salta a la coincidencia anterior de la búsqueda actual dentro del notebook.
• Configuración del notebook: Abre un panel de configuración para ajustar varias opciones del notebook, como el tipo de entorno de ejecución, etc.
• Borrar todos los resultados: Limpia todos los resultados de ejecución de celdas en el notebook, dejando solo el código sin los outputs generados.

Proseguimos con el de inserción:

Las funciones del menú Insertar de Colab son:

• Celda de código (Ctrl+M B): Inserta una nueva celda de código en el notebook. Estas celdas se utilizan para escribir y ejecutar código en Python u otros lenguajes soportados.
• Celda de texto: Inserta una nueva celda de texto (Markdown). Estas celdas se utilizan para agregar texto descriptivo, títulos, listas, enlaces, imágenes, y otros elementos de formato dentro del notebook.
• Celda de encabezado de la sección: Inserta una celda de texto con formato de encabezado, útil para dividir el notebook en secciones con títulos destacados.
• Celda de código temporal (Ctrl+Alt+N): Inserta una celda de código que puede ser utilizada de manera temporal. Es similar a una celda de código normal, pero generalmente se usa para pruebas rápidas o código que no se planea mantener en el documento final.
• Fragmentos de código (Ctrl+Alt+P): Inserta fragmentos de código predefinidos, facilitando la reutilización de código común sin tener que escribirlo desde cero.
• Agregar un campo de formulario: Inserta un campo de formulario en el notebook, que puede ser utilizado para interactuar con el código de manera dinámica (por ejemplo, seleccionar valores, ingresar texto, etc.).

Entorno de ejecución

La configuración y administración del entorno de ejecución en Colab es sumamente importante, te permitirá gestionar las ejecuciones de las celdas y los recursos de cómputo:

Las funciones que ofrece el menú de entorno de ejecución de Colab son:

• Ejecutar todo (Ctrl+F9): Ejecuta todas las celdas del notebook desde el principio hasta el final, en orden.
• Ejecutar celdas anteriores a la seleccionada (Ctrl+F8): Ejecuta todas las celdas que están antes de la celda actualmente seleccionada, en orden.
• Ejecutar la celda enfocada (Ctrl+Enter): Ejecuta la celda que está actualmente seleccionada o enfocada sin avanzar a la siguiente celda.
• Ejecutar selección (Ctrl+Shift+Enter): Ejecuta el código que está seleccionado dentro de una celda. Si no hay nada seleccionado, ejecuta toda la celda.
• Ejecutar celda seleccionada y siguientes (Ctrl+F10): Ejecuta la celda seleccionada y todas las celdas que vienen después de ella.
• Interrumpir la ejecución (Ctrl+M I): Detiene la ejecución del código en todas las celdas, útil si un proceso está tomando demasiado tiempo o si quieres detener la ejecución por cualquier motivo.
• Reiniciar la sesión (Ctrl+M .): Reinicia el entorno de ejecución del notebook, borrando todas las variables, archivos temporales y procesos en memoria, pero sin ejecutar nuevamente las celdas.
• Reiniciar la sesión y ejecutar todas las celdas: Reinicia el entorno de ejecución y luego ejecuta todas las celdas desde el principio, útil para garantizar que el código funcione desde un estado limpio.
• Desconectar y borrar el tiempo de ejecución: Desconecta el entorno de ejecución, liberando los recursos y borrando toda la memoria asociada.
• Cambiar tipo de entorno de ejecución: Permite cambiar el tipo de entorno de ejecución, como usar un entorno con GPU, TPU, o cambiar la versión de Python.
• Administrar sesiones: Muestra las sesiones de ejecución actuales y permite administrarlas, como desconectar sesiones activas.
• Ver recursos: Muestra los recursos disponibles y utilizados por el entorno de ejecución actual, como CPU, RAM, y disco.
• Ver registros del entorno de ejecución: Muestra los registros o logs del entorno de ejecución, útil para depuración y monitoreo.

De estas opciones, me parece importante hacer énfasis en <<Cambiar tipo de entorno de ejecución>>, la cual abrirá la siguiente ventana:

Sobre estas configuraciones puedes seleccionar entre lo siguiente:

• Tipo de entorno de ejecución:
  • Selecciona la versión de Python que deseas usar en tu notebook. En este caso, está seleccionado Python 3.

• Acelerador de hardware:
  • CPU: Utiliza el procesador central (CPU) de la máquina para ejecutar el código. Esta es la opción predeterminada.
  • T4 GPU: Selecciona esta opción para utilizar una GPU (Unidad de Procesamiento Gráfico) NVIDIA T4, lo cual es útil para tareas que requieren procesamiento paralelo, como el entrenamiento de modelos de machine learning.
  • A100 GPU: Esta es una opción para utilizar una GPU NVIDIA A100, que es más potente y se considera una opción premium, pero está desactivada aquí.
  • L4 GPU: Otra opción de GPU disponible en ciertos planes, pero desactivada en esta configuración.
  • TPU v2: Selecciona esta opción para utilizar una TPU (Unidad de Procesamiento Tensor), que está optimizada para tareas de machine learning, especialmente aquellas que utilizan TensorFlow.

• Acceso a GPU premium:
  • Si necesitas una GPU de mayor rendimiento (como la A100), puedes adquirir unidades de procesamiento adicionales a través de la opción que te lleva a comprar GPU premium.

Herramientas y configuración

En última instancia, tenemos las opciones de herramientas y configuración del menú <<Herramientas>>:

Las funciones ofrecidas en el menú <<Herramientas>> son las siguientes:

• Paleta de comandos (Ctrl+Shift+P): Abre una paleta de comandos que permite acceder rápidamente a una amplia variedad de acciones y comandos dentro de Google Colab, similar a la funcionalidad de «Command Palette» en editores de texto como Visual Studio Code.
• Configuración: Abre la configuración del notebook donde puedes ajustar preferencias como el tema, el tamaño de fuente, el tipo de entorno de ejecución, y otras opciones relacionadas con la apariencia y el comportamiento del entorno.
• Combinaciones de teclas (Ctrl+M H): Muestra una lista de las combinaciones de teclas (atajos) disponibles en Google Colab, facilitando la ejecución rápida de comandos mediante el teclado.
• Diferencias entre cuadernos: Compara dos versiones de un notebook para mostrar las diferencias entre ellas. Esta herramienta es útil para ver qué cambios se han realizado en diferentes revisiones o versiones del mismo notebook.

Sobre estas últimas, te recomiendo explorar las opciones de configuración existentes en Colab, las cuales podrás explorar al dar clic en «Configuración», que hará aparecer la siguiente ventana:

Panel de apoyo

Pasemos finalmente a hablar sobre el panel que encuentras en la parte superior izquierda de Colab:

Aquí encontrarás los siguientes elementos:

índice

Esta opción muestra el índice de la libreta que se genera de forma automática conforme las secciones añadidas:

Búsqueda

Permite la búsqueda y/o reemplazo de cadenas de texto.

Variables

Muestra información de las variables creadas por el código ejecutado.

Secretos

Almacena valores privados que necesites cargar a tu código de manera segura.

Archivos

Gestiona los archivos almacenados durante la sesión. Además, permite realizar una conexión a los archivos almacenados en tu cuenta de Google Drive.

Tutorial terminado

Así concluimos este tutorial de Colab, si deseas obtener más información sobre sus funciones y actualizaciones puedes consultar los siguientes recursos:

• Descripción general de Colaboratory
• Guía para usar Markdown
• Cómo importar bibliotecas y luego instalar dependencias
• Cómo guardar y cargar notebooks en GitHub
• Formularios interactivos
• Widgets interactivos
• Cómo cargar datos: Drive, Hojas de cálculo y Google Cloud Storage
• Gráficos: visualización de datos
• Cómo comenzar a usar BigQuery
• Blog oficial de Google Colab.

Las prácticas embebidas en nuestras travesías para aprender machine learning solo consisten en que leas las instrucciones y ejecutes los fragmentos de código, lo que significa que con esta introducción, y un poco de interacción que hayas tenido con la plataforma, es más que suficiente para que puedas comenzar a correr los programas en tu navegador, ya sea los míos, o cualquier otro que encuentres compartido en línea. Además, puedes usarlo para generar tus propios códigos y enviarlos a otras personas.

Familiarizarte con un servicio como este es sin duda un gran paso hacia adelante en tu formación en ciencia de datos.

Equipaje listo

Teniendo a la mano Google Colab y los ánimos encendidos, podemos comenzar nuestro primer recorrido en los dominios del machine learning.