Aprendizaje automático

El aprendizaje automático es una forma de construir sistemas informáticos que se adaptan y aprenden de los datos para mejorar el rendimiento en una tarea, generalmente encontrando patrones que se pueden aplicar a nuevas entradas [1].

El aprendizaje automático es uno de los principales métodos para construir sistemas de inteligencia artificial modernos. En lugar de escribir cada regla a mano, un equipo elige datos, un método de aprendizaje, una tarea y una forma de medir el rendimiento. El proceso de aprendizaje produce un modelo. Ese modelo luego puede clasificar, ordenar, predecir, recomendar, detectar, agrupar o generar basándose en nuevos datos de entrada.

La palabra clave es "nuevo". Un modelo que solo memoriza ejemplos de entrenamiento no es muy útil. El objetivo es aprender patrones que funcionen más allá de los ejemplos que vio durante el entrenamiento. Esa capacidad a menudo se llama generalización. Cuando falla la generalización, un modelo puede parecer bueno en una demostración pero realizar mal con usuarios reales, datos diferentes o condiciones cambiantes.

El aprendizaje automático impulsa muchas herramientas que ya utilizan las personas: detección de correo no deseado, alertas de fraude, clasificación de búsquedas, recomendaciones de productos, reconocimiento de voz, etiquetado de imágenes, estimaciones de rutas, apoyo para el riesgo crediticio y partes de la inteligencia artificial generativa. Un usuario no necesita conocer las matemáticas para usar estos sistemas de manera inteligente, pero sí debe entender que la salida del modelo depende de los datos, las decisiones de entrenamiento, la evaluación y el contexto de implementación.

Esto importa porque el aprendizaje automático puede hacer que el trabajo sea más rápido, pero también ocultar la incertidumbre. Una puntuación de modelo puede parecer precisa incluso cuando los datos son incompletos. Una recomendación puede estar moldeada por comportamientos pasados que ya no se ajusten. Un clasificador puede funcionar para casos comunes y fallar para casos raros. Los Elementos del Aprendizaje Estadístico cubre el aprendizaje supervisado y no supervisado como partes amplias del campo, lo cual es un útil recordatorio de que el aprendizaje automático no es una sola técnica [2].

Un flujo de trabajo básico comienza con una tarea. Para el aprendizaje supervisado, el equipo recopila ejemplos que incluyen entradas y salidas deseadas: mensajes etiquetados como spam o no spam, imágenes etiquetadas por objeto, o transacciones pasadas etiquetadas como fraudulentas o normales. El algoritmo de aprendizaje ajusta un modelo para que sus salidas se ajusten mejor a los ejemplos de entrenamiento.

El aprendizaje no supervisado comienza de manera diferente. Busca estructura en los datos sin una etiqueta de objetivo única, como agrupar a clientes similares o encontrar grupos de documentos relacionados. El aprendizaje por refuerzo es otra vez diferente: un sistema aprende a partir de retroalimentación sobre acciones y resultados. Estas categorías son útiles, pero los productos reales a menudo combinan varios métodos con reglas, revisión humana y restricciones de software.

Después del entrenamiento, el modelo debe ser evaluado. Las equipos normalmente separan los datos de entrenamiento de los datos de prueba o validación para poder preguntar si el modelo funciona en ejemplos en los que no se entrenó. Una buena evaluación verifica más de un número. Mira los errores, casos límite, datos faltantes, rendimiento de subgrupos y si el modelo sigue siendo útil cuando el mundo cambia.

Imagina un servicio de correo electrónico que construye un filtro de spam. El equipo recopila muchos mensajes anteriores y los etiqueta como spam o no spam. El modelo aprende patrones de esos ejemplos: enlaces sospechosos, frases repetidas, comportamiento del remitente, formato y informes de usuarios. Cuando llega un nuevo correo electrónico, el modelo produce una puntuación o etiqueta.

Un buen producto no trata esa etiqueta como verdad perfecta. Puede colocar probable spam en una carpeta separada, permitir a los usuarios corregir errores, monitorear falsos positivos y reentrenar cuando los atacantes cambien tácticas. El objetivo no es hacer que el modelo suene inteligente. El objetivo es crear un sistema de apoyo a la toma de decisiones útil que funcione bien con nuevos mensajes mientras permite a las personas recuperarse de errores.

La mayor equivocación es que el aprendizaje automático descubre la verdad automáticamente. Descubre patrones que ayudan a optimizar una tarea bajo las condiciones en las que fue dada. Si las etiquetas son incorrectas, los datos están sesgados, la tarea está mal definida o el futuro se parece poco al pasado, el modelo puede producir resultados poco confiables.

Otra equivocación es pensar que más datos siempre solucionan el problema. Más datos relevantes y de alta calidad pueden ayudar. Más datos obsoletos, ruidosos, sesgados, duplicados o mal etiquetados pueden empeorar el sistema. Un modelo se forma con los ejemplos y objetivos utilizados para entrenarlo.

Los sistemas de aprendizaje automático pueden fallar por sobreajuste, mala generalización, cambio de datos, sesgos ocultos, fuga de privacidad, evaluación débil, propiedad poco clara y mala diseño del producto. Un modelo puede funcionar bien en general, pero aún fallar en un pequeño grupo, una condición rara o un caso de alto riesgo. Por eso, la precisión promedio no es suficiente para decisiones serias.

NIST trata los sistemas de IA como sistemas socio-técnicos cuyos riesgos pueden provenir de componentes técnicos y del contexto humano, organizacional y social que los rodea [3]. Para el aprendizaje automático, eso significa que el modelo es solo una parte del sistema. La recolección de datos, la etiquetación, el monitoreo, la interfaz de usuario, los bucles de retroalimentación, los caminos de apelación y la supervisión humana son importantes.

Antes de confiar en un resultado de aprendizaje automático, pregúntese: ¿Para qué tarea se entrenó el modelo? ¿Qué datos lo moldearon? ¿Qué significa el resultado? ¿Fue probado en datos como este caso? ¿Qué tipos de errores son comunes? ¿El modelo funciona de manera justa en grupos relevantes? ¿Ha cambiado el mundo desde el entrenamiento? ¿Quién puede anular o revisar el resultado?

Use salidas de aprendizaje automático como señales útiles, no como verdad automática. Para clasificaciones o sugerencias de bajo impacto, un modelo puede ahorrar tiempo. Para decisiones de contratación, préstamo, médico, legal, seguridad, seguridad o impacto en clientes, se requiere una prueba más sólida, documentación, monitoreo y responsabilidad humana.