Aprendizaje por transferencia

El aprendizaje por transferencia ( TL ) es una técnica de aprendizaje automático (ML) en la que el conocimiento aprendido de una tarea se reutiliza para mejorar el rendimiento en una tarea relacionada. ^[1] Por ejemplo, para la clasificación de imágenes , el conocimiento adquirido al aprender a reconocer automóviles podría aplicarse al intentar reconocer camiones. Este tema está relacionado con la literatura psicológica sobre la transferencia de aprendizaje , aunque los vínculos prácticos entre los dos campos son limitados. La reutilización/transferencia de información de tareas previamente aprendidas a nuevas tareas tiene el potencial de mejorar significativamente la eficiencia del aprendizaje. ^[2]

Dado que el aprendizaje por transferencia utiliza entrenamiento con múltiples funciones objetivo, está relacionado con el aprendizaje automático sensible a los costos y la optimización de múltiples objetivos . ^[3]

En 1976, Bozinovski y Fulgosi publicaron un artículo que abordaba el aprendizaje por transferencia en el entrenamiento de redes neuronales . ^{[4] [5]} El artículo ofrece un modelo matemático y geométrico del tema. En 1981, un informe consideró la aplicación del aprendizaje por transferencia a un conjunto de datos de imágenes que representan letras de terminales de computadora, demostrando experimentalmente el aprendizaje por transferencia positivo y negativo. ^[6]

En 1992, Lorien Pratt formuló el algoritmo de transferencia basada en discriminabilidad (DBT). ^[7]

En 1998, el campo había avanzado para incluir el aprendizaje multitarea , ^[8] junto con fundamentos teóricos más formales. ^[9] Las publicaciones influyentes sobre el aprendizaje por transferencia incluyen el libro Aprendiendo a aprender en 1998, ^[10] una encuesta de 2009 ^[11] y una encuesta de 2019. ^[12]

Ng dijo en su tutorial NIPS 2016 ^{[13] [14]} que TL se convertiría en el próximo impulsor del éxito comercial del aprendizaje automático después del aprendizaje supervisado .

En el artículo de 2020, "Replanteando el preentrenamiento y el autoentrenamiento", ^[15] Zoph et al. informaron que el preentrenamiento puede perjudicar la precisión y, en cambio, recomiendan el autoentrenamiento.

La definición de aprendizaje por transferencia se da en términos de dominios y tareas. Un dominio consta de: un espacio de características y una distribución de probabilidad marginal , donde . Dado un dominio específico, , una tarea consta de dos componentes: un espacio de etiquetas y una función predictiva objetiva . La función se utiliza para predecir la etiqueta correspondiente de una nueva instancia . Esta tarea, denotada por , se aprende a partir de los datos de entrenamiento que consisten en pares , donde y . ^[16]${\displaystyle {\mathcal {D}}}$ ${\displaystyle {\mathcal {X}}}$ ${\estilo de visualización P(X)}$${\displaystyle X=\{x_{1},...,x_{n}\}\en {\mathcal {X}}}$${\displaystyle {\mathcal {D}}=\{{\mathcal {X}},P(X)\}}$${\displaystyle {\mathcal {Y}}}$${\displaystyle f:{\mathcal {X}}\rightarrow {\mathcal {Y}}}$${\estilo de visualización f}$${\estilo de visualización f(x)}$${\estilo de visualización x}$${\displaystyle {\mathcal {T}}=\{{\mathcal {Y}},f(x)\}}$${\displaystyle \{x_{i},y_{i}\}}$${\displaystyle x_{i}\in {\mathcal {X}}}$${\displaystyle y_{i}\in {\mathcal {Y}}}$

Dado un dominio de origen y una tarea de aprendizaje , un dominio de destino y una tarea de aprendizaje , donde , o , el aprendizaje por transferencia tiene como objetivo ayudar a mejorar el aprendizaje de la función predictiva de destino al utilizar el conocimiento en y . ^[16]${\displaystyle {\mathcal {D}}_{S}}$${\displaystyle {\mathcal {T}}_{S}}$${\displaystyle {\mathcal {D}}_{T}}$${\displaystyle {\mathcal {T}}_{T}}$${\displaystyle {\mathcal {D}}_{S}\neq {\mathcal {D}}_{T}}$${\displaystyle {\mathcal {T}}_{S}\neq {\mathcal {T}}_{T}}$${\displaystyle f_{T}(\cdot )}$${\displaystyle {\mathcal {D}}_{T}}$${\displaystyle {\mathcal {D}}_{S}}$${\displaystyle {\mathcal {T}}_{S}}$

Existen algoritmos para el aprendizaje por transferencia en redes lógicas de Markov ^[17] y redes bayesianas ^[18] . El aprendizaje por transferencia se ha aplicado al descubrimiento de subtipos de cáncer, ^[19] la utilización de edificios , ^{[20] [21]} los juegos en general , ^[22] la clasificación de texto , ^{[23] [24]} el reconocimiento de dígitos, ^[25] las imágenes médicas y el filtrado de spam . ^[26]

En 2020, se descubrió que, debido a sus naturalezas físicas similares, es posible el aprendizaje por transferencia entre las señales electromiográficas (EMG) de los músculos y la clasificación de los comportamientos de las ondas cerebrales electroencefalográficas (EEG), desde el dominio de reconocimiento de gestos hasta el dominio de reconocimiento de estados mentales. Se observó que esta relación funcionaba en ambas direcciones, lo que demuestra que la electroencefalografía también se puede utilizar para clasificar la EMG. ^[27] Los experimentos observaron que la precisión de las redes neuronales y las redes neuronales convolucionales mejoró ^[28] a través del aprendizaje por transferencia tanto antes de cualquier aprendizaje (en comparación con la distribución de peso aleatoria estándar) como al final del proceso de aprendizaje (asíntota). Es decir, los resultados mejoran con la exposición a otro dominio. Además, el usuario final de un modelo entrenado previamente puede cambiar la estructura de capas completamente conectadas para mejorar el rendimiento. ^[29]

Se han implementado varias compilaciones de algoritmos de aprendizaje por transferencia y adaptación de dominio:

• ADAPTAR ^[30] (Python)
• TLlib ^[31] (Python)
• Caja de herramientas de adaptación de dominios ^[32] (Matlab)

• Crossover (algoritmo genético)
• Adaptación del dominio
• Juego en general
• Aprendizaje multitarea
• Optimización multitarea
• Transferencia de aprendizaje en psicología educativa
• Aprendizaje de cero disparos
• Aprendizaje de características
• validez externa

• Thrun, Sebastian; Pratt, Lorien (6 de diciembre de 2012). Aprender a aprender. Springer Science & Business Media. ISBN 978-1-4615-5529-2.