Procesamiento del lenguaje natural

Este artículo necesita citas adicionales para su verificación . Por favor, ayude a mejorar este artículo añadiendo citas de fuentes fiables . El material sin fuentes puede ser cuestionado y eliminado. Buscar fuentes:  «Procesamiento del lenguaje natural» – noticias  · periódicos  · libros  · académico  · JSTOR ( mayo de 2024 ) ( Aprenda cómo y cuándo eliminar este mensaje )

El procesamiento del lenguaje natural ( PLN ) es un subcampo de la informática y, en especial, de la inteligencia artificial . Su principal objetivo es dotar a los ordenadores de la capacidad de procesar datos codificados en lenguaje natural y, por tanto, está estrechamente relacionado con la recuperación de información , la representación del conocimiento y la lingüística computacional , un subcampo de la lingüística . Normalmente, los datos se recopilan en corpus de texto , utilizando enfoques basados ​​en reglas, estadísticos o neuronales en el aprendizaje automático y el aprendizaje profundo .

Las principales tareas en el procesamiento del lenguaje natural son el reconocimiento de voz , la clasificación de texto , la comprensión del lenguaje natural y la generación del lenguaje natural .

El procesamiento del lenguaje natural tiene sus raíces en la década de 1950. ^[1] Ya en 1950, Alan Turing publicó un artículo titulado " Computing Machinery and Intelligence " en el que proponía lo que hoy se denomina el test de Turing como criterio de inteligencia, aunque en aquel momento no se lo articulaba como un problema separado de la inteligencia artificial. El test propuesto incluye una tarea que implica la interpretación y generación automatizadas del lenguaje natural.

La premisa de la PNL simbólica está bien resumida en el experimento de la habitación china de John Searle : dada una colección de reglas (por ejemplo, un libro de frases chino, con preguntas y respuestas correspondientes), la computadora emula la comprensión del lenguaje natural (u otras tareas de PNL) aplicando esas reglas a los datos que enfrenta.

• Década de 1950 : El experimento de Georgetown en 1954 implicó la traducción totalmente automática de más de sesenta oraciones rusas al inglés. Los autores afirmaron que en un plazo de tres o cinco años, la traducción automática sería un problema resuelto. ^[2] Sin embargo, el progreso real fue mucho más lento y, después del informe ALPAC de 1966, que concluyó que diez años de investigación no habían logrado cumplir las expectativas, la financiación para la traducción automática se redujo drásticamente. Se realizaron pocas investigaciones adicionales en traducción automática en Estados Unidos (aunque algunas investigaciones continuaron en otros lugares, como Japón y Europa ^[3] ) hasta finales de la década de 1980, cuando se desarrollaron los primeros sistemas de traducción automática estadística .
• Década de 1960 : Algunos sistemas de procesamiento de lenguaje natural que tuvieron un éxito notable fueron SHRDLU , un sistema de lenguaje natural que funcionaba en " mundos en bloques " restringidos con vocabularios restringidos, y ELIZA , una simulación de un psicoterapeuta rogeriano , escrita por Joseph Weizenbaum entre 1964 y 1966. Al no utilizar prácticamente ninguna información sobre el pensamiento o la emoción humana, ELIZA a veces proporcionaba una interacción sorprendentemente similar a la humana. Cuando el "paciente" excedía la muy pequeña base de conocimiento, ELIZA podía proporcionar una respuesta genérica, por ejemplo, responder a "Me duele la cabeza" con "¿Por qué dices que te duele la cabeza?". El exitoso trabajo de Ross Quillian sobre el lenguaje natural se demostró con un vocabulario de solo veinte palabras, porque eso era todo lo que cabía en la memoria de una computadora en ese momento. ^[4]

• Década de 1970 : Durante la década de 1970, muchos programadores comenzaron a escribir " ontologías conceptuales ", que estructuraban información del mundo real en datos comprensibles para computadoras. Algunos ejemplos son MARGIE (Schank, 1975), SAM (Cullingford, 1978), PAM (Wilensky, 1978), TaleSpin (Meehan, 1976), QUALM (Lehnert, 1977), Politics (Carbonell, 1979) y Plot Units (Lehnert 1981). Durante esta época, se escribieron los primeros chatterbots (por ejemplo, PARRY ).
• Década de 1980 : La década de 1980 y principios de la de 1990 marcan el apogeo de los métodos simbólicos en PNL. Las áreas de enfoque de la época incluyeron la investigación sobre análisis sintáctico basado en reglas (por ejemplo, el desarrollo de HPSG como una operacionalización computacional de la gramática generativa ), morfología (por ejemplo, morfología de dos niveles ^[5] ), semántica (por ejemplo, algoritmo de Lesk ), referencia (por ejemplo, dentro de la teoría del centrado ^[6] ) y otras áreas de comprensión del lenguaje natural (por ejemplo, en la teoría de la estructura retórica ). Se continuaron otras líneas de investigación, por ejemplo, el desarrollo de chatterbots con Racter y Jabberwacky . Un desarrollo importante (que finalmente condujo al giro estadístico en la década de 1990) fue la creciente importancia de la evaluación cuantitativa en este período. ^[7]

Hasta la década de 1980, la mayoría de los sistemas de procesamiento del lenguaje natural se basaban en conjuntos complejos de reglas escritas a mano. Sin embargo, a partir de finales de esa década se produjo una revolución en el procesamiento del lenguaje natural con la introducción de algoritmos de aprendizaje automático para el procesamiento del lenguaje. Esto se debió tanto al aumento constante de la potencia computacional (véase la ley de Moore ) como a la disminución gradual del predominio de las teorías lingüísticas chomskianas (por ejemplo, la gramática transformacional ), cuyos fundamentos teóricos desalentaban el tipo de lingüística de corpus que subyace al enfoque de aprendizaje automático para el procesamiento del lenguaje. ^[8]

• Década de 1990 : Muchos de los primeros éxitos notables en métodos estadísticos en PNL se produjeron en el campo de la traducción automática , debido especialmente al trabajo en IBM Research, como los modelos de alineación de IBM . Estos sistemas pudieron aprovechar los corpus textuales multilingües existentes que habían sido producidos por el Parlamento de Canadá y la Unión Europea como resultado de leyes que exigían la traducción de todos los procedimientos gubernamentales a todos los idiomas oficiales de los sistemas de gobierno correspondientes. Sin embargo, la mayoría de los demás sistemas dependían de corpus desarrollados específicamente para las tareas implementadas por estos sistemas, lo que fue (y a menudo sigue siendo) una limitación importante en el éxito de estos sistemas. Como resultado, se ha dedicado una gran cantidad de investigación a métodos para aprender de manera más efectiva a partir de cantidades limitadas de datos.
• Década de 2000 : con el crecimiento de la web, desde mediados de los años 90 se han puesto a disposición cantidades cada vez mayores de datos lingüísticos sin anotación (sin anotaciones). Por ello, la investigación se ha centrado cada vez más en algoritmos de aprendizaje no supervisado y semisupervisado . Dichos algoritmos pueden aprender de datos que no han sido anotados manualmente con las respuestas deseadas o utilizando una combinación de datos anotados y no anotados. Por lo general, esta tarea es mucho más difícil que el aprendizaje supervisado y, por lo general, produce resultados menos precisos para una cantidad determinada de datos de entrada. Sin embargo, hay una enorme cantidad de datos no anotados disponibles (incluido, entre otras cosas, todo el contenido de la World Wide Web ), que a menudo pueden compensar los resultados inferiores si el algoritmo utilizado tiene una complejidad temporal lo suficientemente baja como para ser práctico.

En 2003, el modelo de n-gramas de palabras , en ese momento el mejor algoritmo estadístico, fue superado por un perceptrón multicapa (con una sola capa oculta y una longitud de contexto de varias palabras entrenado en hasta 14 millones de palabras con un clúster de CPU en modelado de lenguaje ) por Yoshua Bengio con coautores. ^[9]

En 2010, Tomáš Mikolov (entonces estudiante de doctorado en la Universidad Tecnológica de Brno ) con coautores aplicó una red neuronal recurrente simple con una sola capa oculta al modelado del lenguaje, ^[10] y en los años siguientes continuó desarrollando Word2vec . En la década de 2010, el aprendizaje de representación y los métodos de aprendizaje automático de estilo de red neuronal profunda (con muchas capas ocultas) se generalizaron en el procesamiento del lenguaje natural. Esa popularidad se debió en parte a una oleada de resultados que mostraban que dichas técnicas ^{[11] [12]} pueden lograr resultados de vanguardia en muchas tareas de lenguaje natural, por ejemplo, en el modelado del lenguaje ^[13] y el análisis sintáctico. ^{[14] [15]} Esto es cada vez más importante en la medicina y la atención médica , donde el PNL ayuda a analizar notas y textos en registros médicos electrónicos que de otro modo serían inaccesibles para su estudio cuando se busca mejorar la atención ^[16] o proteger la privacidad del paciente. ^[17]

El enfoque simbólico, es decir, la codificación manual de un conjunto de reglas para manipular símbolos, junto con una búsqueda en el diccionario, fue históricamente el primer enfoque utilizado tanto por la IA en general como por la PNL en particular: ^{[18] [19]} como por ejemplo escribiendo gramáticas o ideando reglas heurísticas para la derivación .

Por otro lado, los enfoques de aprendizaje automático , que incluyen redes estadísticas y neuronales, tienen muchas ventajas sobre el enfoque simbólico:

• Tanto los métodos estadísticos como los de redes neuronales pueden centrarse más en los casos más comunes extraídos de un corpus de textos, mientras que el enfoque basado en reglas necesita proporcionar reglas tanto para los casos raros como para los comunes por igual.

• Los modelos de lenguaje , producidos por métodos estadísticos o de redes neuronales, son más robustos tanto a entradas desconocidas (por ejemplo, que contienen palabras o estructuras que no se han visto antes) como a entradas erróneas (por ejemplo, con palabras mal escritas o palabras omitidas accidentalmente) en comparación con los sistemas basados ​​en reglas, que también son más costosos de producir.

• Cuanto más grande sea un modelo de lenguaje (probabilístico), más preciso será, en contraste con los sistemas basados ​​en reglas que pueden ganar precisión solo aumentando la cantidad y la complejidad de las reglas, lo que conduce a problemas de intratabilidad .

Aunque en 2020 todavía se utilizaban sistemas basados ​​en reglas para manipular símbolos, con el avance de los LLM en 2023 se han vuelto prácticamente obsoletos.

Antes de eso se utilizaban comúnmente:

• cuando la cantidad de datos de entrenamiento es insuficiente para aplicar con éxito métodos de aprendizaje automático, por ejemplo, para la traducción automática de idiomas con pocos recursos, como los que proporciona el sistema Apertium ,
• para el preprocesamiento en pipelines de PNL, por ejemplo, tokenización o
• para posprocesar y transformar la salida de procesos de PNL, por ejemplo, para la extracción de conocimiento a partir de análisis sintácticos.

A finales de la década de 1980 y mediados de la década de 1990, el enfoque estadístico puso fin a un período de invierno de la IA , que fue causado por las ineficiencias de los enfoques basados ​​en reglas. ^{[20] [21]}

Los primeros árboles de decisión , que producían sistemas de reglas estrictas de tipo if-then , eran muy similares a los antiguos enfoques basados ​​en reglas. Solo la introducción de los modelos ocultos de Markov , aplicados al etiquetado de categorías gramaticales, anunció el fin del antiguo enfoque basado en reglas.

Una desventaja importante de los métodos estadísticos es que requieren una ingeniería de características elaborada . Desde 2015, ^[22] el enfoque estadístico ha sido reemplazado por el enfoque de redes neuronales , utilizando redes semánticas ^[23] e incrustaciones de palabras para capturar las propiedades semánticas de las palabras.

Las tareas intermedias (por ejemplo, etiquetado de partes del discurso y análisis de dependencias) ya no son necesarias.

La traducción automática neuronal , basada en transformaciones de secuencia a secuencia recién inventadas en ese entonces , hizo obsoletos los pasos intermedios, como la alineación de palabras, que antes eran necesarios para la traducción automática estadística .

A continuación se incluye una lista de algunas de las tareas más investigadas en el procesamiento del lenguaje natural. Algunas de estas tareas tienen aplicaciones directas en el mundo real, mientras que otras suelen servir como subtareas que se utilizan para ayudar a resolver tareas más grandes.

Aunque las tareas de procesamiento del lenguaje natural están estrechamente relacionadas, se pueden subdividir en categorías para mayor comodidad. A continuación se ofrece una división general.

Reconocimiento óptico de caracteres (OCR)

Dada una imagen que representa un texto impreso, determine el texto correspondiente.

Reconocimiento de voz

Dado un fragmento de sonido de una o más personas hablando, determine la representación textual del discurso. Esto es lo opuesto a la conversión de texto a voz y es uno de los problemas extremadamente difíciles denominados coloquialmente " AI-complete " (ver arriba). En el habla natural casi no hay pausas entre palabras sucesivas y, por lo tanto, la segmentación del habla es una subtarea necesaria del reconocimiento de voz (ver abajo). En la mayoría de los idiomas hablados, los sonidos que representan letras sucesivas se mezclan entre sí en un proceso denominado coarticulación , por lo que la conversión de la señal analógica en caracteres discretos puede ser un proceso muy difícil. Además, dado que las palabras en el mismo idioma son pronunciadas por personas con diferentes acentos, el software de reconocimiento de voz debe ser capaz de reconocer la amplia variedad de entradas como idénticas entre sí en términos de su equivalente textual.

Segmentación del habla

Dado un fragmento de sonido de una o más personas hablando, sepárelo en palabras. Es una subtarea del reconocimiento de voz y, por lo general, se agrupa con ella.

Texto a voz

Dado un texto, transforme esas unidades y produzca una representación hablada. La conversión de texto a voz se puede utilizar para ayudar a las personas con discapacidad visual. ^[24]

Segmentación de palabras ( Tokenización )

La tokenización es un proceso utilizado en el análisis de texto que divide el texto en palabras individuales o fragmentos de palabras. Esta técnica da como resultado dos componentes clave: un índice de palabras y un texto tokenizado. El índice de palabras es una lista que asigna palabras únicas a identificadores numéricos específicos, y el texto tokenizado reemplaza cada palabra con su token numérico correspondiente. Estos tokens numéricos se utilizan luego en varios métodos de aprendizaje profundo. ^[25]

Para un idioma como el inglés , esto es bastante trivial, ya que las palabras suelen estar separadas por espacios. Sin embargo, algunos idiomas escritos como el chino , el japonés y el tailandés no marcan los límites de las palabras de esa manera, y en esos idiomas la segmentación de texto es una tarea importante que requiere conocimiento del vocabulario y la morfología de las palabras del idioma. A veces, este proceso también se utiliza en casos como la creación de bolsas de palabras (BOW) en la minería de datos. ^{[ cita requerida ]}

Lematización

La tarea de eliminar únicamente las terminaciones flexivas y devolver la forma base del diccionario de una palabra, también conocida como lema. La lematización es otra técnica para reducir las palabras a su forma normalizada. Pero en este caso, la transformación en realidad utiliza un diccionario para asignar las palabras a su forma real. ^[26]

Segmentación morfológica

Separar las palabras en morfemas individuales e identificar la clase de los morfemas. La dificultad de esta tarea depende en gran medida de la complejidad de la morfología ( es decir , la estructura de las palabras) del idioma en cuestión. El inglés tiene una morfología bastante simple, especialmente la morfología flexiva , y por lo tanto a menudo es posible ignorar esta tarea por completo y simplemente modelar todas las formas posibles de una palabra (por ejemplo, "abrir, abre, abierto, apertura") como palabras separadas. Sin embargo, en idiomas como el turco o el meitei , un idioma indio altamente aglutinado , tal enfoque no es posible, ya que cada entrada del diccionario tiene miles de formas posibles de palabras. ^[27]

Etiquetado de partes del discurso

Dada una oración, determina la parte gramatical (POS) para cada palabra. Muchas palabras, especialmente las más comunes, pueden servir como múltiples partes gramaticales. Por ejemplo, "book" puede ser un sustantivo ("the book on the table") o un verbo ("to book a flight"); "set" puede ser un sustantivo, verbo o adjetivo ; y "out" puede ser cualquiera de al menos cinco partes gramaticales diferentes.

Derivación del tallo

Proceso de reducción de palabras flexivas (o a veces derivadas) a una forma base (por ejemplo, "close" será la raíz de "closed", "closing", "closer", "closer", etc.). La lematización produce resultados similares a la lematización, pero lo hace en base a reglas, no a un diccionario.

Inducción gramatical ^[28]

Generar una gramática formal que describa la sintaxis de un lenguaje.

Desambiguación de los límites de las oraciones (también conocida como " desambiguación de los límites de las oraciones ")

Dado un fragmento de texto, encuentre los límites de las oraciones. Los límites de las oraciones suelen estar marcados por puntos u otros signos de puntuación , pero estos mismos caracteres pueden tener otros propósitos (por ejemplo, marcar abreviaturas ).

Analizando

Determinar el árbol de análisis sintáctico (análisis gramatical) de una oración dada. La gramática de los lenguajes naturales es ambigua y las oraciones típicas tienen múltiples análisis posibles: quizás sorprendentemente, para una oración típica puede haber miles de análisis sintácticos potenciales (la mayoría de los cuales parecerán completamente absurdos para un humano). Hay dos tipos principales de análisis sintáctico: análisis sintáctico de dependencia y análisis sintáctico de circunscripción . El análisis sintáctico de dependencia se centra en las relaciones entre las palabras de una oración (marcando cosas como objetos primarios y predicados), mientras que el análisis sintáctico de circunscripción se centra en construir el árbol de análisis sintáctico utilizando una gramática probabilística libre de contexto (PCFG) (ver también gramática estocástica ).

Semántica léxica

¿Cuál es el significado computacional de palabras individuales en contexto?

Semántica distributiva

¿Cómo podemos aprender representaciones semánticas a partir de datos?

Reconocimiento de entidad nombrada (NER)

Dado un flujo de texto, determine qué elementos del texto corresponden a nombres propios, como personas o lugares, y cuál es el tipo de cada uno de esos nombres (por ejemplo, persona, ubicación, organización). Aunque la capitalización puede ayudar a reconocer entidades con nombre en idiomas como el inglés, esta información no puede ayudar a determinar el tipo de entidad con nombre y, en cualquier caso, a menudo es inexacta o insuficiente. Por ejemplo, la primera letra de una oración también se escribe con mayúscula y las entidades con nombre a menudo abarcan varias palabras, de las cuales solo algunas se escriben con mayúscula. Además, muchos otros idiomas en escrituras no occidentales (por ejemplo, chino o árabe ) no tienen ninguna mayúscula, e incluso los idiomas con mayúscula pueden no usarla de manera consistente para distinguir nombres. Por ejemplo, el alemán escribe con mayúscula todos los sustantivos , independientemente de si son nombres, y el francés y el español no escriben con mayúscula los nombres que sirven como adjetivos . Otro nombre para esta tarea es clasificación de tokens. ^[29]

Análisis de sentimientos (ver también Análisis de sentimientos multimodal )

El análisis de sentimientos es un método computacional utilizado para identificar y clasificar la intención emocional detrás del texto. Esta técnica implica analizar el texto para determinar si el sentimiento expresado es positivo, negativo o neutral. Los modelos para la clasificación de sentimientos generalmente utilizan entradas como n-gramas de palabras , características de frecuencia de término-frecuencia de documento inversa (TF-IDF), características generadas manualmente o emplean modelos de aprendizaje profundo diseñados para reconocer dependencias tanto a largo como a corto plazo en secuencias de texto. Las aplicaciones del análisis de sentimientos son diversas y se extienden a tareas como la categorización de las reseñas de los clientes en varias plataformas en línea. ^[25]

Extracción de terminología

El objetivo de la extracción de terminología es extraer automáticamente términos relevantes de un corpus determinado.

Desambiguación del sentido de las palabras (WSD)

Muchas palabras tienen más de un significado ; debemos seleccionar el significado que tenga más sentido en el contexto. Para este problema, normalmente se nos proporciona una lista de palabras y significados asociados, por ejemplo, de un diccionario o de un recurso en línea como WordNet .

Vinculación de entidades

Muchas palabras (normalmente nombres propios) hacen referencia a entidades nombradas ; aquí tenemos que seleccionar la entidad (un individuo famoso, un lugar, una empresa, etc.) a la que se hace referencia en el contexto.

Extracción de relaciones

Dado un fragmento de texto, identifique las relaciones entre entidades nombradas (por ejemplo, quién está casado con quién).

Análisis semántico

Dado un fragmento de texto (normalmente una oración), se produce una representación formal de su semántica, ya sea como un gráfico (por ejemplo, en el análisis AMR ) o de acuerdo con un formalismo lógico (por ejemplo, en el análisis DRT ). Este desafío normalmente incluye aspectos de varias tareas de PNL más elementales de la semántica (por ejemplo, etiquetado de roles semánticos, desambiguación del sentido de las palabras) y se puede ampliar para incluir un análisis del discurso completo (por ejemplo, análisis del discurso, correferencia; consulte Comprensión del lenguaje natural a continuación).

Etiquetado de roles semánticos (ver también etiquetado de roles semánticos implícitos a continuación)

Dada una sola oración, identificar y desambiguar predicados semánticos (por ejemplo, marcos verbales ), luego identificar y clasificar los elementos del marco ( roles semánticos ).

Resolución de correferencia

Dada una oración o un fragmento de texto más grande, determine qué palabras ("menciones") se refieren a los mismos objetos ("entidades"). La resolución de anáforas es un ejemplo específico de esta tarea, y se ocupa específicamente de hacer coincidir los pronombres con los sustantivos o nombres a los que se refieren. La tarea más general de resolución de correferencia también incluye la identificación de las llamadas "relaciones puente" que involucran expresiones referenciales . Por ejemplo, en una oración como "Entró a la casa de John por la puerta principal", "la puerta principal" es una expresión referencial y la relación puente que se debe identificar es el hecho de que la puerta a la que se hace referencia es la puerta principal de la casa de John (en lugar de alguna otra estructura a la que también se podría hacer referencia).

Análisis del discurso

Esta rúbrica incluye varias tareas relacionadas. Una de ellas es el análisis del discurso, es decir, la identificación de la estructura del discurso de un texto conectado, es decir, la naturaleza de las relaciones discursivas entre oraciones (por ejemplo, elaboración, explicación, contraste). Otra tarea posible es reconocer y clasificar los actos de habla en un fragmento de texto (por ejemplo, pregunta de sí o no, pregunta de contenido, enunciado, aserción, etc.).

Etiquetado de roles semánticos implícitos

Dada una sola oración, identificar y desambiguar predicados semánticos (por ejemplo, marcos verbales ) y sus roles semánticos explícitos en la oración actual (ver Etiquetado de roles semánticos arriba). Luego, identificar los roles semánticos que no se realizan explícitamente en la oración actual, clasificarlos en argumentos que se realizan explícitamente en otra parte del texto y aquellos que no están especificados, y resolver los primeros contra el texto local. Una tarea estrechamente relacionada es la resolución de anáfora cero, es decir, la extensión de la resolución de correferencia a los idiomas pro-drop .

Reconociendo la implicación textual

Dados dos fragmentos de texto, determinar si la verdad de uno implica la del otro, implica la negación del otro o permite que el otro sea verdadero o falso. ^[30]

Segmentación y reconocimiento de temas

Dado un fragmento de texto, sepárelo en segmentos, cada uno de los cuales esté dedicado a un tema, e identifique el tema del segmento.

Minería de argumentos

El objetivo de la minería de argumentos es la extracción e identificación automática de estructuras argumentativas de textos en lenguaje natural con la ayuda de programas informáticos. ^[31] Dichas estructuras argumentativas incluyen la premisa, las conclusiones, el esquema argumental y la relación entre el argumento principal y el secundario, o el argumento principal y el contraargumento dentro del discurso. ^{[32] [33]}

Resumen automático (resumen de texto)

Producir un resumen legible de un fragmento de texto. Se suele utilizar para proporcionar resúmenes de textos de un tipo conocido, como trabajos de investigación o artículos de la sección financiera de un periódico.

Corrección de errores gramaticales

La detección y corrección de errores gramaticales implica una gran variedad de problemas en todos los niveles de análisis lingüístico (fonología/ortografía, morfología, sintaxis, semántica, pragmática). La corrección de errores gramaticales tiene un gran impacto ya que afecta a cientos de millones de personas que usan o adquieren el inglés como segunda lengua. Por lo tanto, ha sido objeto de varias tareas compartidas desde 2011. ^{[34] [35] [36]} En lo que respecta a la ortografía, la morfología, la sintaxis y ciertos aspectos de la semántica, y debido al desarrollo de potentes modelos neuronales del lenguaje como GPT-2 , ahora (2019) se puede considerar un problema en gran medida resuelto y se está comercializando en varias aplicaciones comerciales.

Traducción lógica

Traducir un texto de un lenguaje natural a la lógica formal.

Traducción automática (TM)

Traducir automáticamente texto de un idioma humano a otro. Este es uno de los problemas más difíciles y pertenece a una clase de problemas que coloquialmente se denominan " completos con IA ", es decir, que requieren todos los diferentes tipos de conocimiento que poseen los humanos (gramática, semántica, hechos sobre el mundo real, etc.) para resolverlos correctamente.

Comprensión del lenguaje natural (NLU)

Convertir fragmentos de texto en representaciones más formales, como estructuras lógicas de primer orden , que son más fáciles de manipular para los programas informáticos . La comprensión del lenguaje natural implica la identificación de la semántica deseada a partir de las múltiples semánticas posibles que se pueden derivar de una expresión de lenguaje natural que generalmente toma la forma de notaciones organizadas de conceptos de lenguaje natural. La introducción y creación de metamodelos y ontologías del lenguaje son soluciones empíricas eficientes. Se espera una formalización explícita de la semántica del lenguaje natural sin confusiones con suposiciones implícitas como la suposición de mundo cerrado (CWA) frente a la suposición de mundo abierto , o Sí/No subjetivo frente a Verdadero/Falso objetivo para la construcción de una base de formalización semántica. ^[37]

Generación de lenguaje natural (NLG):

Convertir información de bases de datos informáticas o intenciones semánticas en lenguaje humano legible.

Generación de libros

La creación de libros completos no es una tarea de PNL propiamente dicha, sino una extensión de la generación de lenguaje natural y otras tareas de PNL. El primer libro generado por máquina fue creado por un sistema basado en reglas en 1984 (Racter, The policeman's beard is half-constructed ). ^[38] El primer trabajo publicado por una red neuronal se publicó en 2018, 1 the Road , comercializado como novela, contiene sesenta millones de palabras. Ambos sistemas son básicamente modelos de lenguaje elaborados pero sin sentido (libres de semántica) . El primer libro de ciencia generado por máquina se publicó en 2019 (Beta Writer, Lithium-Ion Batteries , Springer, Cham). ^[39] A diferencia de Racter y 1 the Road , este se basa en el conocimiento fáctico y en el resumen del texto.

Documento AI

Una plataforma de inteligencia artificial para documentos se basa en la tecnología de procesamiento del lenguaje natural (PLN) y permite a los usuarios sin experiencia previa en inteligencia artificial, aprendizaje automático o PNL entrenar rápidamente una computadora para extraer los datos específicos que necesitan de diferentes tipos de documentos. La inteligencia artificial para documentos impulsada por PNL permite a los equipos no técnicos acceder rápidamente a la información oculta en los documentos, por ejemplo, abogados, analistas de negocios y contadores. ^[40]

Gestión del diálogo

Sistemas informáticos diseñados para conversar con un humano.

Pregunta y respuesta

Dada una pregunta en lenguaje humano, determine su respuesta. Las preguntas típicas tienen una respuesta correcta específica (como "¿Cuál es la capital de Canadá?"), pero a veces también se consideran preguntas abiertas (como "¿Cuál es el significado de la vida?").

Generación de texto a imagen

Dada una descripción de una imagen, generar una imagen que coincida con la descripción. ^[41]

Generación de texto a escena

Dada una descripción de una escena, generar un modelo 3D de la escena. ^{[42] [43]}

Texto a vídeo

Dada una descripción de un vídeo, generar un vídeo que coincida con la descripción. ^{[44] [45]}

Basándonos en las tendencias de larga data en el campo, es posible extrapolar las direcciones futuras de la PNL. A partir de 2020, se pueden observar tres tendencias entre los temas de la serie de tareas compartidas de CoNLL de larga data: ^[46]

• Interés en aspectos cada vez más abstractos y "cognitivos" del lenguaje natural (1999-2001: análisis superficial, 2002-03: reconocimiento de entidades nombradas, 2006-09/2017-18: sintaxis de dependencia, 2004-05/2008-09 etiquetado de roles semánticos, 2011-12 correferencia, 2015-16: análisis del discurso, 2019: análisis semántico).
• Creciente interés en el multilingüismo y, potencialmente, en la multimodalidad (inglés desde 1999; español y holandés desde 2002; alemán desde 2003; búlgaro, danés, japonés, portugués, esloveno, sueco y turco desde 2006; vasco, catalán, chino, griego, húngaro, italiano y turco desde 2007; checo desde 2009; árabe desde 2012; 2017: más de 40 idiomas; 2018: más de 60/100 idiomas)
• Eliminación de representaciones simbólicas (métodos basados ​​en reglas sobre supervisados ​​hacia métodos débilmente supervisados, aprendizaje de representaciones y sistemas de extremo a extremo)

La mayoría de las aplicaciones de PNL de nivel superior implican aspectos que emulan el comportamiento inteligente y la comprensión aparente del lenguaje natural. En términos más generales, la operacionalización técnica de aspectos cada vez más avanzados del comportamiento cognitivo representa una de las trayectorias de desarrollo del PNL (ver las tendencias entre las tareas compartidas de CoNLL más arriba).

La cognición se refiere a "la acción mental o proceso de adquisición de conocimiento y comprensión a través del pensamiento, la experiencia y los sentidos". ^[47] La ​​ciencia cognitiva es el estudio científico interdisciplinario de la mente y sus procesos. ^[48] La lingüística cognitiva es una rama interdisciplinaria de la lingüística, que combina el conocimiento y la investigación tanto de la psicología como de la lingüística. ^[49] Especialmente durante la era de la PNL simbólica, el área de la lingüística computacional mantuvo fuertes vínculos con los estudios cognitivos.

A modo de ejemplo, George Lakoff ofrece una metodología para construir algoritmos de procesamiento del lenguaje natural (PLN) a través de la perspectiva de la ciencia cognitiva, junto con los hallazgos de la lingüística cognitiva, ^[50] con dos aspectos definitorios:

1. Aplique la teoría de la metáfora conceptual , explicada por Lakoff como "la comprensión de una idea, en términos de otra" que proporciona una idea de la intención del autor. ^[51] Por ejemplo, considere la palabra inglesa grande . Cuando se usa en una comparación ("Ese es un árbol grande"), la intención del autor es dar a entender que el árbol es físicamente grande en relación con otros árboles o la experiencia del autor. Cuando se usa metafóricamente ("Mañana es un gran día"), la intención del autor es dar a entender importancia . La intención detrás de otros usos, como en "Ella es una persona grande", seguirá siendo algo ambigua para una persona y un algoritmo cognitivo de PNL por igual sin información adicional.
2. Asignar medidas relativas de significado a una palabra, frase, oración o fragmento de texto basándose en la información presentada antes y después del fragmento de texto que se está analizando, por ejemplo, mediante una gramática probabilística libre de contexto (PCFG). La ecuación matemática para dichos algoritmos se presenta en la patente estadounidense 9269353: ^[52]

${\displaystyle {RMM(token_{N})}={PMM(token_{N})}\times {\frac {1}{2d}}\left(\sum _{i=-d}^{d}{((PMM(token_{N})}\times {PF(token_{Ni},token_{N},token_{N+i}))_{i}}\right)}$

Dónde

RMM es la medida relativa del significado

Un token es cualquier bloque de texto, oración, frase o palabra.

N es el número de tokens que se están analizando

PMM es la medida probable de significado basada en un corpus

d es la ubicación distinta de cero del token a lo largo de la secuencia de N tokens

PF es la función de probabilidad específica de un idioma.

Los vínculos con la lingüística cognitiva son parte de la herencia histórica del PNL, pero se han abordado con menos frecuencia desde el giro estadístico durante la década de 1990. Sin embargo, se han perseguido enfoques para desarrollar modelos cognitivos hacia marcos técnicamente operacionalizables en el contexto de varios marcos, por ejemplo, de gramática cognitiva, ^[53] gramática funcional, ^[54] gramática de construcción, ^[55] psicolingüística computacional y neurociencia cognitiva (por ejemplo, ACT-R ), sin embargo, con una aceptación limitada en la PNL convencional (medida por la presencia en las principales conferencias ^[56] de la ACL ). Más recientemente, las ideas del PNL cognitivo han revivido como un enfoque para lograr la explicabilidad , por ejemplo, bajo la noción de "IA cognitiva". ^[57] De la misma manera, las ideas de PNL cognitivo son inherentes a los modelos neuronales de PNL multimodal (aunque rara vez se hacen explícitos) ^[58] y a los desarrollos en inteligencia artificial , específicamente herramientas y tecnologías que utilizan enfoques de modelos de lenguaje grandes ^[59] y nuevas direcciones en inteligencia artificial general basadas en el principio de energía libre ^[60] por el neurocientífico y teórico británico del University College de Londres Karl J. Friston .

• Medios relacionados con el procesamiento del lenguaje natural en Wikimedia Commons