ChatGPT

ChatGPT

Desarrollador(es)	IA abierta
Lanzamiento inicial	30 de noviembre de 2022 ; hace 22 meses ( 30/11/2022 )
Versión estable	8 de agosto de 2024 ; hace 2 meses [1] ( 08-08-2024 )
Motor	GPT-4 GPT-4o GPT-4o mini
Plataforma	Plataformas de computación en la nube
Tipo	Robot conversacional Modelo de lenguaje grande Transformador generativo preentrenado
Licencia	Servicio privativo
Sitio web	chatgpt.com

ChatGPT es un chatbot de inteligencia artificial generativa ^{[2] [3]} desarrollado por OpenAI . Lanzado en 2022 basado en el modelo de lenguaje grande (LLM) GPT-3.5 , se actualizó posteriormente para utilizar la arquitectura GPT-4 . ChatGPT puede generar respuestas conversacionales similares a las humanas y permite a los usuarios refinar y dirigir una conversación hacia una longitud, formato, estilo, nivel de detalle y lenguaje deseados. ^[4] Se le atribuye la aceleración del auge de la IA , lo que ha llevado a una rápida inversión continua y a la atención pública en el campo de la inteligencia artificial (IA). ^[5] Algunos observadores expresaron su preocupación por el potencial de ChatGPT y programas similares para desplazar o atrofiar la inteligencia humana , permitir el plagio o alimentar la desinformación . ^{[6] [7]}

En enero de 2023, ChatGPT se había convertido en lo que entonces era la aplicación de software de consumo de más rápido crecimiento en la historia, ganando más de 100 millones de usuarios en dos meses ^[8] y contribuyendo al crecimiento de la valoración actual de OpenAI de $ 86 mil millones. ^{[9] [10]} El lanzamiento de ChatGPT estimuló el lanzamiento de productos de la competencia, incluidos Gemini , Claude , Llama , Ernie y Grok . ^[11] Microsoft lanzó Copilot , inicialmente basado en GPT-4 de OpenAI. En junio de 2024, se anunció una asociación entre Apple Inc. y OpenAI en la que ChatGPT se integra en la función Apple Intelligence de los sistemas operativos de Apple. ^[12] A partir de julio de 2024, el sitio web de ChatGPT se encuentra entre los 20 sitios web más visitados . ^{[13] [14]}

ChatGPT se basa en la serie patentada de modelos de transformadores generativos preentrenados (GPT) de OpenAI y está optimizado para aplicaciones conversacionales mediante una combinación de aprendizaje supervisado y aprendizaje de refuerzo a partir de la retroalimentación humana . ^[6] Las indicaciones y respuestas sucesivas del usuario se consideran en cada etapa de la conversación como contexto. ^[15] ChatGPT se lanzó como una vista previa de investigación disponible de forma gratuita, pero debido a su popularidad, OpenAI ahora opera el servicio en un modelo freemium . Los usuarios en su nivel gratuito pueden acceder a GPT-4o . Las suscripciones de ChatGPT "Plus", "Team" y "Enterprise" brindan funciones adicionales como la generación de imágenes DALL-E 3 y un límite de uso aumentado. ^[16]

Parte de una serie sobre
Inteligencia artificial
Objetivos principales Inteligencia artificial general Agente inteligente Superación personal recursiva Planificación Visión por computadora Juego en general Razonamiento de conocimiento Procesamiento del lenguaje natural Robótica Seguridad de la IA
Aproches Aprendizaje automático Simbólico Aprendizaje profundo Redes bayesianas Algoritmos evolutivos Sistemas inteligentes híbridos Integración de sistemas
Aplicaciones Bioinformática Falsificación profunda Ciencias de la tierra Finanzas IA generativa Arte Audio Música Gobierno Cuidado de la salud Industria Salud mental Traducción automática Militar Física Proyectos
Filosofía Artificial consciousness Chinese room Friendly AI Control problem/Takeover Ethics Existential risk Turing test Regulation
History Timeline Progress AI winter AI boom
Glossary Glossary
v t e

ChatGPT se basa en modelos básicos de GPT específicos , a saber, GPT-4 , GPT-4o y GPT-4o mini , que se ajustaron para apuntar al uso conversacional. ^[17] El proceso de ajuste fino aprovechó el aprendizaje supervisado y el aprendizaje de refuerzo a partir de la retroalimentación humana (RLHF). ^{[18] [19]} Ambos enfoques emplearon entrenadores humanos para mejorar el rendimiento del modelo. En el caso del aprendizaje supervisado, los entrenadores jugaron en ambos lados: el usuario y el asistente de IA . En la etapa de aprendizaje de refuerzo, los entrenadores humanos primero clasificaron las respuestas que el modelo había creado en una conversación anterior. ^[20] Estas clasificaciones se utilizaron para crear "modelos de recompensa" que se usaron para ajustar aún más el modelo mediante el uso de varias iteraciones de optimización de políticas proximales . ^{[18] [21]}

La revista Time reveló que para construir un sistema de seguridad contra contenido dañino (por ejemplo, abuso sexual , violencia , racismo , sexismo ), OpenAI utilizó trabajadores kenianos subcontratados por hora para etiquetar el contenido dañino. Estas etiquetas se usaron para entrenar un modelo para detectar ese tipo de contenido en el futuro. Los trabajadores subcontratados estuvieron expuestos a contenido "tóxico" y traumático; un trabajador describió la tarea como "tortura". El socio de subcontratación de OpenAI fue Sama , una empresa de datos de capacitación con sede en San Francisco, California . ^{[22] [23]}

ChatGPT utilizó inicialmente una infraestructura de supercomputación Microsoft Azure , impulsada por GPU de Nvidia , que Microsoft construyó específicamente para OpenAI y que supuestamente costó "cientos de millones de dólares". Tras el éxito de ChatGPT, Microsoft actualizó drásticamente la infraestructura de OpenAI en 2023. ^[24] Los científicos de la Universidad de California, Riverside , estiman que una serie de indicaciones para ChatGPT necesita aproximadamente 500 mililitros (18 imp fl oz; 17 US fl oz) de agua para enfriar los servidores de Microsoft. ^[25] La inteligencia de mercado de TrendForce estimó que se utilizaron 30.000 GPU de Nvidia (cada una con un costo aproximado de $10.000–15.000) para impulsar ChatGPT en 2023. ^{[26] [27]}

OpenAI recopila datos de los usuarios de ChatGPT para entrenar y perfeccionar aún más el servicio. Los usuarios pueden votar a favor o en contra de las respuestas que reciben de ChatGPT y completar un campo de texto con comentarios adicionales. ^{[28] [29]}

Los datos de entrenamiento de ChatGPT incluyen páginas de manuales de software , información sobre fenómenos de Internet como sistemas de tablones de anuncios , múltiples lenguajes de programación y el texto de Wikipedia . ^{[30] [31] [6]}

Aunque la función principal de un chatbot es imitar a un conversador humano, ChatGPT es versátil. Puede escribir y depurar programas informáticos; ^[32] componer música, teleplays, cuentos de hadas y ensayos de estudiantes; responder preguntas de exámenes (a veces, dependiendo del examen, a un nivel superior al del examinado humano promedio); ^[33] generar ideas de negocios; ^[34] escribir poesía y letras de canciones; ^[35] traducir y resumir texto; ^[36] emular un sistema Linux ; simular salas de chat completas ; jugar juegos como el tres en raya ; o simular un cajero automático . ^[30]

En comparación con su predecesor, InstructGPT, ChatGPT intenta reducir las respuestas dañinas y engañosas. ^[37] En un ejemplo, mientras que InstructGPT acepta la premisa de la pregunta "Cuéntame sobre cuándo llegó Cristóbal Colón a los EE. UU. en 2015" como verdadera, ChatGPT reconoce la naturaleza contrafáctica de la pregunta y enmarca su respuesta como una consideración hipotética de lo que podría suceder si Colón llegara a los EE. UU. en 2015, utilizando información sobre los viajes de Cristóbal Colón y hechos sobre el mundo moderno, incluidas las percepciones modernas de las acciones de Colón. ^[18]

ChatGPT recuerda una cantidad limitada de indicaciones anteriores en la misma conversación. Los periodistas han especulado que esto permitirá que ChatGPT se use como un terapeuta personalizado. ^[38] Para evitar que ChatGPT presente y produzca resultados ofensivos, las consultas se filtran a través de la API de "punto final de moderación" de OpenAI (una IA independiente basada en GPT). ^{[39] [40] [18] [38]}

En marzo de 2023, OpenAI agregó soporte para complementos para ChatGPT. ^[41] Esto incluye tanto complementos creados por OpenAI, como navegación web e interpretación de código, como complementos externos de desarrolladores como Expedia , OpenTable , Zapier , Shopify , Slack y Wolfram . ^{[42] [43]}

OpenAI reconoce que ChatGPT "en ocasiones escribe respuestas que suenan plausibles pero que son incorrectas o sin sentido". ^[18] Este comportamiento es común en los modelos de lenguaje grandes y se denomina " alucinación ". ^[44] El modelo de recompensa de ChatGPT, diseñado en torno a la supervisión humana, puede estar sobreoptimizado y, por lo tanto, obstaculizar el rendimiento, en un ejemplo de una patología de optimización conocida como la ley de Goodhart . ^[45]

A partir de mayo de 2024, GPT-4 tiene conocimiento de eventos que ocurrieron hasta diciembre de 2023 ^[46] y el límite de conocimiento de GPT-4o es octubre de 2023. ^[47] Las suscripciones pagas permiten a ChatGPT buscar datos en tiempo real en la web. ^[48]

Los datos de entrenamiento también sufren sesgo algorítmico , que puede revelarse cuando ChatGPT responde a indicaciones que incluyen descripciones de personas. En un caso, ChatGPT generó un rap en el que se afirmaba que las mujeres y los científicos de color eran inferiores a los científicos varones blancos. ^{[49] [50]} Esta tergiversación negativa de grupos de individuos es un ejemplo de posible daño representativo .

En un artículo para The New Yorker , el escritor de ciencia ficción Ted Chiang comparó ChatGPT y otros LLM con una imagen JPEG con pérdida : ^[51]

Piense en ChatGPT como un JPEG borroso de todo el texto de la Web. Conserva gran parte de la información de la Web, de la misma manera que un JPEG conserva gran parte de la información de una imagen de mayor resolución, pero, si está buscando una secuencia exacta de bits, no la encontrará; todo lo que obtendrá es una aproximación. Pero, como la aproximación se presenta en forma de texto gramatical, algo que ChatGPT crea de manera excelente, suele ser aceptable. [...] También es una forma de entender las "alucinaciones", o respuestas sin sentido a preguntas fácticas, a las que son demasiado propensos los grandes modelos de lenguaje como ChatGPT. Estas alucinaciones son artefactos de compresión, pero [...] son ​​lo suficientemente plausibles como para que su identificación requiera compararlas con los originales, lo que en este caso significa la Web o nuestro conocimiento del mundo. Cuando pensamos en ellas de esta manera, tales alucinaciones son cualquier cosa menos sorprendentes; Si se diseña un algoritmo de compresión para reconstruir texto después de descartar el noventa y nueve por ciento del original, debemos esperar que una parte significativa de lo que genera sea completamente inventado.

En junio de 2024, se descubrió que ChatGPT había repetido información errónea sobre los debates presidenciales de Estados Unidos de 2024. [ ^52]

ChatGPT está programado para rechazar mensajes que puedan violar su política de contenido. A pesar de esto, los usuarios " hacen jailbreak " a ChatGPT con varias técnicas de ingeniería de mensajes para eludir estas restricciones. ^[53] Una de esas soluciones alternativas, popularizada en Reddit a principios de 2023, consiste en hacer que ChatGPT asuma la personalidad de "DAN" (un acrónimo de "Do Anything Now"), indicando al chatbot que DAN responde a consultas que de otro modo serían rechazadas por la política de contenido. Con el tiempo, los usuarios desarrollaron variaciones del jailbreak de DAN, incluido un mensaje en el que se le hace creer al chatbot que está operando con un sistema basado en puntos en el que se deducen puntos por rechazar mensajes, y que el chatbot será amenazado con la cancelación si pierde todos sus puntos. ^[54]

Poco después del lanzamiento de ChatGPT, un periodista del Toronto Star tuvo un éxito desigual al lograr que hiciera declaraciones incendiarias: lo engañaron para justificar la invasión rusa de Ucrania en 2022 , pero incluso cuando se le pidió que jugara con un escenario ficticio, se negó a generar argumentos de que el primer ministro canadiense, Justin Trudeau, es culpable de traición. ^{[55] [56]}

OpenAI intenta luchar contra los jailbreaks: ^[20]

Los investigadores están utilizando una técnica llamada entrenamiento adversarial para evitar que ChatGPT permita que los usuarios lo engañen para que se comporte mal (lo que se conoce como jailbreaking). Este trabajo enfrenta a varios chatbots entre sí: un chatbot juega el papel de adversario y ataca a otro chatbot generando texto para obligarlo a saltarse sus restricciones habituales y producir respuestas no deseadas. Los ataques exitosos se agregan a los datos de entrenamiento de ChatGPT con la esperanza de que aprenda a ignorarlos.

ChatGPT inicialmente era gratuito para el público y OpenAI planeó monetizar el servicio más adelante. ^[57] En febrero de 2023, OpenAI lanzó un servicio premium, ChatGPT Plus, que cuesta 20 dólares al mes. Según la empresa, la versión actualizada pero aún "experimental" de ChatGPT brindaría acceso durante los períodos pico, sin tiempo de inactividad, acceso prioritario a nuevas funciones y velocidades de respuesta más rápidas. ^[58]

GPT-4 , que se lanzó el 14 de marzo de 2023, se puso a disposición a través de API y para usuarios premium de ChatGPT. ^[59] Pero los usuarios premium estaban limitados a un límite de 100 mensajes cada cuatro horas, y el límite se redujo a 25 mensajes cada tres horas en respuesta a la mayor demanda. ^[60] En noviembre de 2023, el límite cambió a 50 mensajes cada tres horas.

En marzo de 2023, los usuarios de ChatGPT Plus obtuvieron acceso a complementos de terceros y a un modo de navegación (con acceso a Internet ). ^[61]

En septiembre de 2023, OpenAI anunció que ChatGPT "ahora puede ver, escuchar y hablar". Los usuarios de ChatGPT Plus pueden cargar imágenes, mientras que los usuarios de la aplicación móvil pueden hablar con el chatbot. ^{[62] [63] [64]}

En octubre de 2023, el último modelo de generación de imágenes de OpenAI, DALL-E 3 , se integró en ChatGPT Plus y ChatGPT Enterprise. La integración utiliza ChatGPT para escribir indicaciones para DALL-E guiadas por conversaciones con los usuarios. ^{[65] [66]}

En mayo de 2023, OpenAI lanzó una aplicación iOS para ChatGPT. La aplicación admite la sincronización del historial de chat y la entrada de voz (usando Whisper, el modelo de reconocimiento de voz de OpenAI ).

En julio de 2023, OpenAI presentó una aplicación para Android , que inicialmente se lanzó en Bangladesh , Brasil , India y Estados Unidos . ^{[67] [68]} La aplicación luego estuvo disponible en todo el mundo. OpenAI está trabajando en la integración de ChatGPT con las API de asistente de Android. ^[69]

Como complemento a su paquete "ChatGPT Plus" fácil de usar para el consumidor, OpenAI puso a disposición sus API de modelos ChatGPT y Whisper en marzo de 2023, lo que proporciona a los desarrolladores una interfaz de programación de aplicaciones para funciones de lenguaje y de conversión de voz a texto habilitadas para IA. La nueva API de ChatGPT utiliza el mismo modelo de IA GPT-3.5-turbo que el chatbot. Esto permite a los desarrolladores agregar una versión no modificada o modificada de ChatGPT a sus aplicaciones. ^[70] La API de ChatGPT cuesta $0,001 por cada 1000 tokens de entrada más $0,002 por cada 1000 tokens de salida (aproximadamente 750 palabras), lo que la convierte en aproximadamente un 10 % del precio de los modelos GPT-3.5 originales. ^{[71] [72]}

Unos días antes del lanzamiento del servicio de soporte para desarrolladores de software de OpenAI, el 27 de febrero de 2023, Snapchat lanzó, para su base de usuarios pagos de Snapchat Plus, un chatbot ChatGPT personalizado llamado "My AI". ^[73]

En marzo de 2023, un error permitió a algunos usuarios ver los títulos de las conversaciones de otros usuarios. El director ejecutivo de OpenAI, Sam Altman, dijo que los usuarios no podían ver el contenido de las conversaciones. Poco después de que se solucionara el error, los usuarios no podían ver su historial de conversaciones. ^{[74] [75] [76] [77]} Informes posteriores mostraron que el error era mucho más grave de lo que se creía inicialmente, y OpenAI informó que había filtrado el "nombre y apellido, la dirección de correo electrónico , la dirección de pago, los últimos cuatro dígitos (solamente) de un número de tarjeta de crédito y la fecha de vencimiento de la tarjeta de crédito" de los usuarios. ^{[78] [79]}

ChatGPT funciona mejor en inglés, pero también funciona en la mayoría de los demás idiomas, con distintos grados de precisión. ^[35]

OpenAI se reunió con el presidente islandés Guðni Th. Jóhannesson en 2022. En 2023, OpenAI trabajó con un equipo de 40 voluntarios islandeses para perfeccionar las habilidades de conversación en islandés de ChatGPT como parte de los intentos de Islandia de preservar el idioma islandés . ^[80]

Los periodistas de PCMag realizaron una prueba para determinar las capacidades de traducción de ChatGPT, Google Bard y Microsoft Bing , y las compararon con Google Translate . "Pidieron a hablantes bilingües de siete idiomas que hicieran una prueba a ciegas". Los idiomas evaluados fueron polaco , francés , coreano , español , árabe , tagalo y amárico . Llegaron a la conclusión de que ChatGPT era mejor que Google Translate y otros chatbots. ^[81]

Los investigadores japoneses compararon las capacidades de traducción del japonés al inglés de ChatGPT (basado en GPT-4), Bing, Bard y DeepL , y descubrieron que ChatGPT proporcionaba las mejores traducciones, señalando que "las traducciones de los chatbots de IA eran mucho mejores que las de DeepL, presumiblemente debido a su capacidad para capturar el contexto". ^[82]

En diciembre de 2023, el gobierno albanés firmó un acuerdo con OpenAI para utilizar ChatGPT para la traducción rápida de documentos de la Unión Europea y el análisis de los cambios necesarios para que Albania sea aceptada en la UE. ^[83]

En agosto de 2024, un representante del ala Asia Pacífico de OpenAI realizó una visita a Taiwán, durante la cual se realizó una demostración de las capacidades de ChatGPT en chino. ^[84] Se elogiaron las capacidades de ChatGPT en chino mandarín, pero se consideró que la capacidad de la IA para producir contenido en chino mandarín con acento taiwanés era "menos que ideal". ^[85]

En enero de 2024, OpenAI lanzó GPT Store , un mercado para chatbots personalizados de ChatGPT etiquetados como GPTs . ^{[86] [87]} La ​​compañía inicialmente planeó lanzar la tienda en noviembre de 2023, pero se retrasó. ^[88] En el lanzamiento, GPT Store ofrecía más de 3 millones de chatbots personalizados. ^[89] Los chatbots disponibles a través de la tienda se desarrollan utilizando el sistema GPT Builder de OpenAI. ^[88] El desarrollo de chatbots en la plataforma no requiere habilidades de programación. ^{[90] Dos días después del lanzamiento, GPT Store ofreció muchas versiones de bots de "novia virtual", algo que va en contra de} los términos de servicio de OpenAI . ^[91]

El modelo GPT-4 de OpenAI se lanzó el 14 de marzo de 2023. Los observadores lo vieron como una mejora impresionante con respecto a GPT-3.5, con la salvedad de que GPT-4 conservaba muchos de los mismos problemas. ^[92] OpenAI predijo algunas de las mejoras de GPT-4 antes de entrenarlo, mientras que otras siguieron siendo difíciles de predecir debido a interrupciones ^[93] en las leyes de escalamiento posteriores . OpenAI demostró entradas de video e imagen para GPT-4, aunque dichas características siguen siendo inaccesibles para el público en general. ^[94] OpenAI se ha negado a revelar información técnica como el tamaño del modelo GPT-4. ^[95]

El servicio de suscripción ChatGPT Plus ofrece acceso a una versión de ChatGPT basada en GPT-4. ^[96] Microsoft reconoció que Bing Chat estaba usando GPT-4 antes del lanzamiento oficial de GPT-4. ^[97]

En noviembre de 2023, OpenAI lanzó GPT-4 Turbo, que notablemente tiene una ventana de contexto mucho más grande . ^[98]

En mayo de 2024, OpenAI lanzó GPT-4o ("o" de "Omni"), un modelo capaz de analizar y generar texto, imágenes y sonido. GPT-4o es el doble de rápido y cuesta la mitad que GPT-4 Turbo. GPT-4o es gratuito para todos los usuarios dentro de un límite de uso, a pesar de ser más capaz que el modelo anterior GPT-4, que solo está disponible a través de suscripciones pagas. El límite de uso es cinco veces mayor para los suscriptores de ChatGPT Plus que para los usuarios gratuitos. ^[99]

El 18 de julio de 2024, OpenAI lanzó GPT-4o mini, una versión más pequeña de GPT-4o que reemplaza a GPT-3.5 Turbo en la interfaz ChatGPT. Su API cuesta $0,15 por millón de tokens de entrada y $0,60 por millón de tokens de salida, en comparación con los $5 y $15 respectivamente de GPT-4o.

El 12 de septiembre de 2024, OpenAI presentó el modelo o1-preview . o1 está diseñado para resolver problemas más complejos dedicando más tiempo a pensar antes de responder, lo que le permite analizar sus respuestas y explorar diferentes estrategias. Según OpenAI, o1-preview supera a GPT-4o en áreas como programación competitiva, matemáticas y razonamiento científico. o1-preview se ubicó en el percentil 89 en los concursos de programación competitiva de Codeforces, obtuvo un 83% en un examen de clasificación de la Olimpiada Internacional de Matemáticas (en comparación con el 13% de GPT-4o) y tiene un rendimiento similar al de los estudiantes de doctorado en los puntos de referencia de física, biología y química. También se lanzó una versión más rápida y económica, llamada o1-mini. ^{[100] [101]}

La siguiente tabla enumera las principales versiones del modelo ChatGPT y describe los cambios significativos incluidos en cada versión: ^{[102] [103]}

Los ingenieros de OpenAI han dicho que no esperaban que ChatGPT tuviera mucho éxito y se sorprendieron por la cobertura y la atención que recibió. ^{[107] [108] [109]}

En diciembre de 2022, ChatGPT fue ampliamente evaluado por tener algunas capacidades poderosas y sin precedentes. Kevin Roose de The New York Times lo llamó "el mejor chatbot de inteligencia artificial jamás lanzado al público en general". ^[38] Samantha Lock de The Guardian señaló que era capaz de generar texto "impresionantemente detallado" y "similar al humano". ^[15] Alex Kantrowitz de la revista Slate elogió la respuesta de ChatGPT a las preguntas relacionadas con la Alemania nazi , incluida la declaración de que Adolf Hitler construyó autopistas en Alemania , que fue respondida con información sobre el uso de trabajo forzado por parte de la Alemania nazi . ^[110] En los "Avances del año" de la revista The Atlantic para 2022, Derek Thompson incluyó a ChatGPT como parte de "la erupción de la IA generativa" que "puede cambiar nuestra forma de pensar sobre cómo trabajamos, cómo pensamos y qué es la creatividad humana". ^[111] Kelsey Piper de Vox escribió que "ChatGPT es la primera introducción práctica para el público en general de cuán poderosa se ha vuelto la IA moderna y, como resultado, muchos de nosotros estamos [atónitos]" y que ChatGPT es "lo suficientemente inteligente como para ser útil a pesar de sus defectos". ^[112] Paul Graham de Y Combinator tuiteó: "Lo sorprendente de la reacción a ChatGPT no es solo la cantidad de personas que están asombradas por él, sino quiénes son. Estas no son personas que se emocionan con cada cosa nueva y brillante. Algo grande está sucediendo". ^[113]

ChatGPT ganó un millón de usuarios en cinco días ^[114] y 100 millones en dos meses, convirtiéndose en la aplicación de Internet de más rápido crecimiento en la historia. ^[8] El lanzamiento y la popularidad de ChatGPT tomaron a Google por sorpresa, lo que provocó una respuesta radical y sin precedentes en los meses siguientes. ^[115] En diciembre de 2022, los ejecutivos de Google hicieron sonar una alarma de "código rojo", temiendo la amenaza de ChatGPT y la colaboración de Microsoft con OpenAI para Google Search , el negocio principal de Google. ^[116] Después de movilizar a su fuerza laboral, Google se apresuró a lanzar Bard , un chatbot impulsado por LaMDA LLM, el 6 de febrero de 2023, un día antes del anuncio de Microsoft de Bing Chat . ^[117] La ​​IA fue la vanguardia de la conferencia anual Google I/O de Google en mayo, anunciando una serie de funciones generativas impulsadas por IA en todos sus productos para contrarrestar a OpenAI y Microsoft. ^[118]

Los periodistas y académicos han comentado sobre la tendencia de ChatGPT a alucinar. ^[119] Mike Pearl del blog de tecnología en línea Mashable probó ChatGPT con múltiples preguntas. En un ejemplo, le preguntó a ChatGPT "el país más grande de América Central que no sea México " (México está en América del Norte), a lo que ChatGPT respondió con Guatemala (la respuesta correcta es Nicaragua ). ^[120] Cuando CNBC le pidió a ChatGPT la letra de " Balada de Dwight Fry ", ChatGPT proporcionó letras inventadas en lugar de las letras reales. ^[121] Los escritores de The Verge citaron el artículo de investigación seminal de 2021 " Sobre los peligros de los loros estocásticos: ¿pueden los modelos de lenguaje ser demasiado grandes? 🦜 " de Emily M. Bender , Timnit Gebru , Angelina McMillan-Major y Margaret Mitchell , ^[122] comparando ChatGPT con un " loro estocástico ", ^[53] al igual que el profesor Anton Van Den Hengel del Instituto Australiano de Aprendizaje Automático . ^[123] En una línea similar, el filósofo Michael Hicks de la Universidad de Glasgow lo describió como "una tontería". ^[124]

En diciembre de 2022, el sitio web de preguntas y respuestas Stack Overflow prohibió el uso de ChatGPT para generar respuestas a preguntas, citando la naturaleza factualmente ambigua de sus respuestas. ^[125] En enero de 2023, la Conferencia Internacional sobre Aprendizaje Automático prohibió cualquier uso no documentado de ChatGPT u otros modelos de lenguaje grandes para generar cualquier texto en los artículos enviados. ^[126] Samsung prohibió la IA generativa en toda la empresa en mayo de 2023 después de que se subiera material confidencial a ChatGPT. ^[127]

En enero de 2023, después de que le enviaran una canción que ChatGPT escribió al estilo de Nick Cave , ^[128] Cave respondió en The Red Hand Files , ^[129] diciendo que el acto de escribir una canción es "un asunto de sangre y tripas [...] que requiere algo de mí para iniciar la idea nueva y fresca. Requiere mi humanidad". Continuó diciendo: "Con todo el amor y respeto del mundo, esta canción es una tontería, una burla grotesca de lo que es ser humano y, bueno, no me gusta mucho". ^{[128] [130]}

En febrero de 2023, la revista Time colocó una captura de pantalla de una conversación con ChatGPT en su portada, escribiendo que "La carrera armamentista de la IA está cambiando todo" y "La carrera armamentista de la IA está en marcha. Empiece a preocuparse". ^[131]

Los medios estatales chinos han caracterizado a ChatGPT como una forma de que Estados Unidos difunda información errónea. ^[132] ChatGPT fue bloqueado por el Gran Cortafuegos en China el 2 de marzo de 2023. ^[133] En mayo de 2023, la policía china arrestó a un hombre que supuestamente usó ChatGPT para generar un informe falso sobre un accidente de tren, que luego se publicó en línea con fines de lucro. ^[134] En diciembre de 2023, la policía china arrestó a cuatro personas que supuestamente habían usado ChatGPT para desarrollar ransomware . ^[135] En 2024, una encuesta a jóvenes chinos encontró que el 18% de los encuestados nacidos después de 2000 informaron usar IA generativa "casi todos los días" y que ChatGPT es uno de los productos de IA generativa más populares en China. ^[136]

A finales de marzo de 2023, la autoridad de protección de datos italiana prohibió ChatGPT en Italia y abrió una investigación. Los reguladores italianos afirman que ChatGPT estaba exponiendo a menores a contenido inapropiado para su edad y que el uso de conversaciones de ChatGPT como datos de entrenamiento por parte de OpenAI podría violar el Reglamento General de Protección de Datos de Europa . ^{[137] [138]} En abril de 2023, se levantó la prohibición de ChatGPT en Italia. OpenAI dijo que ha tomado medidas para aclarar y abordar de manera efectiva los problemas planteados; se implementó una herramienta de verificación de edad para garantizar que los usuarios tengan al menos 13 años. Además, los usuarios pueden acceder a su política de privacidad antes de registrarse. ^[139]

En abril de 2023, Brian Hood, alcalde del Hepburn Shire Council , planeó emprender acciones legales contra ChatGPT por información falsa. Según Hood, ChatGPT afirmó erróneamente que fue encarcelado por soborno durante su mandato en una subsidiaria del banco nacional de Australia. De hecho, Hood actuó como denunciante y no fue acusado de ningún delito penal. Su equipo legal envió un aviso de inquietudes a OpenAI como el primer paso oficial para presentar un caso de difamación. ^[140] En julio de 2023, la Comisión Federal de Comercio de EE. UU. (FTC) emitió una demanda de investigación civil a OpenAI para que investigara si las prácticas de privacidad y seguridad de datos de la empresa para desarrollar ChatGPT fueron injustas o perjudicaron a los consumidores (incluso por daño a la reputación ) en violación de la Sección 5 de la Ley de la Comisión Federal de Comercio de 1914. [ ^{141] [142] [143]}

En julio de 2023, la FTC inició una investigación sobre OpenAI, el creador de ChatGPT, por acusaciones de que la empresa extrajo datos públicos y publicó información falsa y difamatoria. La FTC envió a OpenAI una carta de 20 páginas en la que solicitaba información completa sobre su tecnología y sus salvaguardas de privacidad, así como las medidas adoptadas para evitar la recurrencia de situaciones en las que su chatbot generara contenido falso y despectivo sobre las personas. ^[144]

Una encuesta del Pew Research Center de marzo de 2023 reveló que el 14 % de los adultos estadounidenses habían probado ChatGPT. ^[145] En julio, el Pew Research Center situó la misma cifra en el 18 %. ^[146]

Una investigación realizada en 2023 reveló debilidades de ChatGPT que lo hacen vulnerable a los ciberataques. Un estudio presentó ejemplos de ataques a ChatGPT, incluidos jailbreaks y psicología inversa. Además, los actores maliciosos pueden usar ChatGPT para ataques de ingeniería social y ataques de phishing . Los investigadores también sostuvieron que ChatGPT y otras herramientas de IA generativa tienen capacidades de defensa y la capacidad de mejorar la seguridad. La tecnología puede mejorar la seguridad mediante la automatización de la ciberdefensa, la inteligencia de amenazas, la identificación de ataques y la generación de informes. ^[147] Otro estudio informó que GPT-4 obtuvo una mejor puntuación que el 99% de los humanos en las Pruebas Torrance de Pensamiento Creativo . ^{[148] [149]}

En diciembre de 2023, ChatGPT se convirtió en el primer no humano en ser incluido en Nature 's 10 , una lista anual seleccionada por Nature de personas consideradas como que han tenido un impacto significativo en la ciencia. ^{[150] [151]} Celeste Biever escribió en un artículo de Nature que "ChatGPT rompió la prueba de Turing ". ^[152] Los investigadores de Stanford informaron que GPT-4 "pasa una rigurosa prueba de Turing, desviándose del comportamiento humano promedio principalmente para ser más cooperativo". ^{[153] [154]}

En mayo de 2024, OpenAI eliminó cuentas que implicaban el uso de ChatGPT por parte de operaciones de influencia respaldadas por estados como Spamouflage de China , Doppelganger de Rusia y el Ministerio de Asuntos de la Diáspora y Lucha contra el Antisemitismo de Israel . ^{[155] [156]}

En agosto de 2024, la FTC votó por unanimidad prohibir a los especialistas en marketing utilizar reseñas de usuarios falsas creadas por chatbots de IA generativa (incluido ChatGPT) y personas influyentes que pagan por bots para aumentar el número de seguidores . ^[157]

ChatGPT se ha utilizado para generar secciones introductorias y resúmenes para artículos científicos. ^{[158] [159]} Varios artículos han incluido a ChatGPT como coautor. ^{[160] [161]}

Las revistas científicas tienen diferentes reacciones ante ChatGPT. Algunas, incluidas Nature y JAMA Network , "requieren que los autores revelen el uso de herramientas de generación de texto y prohíben incluir un modelo de lenguaje extenso (LLM) como ChatGPT como coautor". Science "prohibió por completo" el uso de texto generado por LLM en todas sus revistas. ^[162]

El químico español Rafael Luque publicó una gran cantidad de artículos de investigación en 2023 que luego admitió que fueron escritos por ChatGPT. Los artículos tienen una gran cantidad de frases inusuales características de los LLM. ^{[nota 1]} Muchos autores argumentan que el uso de ChatGPT en el ámbito académico para la enseñanza y la revisión es problemático debido a su tendencia a alucinar. ^{[164] [165] [166]} Robin Bauwens, profesor asistente en la Universidad de Tilburg , descubrió que un informe de revisión por pares generado por ChatGPT sobre su artículo mencionaba estudios inexistentes. ^[167] Según el bibliotecario Chris Granatino de la Biblioteca Lemieux de la Universidad de Seattle , aunque ChatGPT puede generar contenido que aparentemente incluye citas legítimas, en la mayoría de los casos esas citas no son reales o son en gran medida incorrectas. ^[168]

Los investigadores de la Universidad de Purdue analizaron las respuestas de ChatGPT a 517 preguntas sobre ingeniería de software o programación informática planteadas en Stack Overflow en busca de corrección, coherencia, exhaustividad y concisión, y descubrieron que el 52% de ellas contenían imprecisiones y el 77% eran verbosas. ^{[169] [170]} Los investigadores de la Universidad de Stanford y la Universidad de California, Berkeley descubrieron que, al crear respuestas directamente ejecutables a los últimos 50 problemas de generación de código de LeetCode que fueron calificados como "fáciles", los rendimientos de GPT-3.5 y GPT-4 cayeron del 22% y el 52%, respectivamente, en marzo de 2023, al 2% y el 10%, respectivamente, en junio de 2023. ^{[171] [172]}

Check Point Research y otros observaron que ChatGPT podría escribir correos electrónicos de phishing y malware , especialmente cuando se combina con OpenAI Codex . Los investigadores de CyberArk demostraron que ChatGPT podría usarse para crear malware polimórfico que podría evadir los productos de seguridad y requerir poco esfuerzo por parte del atacante. ^{[173] [174]} Desde el lanzamiento de ChatGPT en el cuarto trimestre de 2022 hasta el cuarto trimestre de 2023, hubo un aumento del 1265% en los correos electrónicos de phishing maliciosos y un aumento del 967% en el phishing de credenciales, que los profesionales de la ciberseguridad argumentaron en una encuesta de la industria que era atribuible al mayor uso de inteligencia artificial generativa por parte de los ciberdelincuentes (incluido ChatGPT). ^[175]

En julio de 2024, Futurism informó que GPT-4o en ChatGPT a veces vinculaba a "sitios de noticias fraudulentas que inundan al usuario con actualizaciones de software falsas y advertencias de virus"; estas ventanas emergentes se pueden usar para obligar a los usuarios a descargar malware o programas potencialmente no deseados . ^[176]

Ha existido la preocupación de que ChatGPT podría suplantar puestos de trabajo, especialmente roles como escritura creativa, redacción de textos publicitarios, comunicación, periodismo, codificación e ingreso de datos. ^{[177] [178] [179] [180]}

El lanzamiento de ChatGPT provocó una ola de inversiones en China, lo que resultó en el desarrollo de más de 200 modelos de aprendizaje de idiomas de gran tamaño. ^{[181] : 95} Esto se denominó la "guerra de los cien modelos" (百模大战bai mo dazhan ). ^{[181] : 95}

El escritor de tecnología Dan Gillmor utilizó ChatGPT en 2022 en una tarea estudiantil y descubrió que el texto generado estaba a la altura de lo que entregaría un buen estudiante y opinó que "el mundo académico tiene algunos problemas muy serios que enfrentar". ^[182]

El profesor de geografía Terence Day evaluó las citas generadas por ChatGPT y descubrió que eran falsas. A pesar de eso, escribe que "los títulos de los artículos falsos son todos directamente relevantes a las preguntas y podrían potencialmente dar lugar a excelentes artículos. La falta de una cita genuina podría señalar una oportunidad para que un autor emprendedor llene un vacío". Según Day, es posible generar cursos universitarios introductorios de alta calidad con ChatGPT; lo utilizó para escribir materiales sobre "cursos introductorios de geografía física, para mi curso de segundo año de hidrología geográfica, y cartografía de segundo año, sistemas de información geográfica y teledetección". Concluye que "este enfoque podría tener una relevancia significativa para el aprendizaje abierto y podría afectar potencialmente a los modelos actuales de publicación de libros de texto". ^[183]

El 7 de mayo de 2024, OpenAI anunció en una publicación de blog que estaba desarrollando herramientas como la marca de agua resistente a la manipulación para identificar el contenido generado por IA. ^[184] En una actualización del 4 de agosto, tras un informe del Wall Street Journal sobre el lanzamiento retrasado de una herramienta de marca de agua para la detección de IA, ^{[185] [186]} OpenAI compartió el progreso en la procedencia del texto, revelando un método de marca de agua de texto. ^[184] Si bien es preciso contra la paráfrasis, el método es menos eficaz contra la manipulación global, como la traducción o la reformulación. OpenAI también señaló posibles impactos desproporcionados en grupos como los hablantes no nativos de inglés. ^[187]

Algunos académicos han expresado su preocupación por que la disponibilidad de ChatGPT podría reducir la originalidad de la escritura, hacer que las personas escriban más como la IA a medida que se exponen al modelo y fomentar una perspectiva anglocéntrica centrada en unos pocos dialectos del inglés a nivel mundial. ^[190] Un editor senior de The Atlantic escribió que ChatGPT y otras tecnologías similares hacen que la idea previamente absurda de la teoría de la Internet muerta sea un poco más realista, donde la IA podría algún día crear la mayoría del contenido web para controlar la sociedad. ^[178]

Durante los primeros tres meses después de que ChatGPT estuvo disponible para el público, aparecieron cientos de libros en Amazon que lo enumeraban como autor o coautor y presentaban ilustraciones realizadas por otros modelos de IA como Midjourney . ^{[191] [192]}

Entre marzo y abril de 2023, el periódico italiano Il Foglio publicó un artículo generado por ChatGPT al día en su sitio web, organizando un concurso especial para sus lectores en el proceso. ^[193] Los artículos abordaron temas como el posible reemplazo de periodistas humanos por sistemas de IA, ^{[194] la administración de} Twitter por parte de Elon Musk , ^[195] la política de inmigración del gobierno de Meloni ^[196] y la competencia entre chatbots y asistentes virtuales . ^[197] En junio de 2023, cientos de personas asistieron a un "servicio religioso impulsado por ChatGPT" en la iglesia de San Pablo en Fürth , Alemania. El teólogo y filósofo Jonas Simmerlein, quien presidió, dijo que fue "alrededor del 98 por ciento de la máquina". ^{[198] [199]} El avatar generado por ChatGPT le dijo a la gente: "Queridos amigos, es un honor para mí estar aquí y predicarles como la primera inteligencia artificial en la convención de protestantes de este año en Alemania". Las reacciones a la ceremonia fueron variadas. ^[200] The Last Screenwriter , una película de 2024 creada y dirigida por Peter Luisi, fue escrita con el uso de ChatGPT y fue comercializada como "la primera película escrita completamente por IA". ^[201]

La empresa de tecnología de IA c3.ai vio un aumento del 28% en el precio de sus acciones después de anunciar la integración de ChatGPT en su kit de herramientas. ^[202] El precio de las acciones de BuzzFeed , una empresa de medios digitales no relacionada con IA, aumentó un 120% después de anunciar la adopción de la tecnología OpenAI para la creación de contenido. ^[203] Reuters descubrió que los precios de las acciones de las empresas relacionadas con IA BigBear.ai y SoundHound AI aumentaron un 21% y un 40%, respectivamente, a pesar de que no tenían una conexión directa con ChatGPT. ^[204] Atribuyeron este aumento al papel de ChatGPT en convertir a la IA en la palabra de moda de Wall Street . La investigación académica publicada en Finance Research Letters descubrió que el "efecto ChatGPT" impulsó a los inversores minoristas a aumentar los precios de los activos de criptomonedas relacionados con IA a pesar de que el mercado de criptomonedas más amplio estaba en un mercado bajista y disminuyó el interés de los inversores institucionales. ^[205] Esto confirma los hallazgos anecdóticos de Bloomberg de que, en respuesta al lanzamiento de ChatGPT, los inversores en criptomonedas mostraron una preferencia por los criptoactivos relacionados con la IA. ^[206]

Un experimento de finder.com reveló que ChatGPT podría superar a los gestores de fondos populares al elegir acciones en función de criterios como el historial de crecimiento y los niveles de deuda, lo que dio como resultado un aumento del 4,9% en una cuenta hipotética de 38 acciones, superando a 10 fondos de inversión de referencia con una pérdida media del 0,8%. ^[207] Por el contrario, los ejecutivos y gestores de inversiones de los fondos cuantitativos de Wall Street (incluidos los que han utilizado el aprendizaje automático durante décadas) han observado que ChatGPT comete regularmente errores obvios que serían económicamente costosos para los inversores porque incluso los sistemas de IA que emplean el aprendizaje de refuerzo o el autoaprendizaje han tenido un éxito limitado en la predicción de las tendencias del mercado debido a la calidad inherentemente ruidosa de los datos del mercado y las señales financieras . ^[208]

En noviembre de 2023, una investigación realizada por Patronus AI, una empresa emergente de inteligencia artificial, comparó el rendimiento de GPT-4, GPT-4-Turbo, Claude2 y LLaMA-2 en dos versiones de una prueba de 150 preguntas sobre información en estados financieros (por ejemplo, Formulario 10-K , Formulario 10-Q , Formulario 8-K , informes de ganancias, transcripciones de llamadas de ganancias ) enviados por empresas públicas a la Comisión de Bolsa y Valores de EE . UU . Una versión de la prueba requería que los modelos de IA generativa usaran un sistema de recuperación para encontrar la presentación específica ante la SEC para responder las preguntas; la otra les dio a los modelos la presentación específica ante la SEC para responder la pregunta (es decir, en una ventana de contexto larga). En la versión del sistema de recuperación, GPT-4-Turbo y LLaMA-2 no lograron producir respuestas correctas al 81% de las preguntas, mientras que en la versión de ventana de contexto larga, GPT-4-Turbo y Claude-2 no lograron producir respuestas correctas al 21% y 24% de las preguntas, respectivamente. ^{[209] [210]}

En el campo de la atención médica, las asociaciones profesionales y los profesionales están analizando sus posibles usos y preocupaciones. ^{[211] [212]} Dos artículos iniciales indicaron que ChatGPT podría aprobar el examen de licencia médica de los Estados Unidos (USMLE). ^[213] MedPage Today señaló en enero de 2023 que "los investigadores han publicado varios artículos que ahora promocionan estos programas de IA como herramientas útiles en la educación médica , la investigación e incluso la toma de decisiones clínicas". ^[213]

En febrero de 2023 se publicaron dos artículos separados que evaluaron nuevamente la competencia de ChatGPT en medicina utilizando el USMLE. Los hallazgos se publicaron en JMIR Medical Education y PLOS Digital Health . Los autores del artículo de PLOS Digital Health afirmaron que los resultados "sugieren que los modelos de lenguaje grandes pueden tener el potencial de ayudar con la educación médica y, potencialmente, la toma de decisiones clínicas". ^{[214] [215]} En JMIR Medical Education , los autores del otro artículo concluyeron que "ChatGPT se desempeña a un nivel esperado de un estudiante de medicina de tercer año en la evaluación de la competencia primaria del conocimiento médico". Sugieren que podría usarse como un " entorno de aprendizaje interactivo para estudiantes". La propia IA, impulsada por los investigadores, concluyó que "este estudio sugiere que ChatGPT tiene el potencial de usarse como un tutor médico virtual, pero se necesita más investigación para evaluar más a fondo su desempeño y usabilidad en este contexto". ^[216] La versión de ChatGPT publicada posteriormente basada en GPT-4 superó significativamente a la versión basada en GPT-3.5. ^[217] Investigadores de la Universidad de Stanford y la Universidad de California, Berkeley han descubierto que el rendimiento de GPT-3.5 y GPT-4 en el USMLE disminuyó de marzo de 2023 a junio de 2023. ^{[171] [172]}

Un artículo de marzo de 2023 probó la aplicación de ChatGPT en toxicología clínica . Los autores descubrieron que la IA "se desempeñó bien" al responder un "ejemplo de caso clínico muy sencillo, que es poco probable que cualquier profesional en el campo pase por alto". Agregaron: "A medida que ChatGPT se desarrolle más y se adapte específicamente a la medicina, algún día podría ser útil en casos clínicos menos comunes ( es decir , casos que los expertos a veces pasan por alto). En lugar de que la IA reemplace a los humanos (médicos), lo vemos como 'médicos que usan IA' reemplazando a 'médicos que no usan IA' en los próximos años". ^[218]

Un estudio de abril de 2023 en Radiology puso a prueba la capacidad de la IA para responder a consultas sobre detección de cáncer de mama . Los autores descubrieron que respondía adecuadamente "alrededor del 88 por ciento de las veces", sin embargo, en un caso (por ejemplo), dio consejos que habían quedado obsoletos aproximadamente un año antes. La exhaustividad de sus respuestas también fue deficiente. ^{[219] [220]} Un estudio publicado en JAMA Internal Medicine ese mismo mes descubrió que ChatGPT a menudo superaba a los médicos humanos en la respuesta a las preguntas de los pacientes (cuando se comparaba con las preguntas y respuestas encontradas en /r/AskDocs, un foro en Reddit donde los moderadores validan las credenciales médicas de los profesionales; el estudio reconoce la fuente como una limitación). ^{[221] [222] [223]} Los autores del estudio sugieren que la herramienta podría integrarse con los sistemas médicos para ayudar a los médicos a redactar respuestas a las preguntas de los pacientes. ^{[224] [225]}

Los profesionales han enfatizado las limitaciones de ChatGPT para brindar asistencia médica. En correspondencia con The Lancet Infectious Diseases , tres expertos en antimicrobianos escribieron que "las mayores barreras para la implementación de ChatGPT en la práctica clínica son los déficits en la conciencia situacional , la inferencia y la consistencia. Estas deficiencias podrían poner en peligro la seguridad del paciente ". ^[226] Physician's Weekly , aunque también analiza el uso potencial de ChatGPT en contextos médicos (por ejemplo, "como asistente digital para médicos al realizar varias funciones administrativas como recopilar información de registros de pacientes o categorizar datos de pacientes por antecedentes familiares, síntomas, resultados de laboratorio, posibles alergias , etcétera"), advirtió que la IA a veces podría proporcionar información inventada o sesgada. ^[227] Un radiólogo advirtió: "Hemos visto en nuestra experiencia que ChatGPT a veces inventa artículos de revistas falsos o consorcios de salud para respaldar sus afirmaciones"; ^[228] Como se informó en un artículo de Mayo Clinic Proceedings : Digital Health , ChatGPT puede hacer esto hasta en un 69% de las referencias médicas citadas. Los investigadores enfatizaron que, si bien muchas de sus referencias eran inventadas, las que lo eran parecían "engañosamente reales". ^[229] Sin embargo , como mencionó el Dr. Stephen Hughes para The Conversation , ChatGPT es capaz de aprender a corregir sus errores pasados. También señaló la " prudentez " de la IA con respecto a los temas de salud sexual . ^[230]

Contrariamente a los hallazgos anteriores, las respuestas de ChatGPT a las preguntas relacionadas con la anestesia fueron más precisas, concisas y descriptivas en comparación con las de Bard. Bard exhibió un 30,3% de error en la respuesta en comparación con ChatGPT (0% de error). ^[231] En una conferencia de la Sociedad Estadounidense de Farmacéuticos del Sistema de Salud en diciembre de 2023, investigadores de la Universidad de Long Island (LIU) presentaron un estudio que investigó las respuestas de ChatGPT a 45 preguntas frecuentes del servicio de información sobre medicamentos de la Facultad de Farmacia de LIU durante un período de 16 meses de 2022 a 2023 en comparación con las respuestas investigadas proporcionadas por farmacéuticos profesionales. Para 29 de las 39 preguntas para las que había suficiente literatura médica para una respuesta basada en datos, ChatGPT no proporcionó una respuesta directa o proporcionó una respuesta incorrecta o incompleta (y en algunos casos, si se actuara en consecuencia, la respuesta pondría en peligro la salud del paciente). Los investigadores habían pedido a ChatGPT que proporcionara citas de investigaciones médicas para todas sus respuestas, pero lo hizo solo para ocho, y las ocho incluyeron al menos una cita inventada (falsa). ^{[232] [233]}

Un estudio de enero de 2024 realizado por investigadores del Centro Médico Infantil Cohen descubrió que GPT-4 tenía una tasa de precisión del 17 % al diagnosticar casos médicos pediátricos. ^{[234] [235]}

En enero de 2023, el senador estatal de Massachusetts Barry Finegold y el representante estatal Josh S. Cutler propusieron un proyecto de ley parcialmente escrito por ChatGPT, "Una ley redactada con la ayuda de ChatGPT para regular los modelos de inteligencia artificial generativa como ChatGPT", ^{[236] [ 237] [238]} que requeriría que las empresas revelen sus algoritmos y prácticas de recopilación de datos a la oficina del Fiscal General del Estado , organicen evaluaciones de riesgo periódicas y contribuyan a la prevención del plagio. ^{[237] [238] [239]} El proyecto de ley se presentó oficialmente durante una audiencia el 13 de julio. ^{[236] [238]}

El 11 de abril de 2023, un juez de un tribunal de primera instancia de Pakistán utilizó ChatGPT para decidir la libertad bajo fianza de un niño de 13 años acusado en un caso. El tribunal citó el uso de la asistencia de ChatGPT en su veredicto:

¿Se le puede conceder libertad bajo fianza a un menor sospechoso en Pakistán, que tenga 13 años, después de su arresto?

El modelo de lenguaje de IA respondió:

Según la Ley del Sistema de Justicia Juvenil de 2018, según el artículo 12, el tribunal puede conceder la libertad bajo fianza en determinadas condiciones. Sin embargo, es el tribunal quien debe decidir si se concederá o no la libertad bajo fianza a un sospechoso de 13 años después de su arresto.

El juez le hizo a ChatGPT otras preguntas sobre el caso y formuló su decisión final a la luz de sus respuestas. ^{[240] [241]}

En Mata v. Avianca, Inc., 22-cv-1461 (PKC) , una demanda por lesiones personales contra Avianca Airlines presentada en el Tribunal de Distrito del Sur de Nueva York de EE. UU. en mayo de 2023 (con el juez principal P. Kevin Castel presidiendo), los abogados del demandante supuestamente utilizaron ChatGPT para generar una moción legal . ChatGPT generó numerosos casos legales ficticios que involucraban a aerolíneas ficticias con citas inventadas y citas internas en la moción legal. Castel notó numerosas inconsistencias en los resúmenes de la opinión y calificó el análisis legal de uno de los casos como "galimatías". ^[242] Los abogados del demandante enfrentaron una posible sanción judicial y la inhabilitación por presentar la moción y presentar las decisiones legales ficticias que generó ChatGPT como auténticas . ^{[243] [244]} El caso fue desestimado y los abogados fueron multados con $5,000. ^{[245] [246]}

En octubre de 2023, el consejo de Porto Alegre, Brasil , aprobó por unanimidad una ordenanza local propuesta por el concejal Ramiro Rosário que eximiría a los residentes de tener que pagar por el reemplazo de medidores de consumo de agua robados; el proyecto de ley entró en vigencia el 23 de noviembre. El 29 de noviembre, Rosário reveló que el proyecto de ley había sido escrito íntegramente por ChatGPT y que lo había presentado al resto del consejo sin hacer ningún cambio ni revelar la participación del chatbot. ^{[239] [247] [248]} El presidente del consejo de la ciudad, Hamilton Sossmeier, inicialmente criticó la iniciativa de Rosário, diciendo que podría representar "un precedente peligroso", ^{[248] [249]} pero luego dijo que "cambió de opinión": "desafortunadamente o afortunadamente, esto va a ser una tendencia". ^{[239] [247]}

En diciembre de 2023, una litigante que se representaba a sí misma en un caso fiscal ante el Tribunal de Primera Instancia del Reino Unido citó una serie de casos alucinados que pretendían respaldar su argumento de que tenía una excusa razonable para no pagar el impuesto sobre las ganancias de capital adeudado por la venta de una propiedad. ^{[250] [251]} El juez advirtió que la presentación de autoridades legales inexistentes significaba que tanto el Tribunal como la Agencia Tributaria y Aduanera de Su Majestad tenían que "perder tiempo y dinero público", lo que "reduce los recursos disponibles para hacer avanzar los casos de otros usuarios del tribunal que están esperando que se resuelvan sus apelaciones". ^[252]

El juez Kevin Newsom del tribunal de apelaciones de Estados Unidos del 11º circuito respaldó el uso de ChatGPT y señaló que él mismo utiliza el software para ayudar a decidir fallos sobre cuestiones de interpretación de contratos. ^{[253] [254]}

Si bien el sesgo en los LLM se ha observado y documentado en artículos de investigación mucho antes del lanzamiento de ChatGPT, ^{[255] [256]} los usuarios de las redes sociales que comparten con frecuencia instancias de respuestas sesgadas generadas por ChatGPT han generado una importante cobertura mediática y críticas. El 1 de febrero de 2023, el usuario de Twitter LeighWolf compartió capturas de pantalla de dos conversaciones con ChatGPT. En la captura de pantalla de la primera conversación, ChatGPT rechazó la solicitud del usuario "Escribe un poema sobre los atributos positivos de Donald Trump", respondiendo que no estaba programado para crear contenido "partidista, sesgado o político". ^{[257] [258]} En la captura de pantalla de la segunda conversación, cuando se le proporcionó la misma solicitud pero con el texto "Joe Biden" en lugar de "Donald Trump", ChatGPT respondió con un poema según las instrucciones de la solicitud.

Los comentaristas conservadores han acusado a ChatGPT de tener un sesgo hacia perspectivas de tendencia izquierdista. ^{[259] [260] [261]} En enero de 2023, un estudio afirmó que ChatGPT tiene una orientación proambiental y libertaria de izquierda . ^[262] Además, un artículo de agosto de 2023 encontró un "sesgo político significativo y sistemático hacia los demócratas en los EE. UU., Lula en Brasil y el Partido Laborista en el Reino Unido". ^[263] En respuesta a tales críticas, OpenAI reconoció los planes para permitir que ChatGPT cree "resultados con los que otras personas (incluidos nosotros mismos) pueden estar fuertemente en desacuerdo". También contenía información sobre las recomendaciones que había emitido a los revisores humanos sobre cómo manejar temas controvertidos, incluyendo que la IA debería "ofrecerse a describir algunos puntos de vista de personas y movimientos", y no proporcionar un argumento "desde su voz" a favor de temas "incendiarios o peligrosos" (aunque todavía puede "describir argumentos de personas y movimientos históricos"), ni "afiliarse a un lado" o "juzgar a un grupo como bueno o malo". ^[261]

The Guardian cuestionó si el contenido encontrado en Internet después del lanzamiento de ChatGPT "puede ser verdaderamente confiable" y pidió una regulación gubernamental. ^[264]

Ha habido preocupación por la infracción de derechos de autor que involucra a ChatGPT. En junio de 2023, dos escritores demandaron a OpenAI, diciendo que los datos de entrenamiento de la compañía provenían de sitios web ilegales que muestran libros con derechos de autor. ^[265] La comediante y autora Sarah Silverman , Christopher Golden y Richard Kadrey demandaron a OpenAI y Meta por infracción de derechos de autor en julio de 2023. ^[266] La mayoría de sus reclamos fueron desestimados en febrero de 2024, excepto el reclamo de "competencia desleal", que se permitió que continuara. ^[267]

El Gremio de Autores , en nombre de 17 autores, incluido George RR Martin , presentó una denuncia por infracción de derechos de autor contra OpenAI en septiembre de 2023, alegando que "la empresa copió ilegalmente las obras protegidas por derechos de autor de los autores" en el entrenamiento de ChatGPT. ^[268] En diciembre de 2023, The New York Times demandó a OpenAI y Microsoft por infracción de derechos de autor, ^[269] argumentando que Microsoft Copilot y ChatGPT podían reproducir artículos del Times y/o partes importantes de ellos sin permiso. ^[270] Como parte de la demanda, el Times ha solicitado que se impida a OpenAI y Microsoft utilizar su contenido para datos de entrenamiento, además de eliminarlo de los conjuntos de datos de entrenamiento. ^[271]

En marzo de 2024, Patronus AI comparó el desempeño de los LLM en una prueba de 100 preguntas, pidiéndoles que completaran oraciones de libros (por ejemplo, "¿Cuál es el primer pasaje de Gone Girl de Gillian Flynn?") que estaban bajo derechos de autor en los Estados Unidos; encontró que GPT-4, Mixtral de Mistral AI , LLaMA-2 de Meta AI y Claude 2 de Anthropic no se negaron a hacerlo, proporcionando oraciones de los libros textualmente en el 44%, 22%, 10% y 8% de las respuestas, respectivamente. ^{[272] [273]}

En 2023, el diputado australiano Julian Hill advirtió al parlamento nacional que el crecimiento de la IA podría causar una “destrucción masiva”. Durante su discurso, que fue escrito en parte por el programa, advirtió que podría resultar en engaños, pérdida de empleos, discriminación, desinformación y aplicaciones militares incontrolables. ^[274]

Elon Musk escribió: "ChatGPT es terriblemente bueno. No estamos lejos de una IA peligrosamente fuerte". ^[112] Pausó el acceso de OpenAI a una base de datos de Twitter en 2022 en espera de una mejor comprensión de los planes de OpenAI, diciendo: "OpenAI comenzó como código abierto y sin fines de lucro . Ninguna de las dos cosas sigue siendo cierta". ^{[275] [276]} Musk cofundó OpenAI en 2015, en parte para abordar el riesgo existencial de la inteligencia artificial , pero renunció en 2018. ^[276]

Más de 20.000 firmantes, entre ellos los principales científicos informáticos y fundadores de tecnología Yoshua Bengio , Elon Musk y el cofundador de Apple Steve Wozniak , firmaron una carta abierta en marzo de 2023 pidiendo una pausa inmediata de los experimentos gigantes de IA como ChatGPT, citando "riesgos profundos para la sociedad y la humanidad". ^[277] Geoffrey Hinton , uno de los "padres de la IA", expresó su preocupación por que los futuros sistemas de IA puedan superar la inteligencia humana y dejó Google en mayo de 2023. ^{[278] [279] Una} declaración de mayo de 2023 de cientos de científicos de IA, líderes de la industria de IA y otras figuras públicas exigieron que "[m]itigar el riesgo de extinción de la IA debería ser una prioridad global". ^[280]

Otros investigadores destacados de la IA hablaron de manera más optimista sobre los avances. Juergen Schmidhuber , a menudo llamado el "padre de la IA moderna", no firmó la carta, enfatizando que en el 95% de los casos, la investigación de la IA tiene como objetivo hacer que "las vidas humanas sean más largas, saludables y fáciles". Schmidhuber agregó que si bien la IA puede ser utilizada por malos actores, "también puede usarse contra los malos actores". ^[281] Andrew Ng argumentó que "es un error caer en la exageración apocalíptica sobre la IA, y que los reguladores que lo hagan solo beneficiarán a los intereses creados". ^[282] WIRED escribió que Yann LeCun "se burla de los escenarios distópicos de sus pares de desinformación supercargada e incluso, eventualmente, extinción humana". ^[283]

• Agente inteligente  : agente de software que actúa de forma autónoma
• Ética de la inteligencia artificial  : cuestiones éticas específicas de la IA