{"id":480106,"date":"2023-06-08T10:47:49","date_gmt":"2023-06-08T13:47:49","guid":{"rendered":"https:\/\/revistapesquisa.fapesp.br\/?p=480106"},"modified":"2023-06-09T13:13:10","modified_gmt":"2023-06-09T16:13:10","slug":"chatgpt-inaugura-una-nueva-era-en-la-interaccion-entre-seres-humanos-y-computadoras","status":"publish","type":"post","link":"https:\/\/revistapesquisa.fapesp.br\/es\/chatgpt-inaugura-una-nueva-era-en-la-interaccion-entre-seres-humanos-y-computadoras\/","title":{"rendered":"ChatGPT inaugura una nueva era en la interacci\u00f3n entre seres humanos y computadoras"},"content":{"rendered":"<div id=\"attachment_480107\" style=\"max-width: 1150px\" class=\"wp-caption alignnone vertical\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-480107 size-full\" src=\"https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-2022-02-site-1140-1.jpg\" alt=\"\" width=\"1140\" height=\"1114\" srcset=\"https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-2022-02-site-1140-1.jpg 1140w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-2022-02-site-1140-1-250x244.jpg 250w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-2022-02-site-1140-1-700x684.jpg 700w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-2022-02-site-1140-1-120x117.jpg 120w\" sizes=\"auto, (max-width: 1140px) 100vw, 1140px\" \/><p class=\"wp-caption-text\"><span class=\"media-credits-inline\">Midjourney<\/span>Ilustraci\u00f3n producida por un <em>software<\/em> de IA a partir del comando \u201credes neuronales profundas de inteligencia artificial, al estilo de Ren\u00e9 Magritte\u201d<span class=\"media-credits\">Midjourney<\/span><\/p><\/div>\n<p>Desde hace a\u00f1os, cient\u00edficos en empresas y universidades han estado dise\u00f1ando y perfeccionando distintos <em>softwares<\/em> de inteligencia artificial (IA), pero esta tecnolog\u00eda pocas veces ha concitado la atenci\u00f3n de la sociedad como a finales de 2022 con ChatGPT, un sistema capaz de crear textos realistas y articulados a partir de preguntas y comandos de los usuarios y simular conversaciones con un ser humano. Esta herramienta, presentada en noviembre por OpenAI, una <em>startup<\/em> con sede en California (EE. UU.), protagoniz\u00f3 un experimento colectivo de alcance planetario. Dos meses despu\u00e9s de su lanzamiento ya la utilizaban m\u00e1s de 100 millones de personas, lo que desencaden\u00f3 una explosi\u00f3n de experiencias de escritura, algunas divertidas, otras preocupantes. El modelo ha sido capaz de componer m\u00fasica, escribir poemas y c\u00f3digos de programaci\u00f3n e incluso textos period\u00edsticos \u2013para inquietud de los periodistas, como yo\u2013 y ha reavivado el debate: \u00bfcu\u00e1l es el riesgo de que la inteligencia artificial, al imitat nuestra capacidad creativa y llevarla a nuevos niveles, reemplace a las personas en las actividades intelectuales? Hasta ahora, este impacto parec\u00eda restringirse a tareas de car\u00e1cter repetitivo.<\/p>\n<div class=\"box-lateral\"><strong>Lee tambi\u00e9n:<\/strong><br \/>\n&#8211; <a href=\"https:\/\/revistapesquisa.fapesp.br\/es\/un-sistema-promete-detectar-adulteraciones-en-las-imagenes-de-los-articulos-cientificos\/\" target=\"_blank\" rel=\"noopener\">Un sistema promete detectar adulteraciones en las im\u00e1genes de los art\u00edculos cient\u00edficos<\/a><\/div>\n<p>Resulta prematuro conjeturar en qu\u00e9 medida transformar\u00e1 esta tecnolog\u00eda la vida de la gente. Pero lo cierto es que se abre un nuevo horizonte de aplicaciones que prometen reinventar desde los motores de b\u00fasqueda en l\u00ednea hasta los asistentes de voz, como Alexa y Siri, para permitir que las personas conversen con las computadoras y otros dispositivos electr\u00f3nicos como si estuvieran hablando con seres humanos. \u201cHay todo un nuevo mundo de comunicaci\u00f3n que esta tecnolog\u00eda va a inaugurar\u201d, declar\u00f3 Jeff Hancock, docente de la Universidad Stanford (EE. UU.), quien estudia de qu\u00e9 manera la comunicaci\u00f3n mediada por sistemas de inteligencia artificial afecta a las relaciones interpersonales, a la agencia de noticias Stanford News.<\/p>\n<p>El funcionamiento de ChatGPT se basa en algoritmos de redes neuronales profundas, modelos inspirados en la organizaci\u00f3n del sistema nervioso humano que se basan en el aprendizaje autom\u00e1tico, un campo de estudio que permite extraer patrones de grandes vol\u00famenes de datos y, partiendo de ellos, realizar predicciones. Este tipo de sistema funciona con base en unidades de procesamiento interconectadas en diversas capas, de la misma manera que las neuronas se conectan por sinapsis. En los \u00faltimos a\u00f1os, empresas como Google y OpenAI han pasado a dedicarse al desarrollo de un tipo espec\u00edfico de red neuronal artificial, los grandes modelos de lenguaje (LLM), que consiguen analizar enormes cantidades de datos de texto, identificar miles de millones de patrones referidos al modo en que las personas relacionan palabras, n\u00fameros y s\u00edmbolos y, a partir de ello, aprender a generar nuevos textos. El desarrollo de estas herramientas ha llevado a la creaci\u00f3n de lo que los cient\u00edficos han llamado sistemas de IA generativa.<\/p>\n<div class=\"box-lateral\"><strong>Preguntas frecuentes<\/strong><\/p>\n<p><strong>\u00bfQu\u00e9 es ChatGPT?<br \/>\n<\/strong>Es un <em>software<\/em> de IA generativa que elabora textos con base en preguntas y comandos de los usuarios<\/p>\n<p><strong>\u00bfC\u00f3mo funciona?<br \/>\n<\/strong>Funciona con base en redes neuronales profundas denominadas \u201cgrandes modelos de lenguaje\u201d<\/p>\n<p><strong>\u00bfQu\u00e9 hacen ellas?<br \/>\n<\/strong>Analizan enormes cantidades de datos de texto e identifican miles de millones de patrones del modo en que los seres humanos relacionan palabras, n\u00fameros y s\u00edmbolos, y aprenden a generar textos nuevos en un lenguaje natural<\/p>\n<p><strong>\u00bfCu\u00e1l es el volumen de datos analizado por ChatGPT?<br \/>\n<\/strong>Se estima que ChatGPT ha analizado 570 gigabytes de datos de textos en internet (unos 300.000 millones de palabras), a partir de los cuales ha identificado 175.000 millones de par\u00e1metros<\/p>\n<p><strong>\u00bfQu\u00e9 son los par\u00e1metros?<br \/>\n<\/strong>Son representaciones matem\u00e1ticas de patrones de texto, una especie de descripci\u00f3n matem\u00e1tica del modo en que los seres humanos escriben textos y c\u00f3digos de programaci\u00f3n<\/div>\n<p>Desde 2018, Google utiliza esta tecnolog\u00eda en sus portales de b\u00fasqueda y traducci\u00f3n a partir de un <em>software<\/em> denominado Bert, que parte de modelos probabil\u00edsticos para predecir las pr\u00f3ximas palabras de un texto bas\u00e1ndose en el fragmento anterior, que es la forma en que Google corrige la ortograf\u00eda y termina las frases de los usuarios de su buscador.<\/p>\n<p>A finales de 2020, OpenAI dio un gran paso y lanz\u00f3 GPT-3, un procesador de lenguaje capaz de analizar y procesar datos de texto en una escala sin precedentes. El GPT-3 pas\u00f3 por meses de entrenamiento y escudri\u00f1ado de cientos de gigabytes de informaci\u00f3n en internet, lo que incluy\u00f3 libros, art\u00edculos cient\u00edficos, p\u00e1ginas de Wikipedia, noticias y registros de chat <em>online<\/em>, a partir de los cuales identific\u00f3 175.000 millones de par\u00e1metros, es decir, representaciones matem\u00e1ticas de modelos de texto: para hacerse una idea, Bert operaba \u201csolamente\u201d con 110 millones de par\u00e1metros. \u201cEstos patrones equivalen a un mapa del lenguaje humano, una descripci\u00f3n matem\u00e1tica del modo en que redactamos textos y c\u00f3digos de programaci\u00f3n\u201d, explica el cient\u00edfico de la computaci\u00f3n Fernando Santos Os\u00f3rio, del Instituto de Ciencias Matem\u00e1ticas y Computaci\u00f3n de la Universidad de S\u00e3o Paulo (ICMC-USP).<\/p>\n<p>Estos mapas permiten que GPT-3 escriba sobre cualquier tema en cualquier estilo, aunque lo que se pida parezca surrealista, como un poema dedicado al t\u00edtulo obtenido por el club de f\u00fatbol Palmeiras en la Copa R\u00edo 1951, seg\u00fan las reglas de versificaci\u00f3n de <em>La Odisea<\/em>, de Homero, o guiones de comedias rom\u00e1nticas en universos alternativos. Tambi\u00e9n consigue explicar conceptos propios de la mec\u00e1nica cu\u00e1ntica, en una prosa clara y bien redactada, que crea la impresi\u00f3n de que realmente estamos hablando con un ser humano y no interactuando con un <em>software<\/em>. La misma l\u00f3gica fue aplicada por OpenAI en otro tipo de tecnolog\u00eda de IA generativa: DALL-E, cuyo entrenamiento se bas\u00f3 en decenas de miles de fotograf\u00edas digitales, a partir de las cuales puede generar nuevas im\u00e1genes, como algunas de las que ilustran este reportaje.<\/p>\n<p>ChatGPT utiliza una versi\u00f3n m\u00e1s avanzada de GPT-3, GPT-3.5, en una interfaz conversacional amigable y f\u00e1cil de usar. A diferencia de su antecesor, que fue probado por un grupo peque\u00f1o de usuarios, esta herramienta fue puesta a disposici\u00f3n del p\u00fablico en forma gratuita, lo que ha ampliado la percepci\u00f3n de su potencial disruptivo. En cuanto a las t\u00e9cnicas que utiliza, ChatGPT no es particularmente innovador. Tampoco es revolucionario, aunque el p\u00fablico as\u00ed lo perciba, posiblemente porque ofrece una soluci\u00f3n interactiva in\u00e9dita.<\/p>\n<p>Al permitir que miles de personas puedan probar su tecnolog\u00eda, OpenAI ha despertado tanto la fascinaci\u00f3n del p\u00fablico como el apetito de los inversores, entre ellos, principalmente, Microsoft. La multinacional, que ya hab\u00eda invertido 1.000 millones de d\u00f3lares en la <em>startup<\/em> en 2019, aport\u00f3 otros 10.000 millones en enero de este a\u00f1o con la intenci\u00f3n de poder incorporar la herramienta en varios de sus servicios. El motor de b\u00fasqueda Bing, por ejemplo, funciona desde principios de febrero basado en un sistema de IA m\u00e1s poderoso que ChatGPT. El modelo de lenguaje fue desarrollado en asociaci\u00f3n con OpenAI y, en breve, ser\u00e1 incorporado al navegador Microsoft Edge.<\/p>\n<div id=\"attachment_480115\" style=\"max-width: 1150px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-480115 size-full\" src=\"https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-pixel-art-2022-02-site-1140-1.jpg\" alt=\"\" width=\"1140\" height=\"280\" srcset=\"https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-pixel-art-2022-02-site-1140-1.jpg 1140w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-pixel-art-2022-02-site-1140-1-250x61.jpg 250w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-pixel-art-2022-02-site-1140-1-700x172.jpg 700w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-pixel-art-2022-02-site-1140-1-120x29.jpg 120w\" sizes=\"auto, (max-width: 1140px) 100vw, 1140px\" \/><p class=\"wp-caption-text\"><span class=\"media-credits-inline\">DALL-E<\/span>Cuatro im\u00e1genes generadas por IA con base en la frase \u201crepresentaci\u00f3n matem\u00e1tica de c\u00f3mo escriben textos y c\u00f3digos de programaci\u00f3n los humanos, <em>pixel art<\/em>\u201d<span class=\"media-credits\">DALL-E<\/span><\/p><\/div>\n<p>Los competidores no tardaron en reaccionar. D\u00edas despu\u00e9s del anuncio de Microsoft, Alphabet, propietaria de Google, lanz\u00f3 Bard, su propio sistema de IA generativa, que tambi\u00e9n se espera que se incorpore a su motor de b\u00fasqueda. La empresa tambi\u00e9n adquiri\u00f3 una participaci\u00f3n de 300 millones de d\u00f3lares en Anthropic, una <em>startup<\/em> fundada por antiguos empleados de OpenAI, que ha creado un <em>software<\/em> parecido a ChatGPT, denominado Claude. En China, las acciones de la multinacional tecnol\u00f3gica Baidu subieron un 15\u00a0% tras haber anunciado en febrero que lanzar\u00e1 al mercado un robot de IA bautizado Ernie Bot (en su versi\u00f3n en ingl\u00e9s) y Wenxin Yiyan (en mandar\u00edn).<\/p>\n<p>Ninguna otra tecnolog\u00eda ha captado tanto dinero en los \u00faltimos a\u00f1os como la IA generativa (IAG), \u201cposiblemente porque se trata de un \u00e1rea que suele proporcionar rendimientos r\u00e1pidos sobre el capital invertido\u201d, comenta el economista Alexandre Chiavegatto Filho, director del Laboratorio de Macrodatos y An\u00e1lisis Predictivo en Salud de la Facultad de Salud P\u00fablica de la USP, quien estudia el uso de m\u00e9todos de IA predictivos en el \u00e1rea m\u00e9dica. Desde 2020, las inversiones de capital de riesgo en este segmento han crecido un 425 %, hasta llegar a 2.100 millones de d\u00f3lares en diciembre de 2022. Se estima que el mercado de la IAG crecer\u00e1 de un 20 % a un 34 % en los pr\u00f3ximos a\u00f1os, y podr\u00eda llegar a 30.400 millones de d\u00f3lares en 2028. Este crecimiento ser\u00e1 impulsado por grandes multinacionales, tales como Baidu, Google, Microsoft, Apple, IBM y Amazon, que cuentan con recursos financieros e infraestructura para perfeccionar la tecnolog\u00eda con miras a aplicarla comercialmente. En Brasil, la investigaci\u00f3n sobre este tipo de IA se concentra en las universidades.<\/p>\n<blockquote><p>ChatGPT apunta hacia un futuro en el cual tendremos menos certeza al respecto de si lo que estamos leyendo es real o falso, dice Santos Os\u00f3rio<\/p><\/blockquote>\n<p>Para el soci\u00f3logo Rafael de Almeida Evangelista, del N\u00facleo de Desarrollo de la Creatividad de la Universidad de Campinas (Unicamp), esta ha sido la base del proceso de desarrollo tecnol\u00f3gico de las \u00faltimas d\u00e9cadas. \u201cSe invierte apuntando a incorporar la fuerza f\u00edsica del trabajador a las m\u00e1quinas y hacer que el trabajo vivo sea cada vez menos necesario en la cadena de producci\u00f3n\u201d, dice. Y ahora, la IA tambi\u00e9n amenaza con sustituir a las personas en las actividades intelectuales. Seg\u00fan De Almeida Evangelista, aunque de momento es limitado, este riesgo existe. \u201cLas herramientas de IAG, como en el caso del ChatGPT, producen simulaciones producto de su entrenamiento con el lenguaje. La l\u00f3gica empleada es la de la copia\u201d, aclara. \u201cUn texto escrito por ChatGPT no correlaciona sentidos e historia de las palabras para seleccionarlas siguiendo un orden espec\u00edfico, sino que realiza una copia de los patrones de otros textos similares para producir el mismo efecto de realidad\u201d.<\/p>\n<p>De este modo, la tecnolog\u00eda escribe letras de canciones y poemas, pero similares a obras conocidas, lo que puede bastar para atraer a un p\u00fablico determinado. La habilidad para producir contenido original y verdaderamente innovador requerir\u00eda que estos sistemas fueran capaces de pensar en forma abstracta. \u201cChatGPT es asombrosamente articulado y muy bueno produciendo textos semejantes a los que escribir\u00eda un humano, pero es incapaz de razonar\u201d, subraya el cient\u00edfico de la computaci\u00f3n Marcelo Finger, del Instituto de Matem\u00e1tica y Estad\u00edstica de la USP, uno de los coordinadores del proyecto Corpus Carolina, desarrollado en el \u00e1mbito del Centro de Inteligencia Artificial (C4AI) de la USP, centrado en la construcci\u00f3n de una colecci\u00f3n de textos en portugu\u00e9s brasile\u00f1o que sirva como base para la concreci\u00f3n de estudios ling\u00fc\u00edsticos y entrenamiento de modelos de lenguaje similares al GPT-3.<\/p>\n<div id=\"attachment_480119\" style=\"max-width: 1150px\" class=\"wp-caption alignright vertical\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-480119 size-full\" src=\"https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-redes-neurais-2022-02-site-1140-1.jpg\" alt=\"\" width=\"1140\" height=\"1140\" srcset=\"https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-redes-neurais-2022-02-site-1140-1.jpg 1140w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-redes-neurais-2022-02-site-1140-1-250x250.jpg 250w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-redes-neurais-2022-02-site-1140-1-700x700.jpg 700w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-redes-neurais-2022-02-site-1140-1-120x120.jpg 120w\" sizes=\"auto, (max-width: 1140px) 100vw, 1140px\" \/><p class=\"wp-caption-text\"><span class=\"media-credits-inline\">DALL-E<\/span>Otra representaci\u00f3n para el comando \u201cRedes neuronales profundas de un sistema de inteligencia artificial\u201d, en este caso en estilo surrealista<span class=\"media-credits\">DALL-E<\/span><\/p><\/div>\n<p>La primera versi\u00f3n del modelo del C4AI, lanzada en marzo del a\u00f1o pasado, se basa en el an\u00e1lisis de 7,5 gigabytes de textos \u2013lo que equivale a algo m\u00e1s de 1,7 millones de documentos, o aproximadamente 653,3 millones de palabras\u2013, que incluyen contenidos jur\u00eddicos, obras literarias de dominio p\u00fablico y art\u00edculos period\u00edsticos, entre otros datos, todos con licencia de uso compartido e informaci\u00f3n completa sobre su origen y autor\u00eda. \u201cEsperamos que el Corpus Carolina permita que los modelos y algoritmos de IA para portugu\u00e9s alcancen un nuevo nivel de rendimiento en comparaci\u00f3n con lo que existe hoy en d\u00eda, aumentando su competitividad frente a los sistemas desarrollados para otros idiomas\u201d.<\/p>\n<p>El ChatGPT tiene un gran margen de mejora. Por ejemplo, todav\u00eda no realiza b\u00fasquedas de informaci\u00f3n de sucesos de la actualidad en internet. Su conocimiento se limita a lo que ha aprendido hasta 2021, y por ello algunas de sus respuestas pueden parecer obsoletas. El modelo suele producir informaci\u00f3n incorrecta, incompleta y sin sentido, dependiendo del nivel de complejidad de la pregunta o de la orientaci\u00f3n que se le proporcion\u00f3. \u201cEs sorprendente la capacidad de ChatGPT para generar una prosa plausible, relevante y bien estructurada sin tener ninguna comprensi\u00f3n del mundo, sin contar con hechos expl\u00edcitamente representados u otras cosas que supondr\u00edamos necesarias para generar una prosa inteligente\u201d, declar\u00f3 a <em>Harvard Gazette<\/em> el psic\u00f3logo Steven Pinker, de la Universidad Harvard. \u201cEsta apariencia de idoneidad hace que sus errores sean a\u00fan m\u00e1s impactantes. Realiza afirmaciones con total seguridad, como que Estados Unidos ha tenido cuatro mujeres presidentas, entre ellas Luci Johnson [hija del expresidente Lyndon Johnson, 1908-1973], entre 1973 y 1977\u201d.<\/p>\n<p>El sistema es igualmente incapaz de distinguir noticias falsas y teor\u00edas conspiranoicas. \u201cChatGPT no tiene ning\u00fan compromiso con la verdad\u201d, resalta Finger. \u201cEl programa fue entrenado \u00fanica y exclusivamente para producir textos que se parecen a otros, con base en supuestos probabil\u00edsticos sobre qu\u00e9 palabras encajan mejor con la anterior, y as\u00ed sucesivamente hasta formar una frase o un p\u00e1rrafo\u201d. Y a\u00f1ade: \u201cEs m\u00e1s f\u00e1cil y barato programar un robot que escriba textos que chequear la veracidad de una informaci\u00f3n\u201d. Santos Os\u00f3rio, del ICMC-USP, desliza una reflexi\u00f3n preocupante: \u201cEsta herramienta nos apunta un futuro en el cual tendremos a\u00fan menos certeza de que lo que estemos leyendo sea real o falso, tanto en las redes sociales como en las conversaciones <em>online<\/em>\u201d.<\/p>\n<blockquote><p><em>El <\/em>software <em>de IA promete reinventarlo todo, desde los motores de b\u00fasqueda <\/em>online <em>hasta los asistentes de voz<\/em><\/p><\/blockquote>\n<p>En OpenAI se tuvieron algunas precauciones al programar ChatGPT, como rechazar las solicitudes de instrucciones para realizar actividades ilegales, por ejemplo, para fabricar armas con impresoras 3D. Sin embargo, muchos usuarios han descubierto formas de eludir las restricciones, reformulando el pedido como si fuera un experimento hipot\u00e9tico o un guion de cine, o simplemente orientando al modelo para que desactive sus funciones de seguridad.<\/p>\n<p>La detecci\u00f3n de estas y otras grietas probablemente ha sido uno de los motivos por los cuales OpenAI decidi\u00f3 hacer p\u00fablico el acceso a la herramienta. \u201cLa informaci\u00f3n recopilada sin duda podr\u00e1 utilizarse para mejorar la nueva versi\u00f3n de la tecnolog\u00eda: ChatGPT-4, cuyo lanzamiento est\u00e1 previsto para 2024\u201d, subraya el cient\u00edfico de la computaci\u00f3n Jo\u00e3o Paulo Papa, de la Facultad de Ciencias de la Universidade Estadual Paulista (Unesp). \u201cEl procesamiento permanente de nuevos datos requerir\u00e1 supercomputadoras funcionando sin pausa y enormes equipos de programadores para supervisar su aprendizaje, algo muy costoso\u201d, a\u00f1ade Finger.<\/p>\n<p>La decisi\u00f3n de liberar el acceso de ChatGPT al p\u00fablico masivo tambi\u00e9n permiti\u00f3 que el mundo pudiera tener una noci\u00f3n del impacto y las implicaciones de esta tecnolog\u00eda. Desde su lanzamiento, los educadores vienen debatiendo sobre c\u00f3mo lidiar con los trabajos de alumnos que no han sido producidos por ellos, sino por IA. En Estados Unidos, algunas facultades han llegado a prohibir el uso de la herramienta. Sciences Po, una instituci\u00f3n p\u00fablica francesa de educaci\u00f3n superior especializada en ciencias humanas y sociales, prohibi\u00f3 a sus alumnos el uso del <em>software<\/em>. Otras universidades est\u00e1n adaptando sus m\u00e9todos de ense\u00f1anza, adoptando m\u00e1s ex\u00e1menes orales y trabajos en el aula. Algunas est\u00e1n revisando sus pol\u00edticas de integridad para actualizar las definiciones de plagio, incluyendo los textos elaborados mediante sistemas de IA generativa.<\/p>\n<div id=\"attachment_480111\" style=\"max-width: 1150px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-480111 size-full\" src=\"https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-anddy-warhol-2022-02-site-1140-1.jpg\" alt=\"\" width=\"1140\" height=\"276\" srcset=\"https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-anddy-warhol-2022-02-site-1140-1.jpg 1140w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-anddy-warhol-2022-02-site-1140-1-250x61.jpg 250w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-anddy-warhol-2022-02-site-1140-1-700x169.jpg 700w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2023\/05\/RPF-capa-chatgpt-anddy-warhol-2022-02-site-1140-1-120x29.jpg 120w\" sizes=\"auto, (max-width: 1140px) 100vw, 1140px\" \/><p class=\"wp-caption-text\"><span class=\"media-credits-inline\">DALL-E<\/span>C\u00f3mo traducir\u00eda Andy Warhol a <em>pop art<\/em> la frase \u201cEl ChatGPT no tiene ning\u00fan compromiso con la verdad\u201d, seg\u00fan el <em>software<\/em> DALL-E<span class=\"media-credits\">DALL-E<\/span><\/p><\/div>\n<p>Seg\u00fan informa el peri\u00f3dico <em>The New York Times<\/em>, m\u00e1s de 6.000 docentes de algunas de las principales instituciones de educaci\u00f3n superior estadounidenses se inscribieron para probar GPTZero, un programa cuyo objetivo es detectar textos elaborados mediante IA generativa. \u201cLa propia OpenAI ha lanzado a finales de enero un <em>software<\/em> con esta finalidad\u201d, comenta Dora Kaufman, docente de la Facultad de Ciencias y Tecnolog\u00eda de la Pontificia Universidad Cat\u00f3lica de S\u00e3o Paulo (PUC-SP).<\/p>\n<p>Esta preocupaci\u00f3n no se limita al \u00e1mbito de la educaci\u00f3n. Un estudio publicado en diciembre en formato de <em>preprint<\/em> constat\u00f3 que la herramienta puede producir res\u00famenes falsos de art\u00edculos cient\u00edficos capaces de eludir a los detectores de plagio y enga\u00f1ar a los dictaminadores.<\/p>\n<p>Los impactos del ChatGPT en la producci\u00f3n de conocimiento y en la integridad de la ciencia a\u00fan no han podido evaluarse por completo. En diciembre, el <em>software<\/em> fue acreditado como uno de los autores de un estudio <em>preprint<\/em> publicado en el repositorio medRxiv sobre la aplicaci\u00f3n de la propia herramienta en la ense\u00f1anza m\u00e9dica. Tambi\u00e9n aparece como uno de los autores de un editorial sobre IA en el \u00e1rea de la educaci\u00f3n en enfermer\u00eda publicado en diciembre en la revista <em>Nurse Education in Practice<\/em>. Los casos han desencadenado un debate sobre hasta qu\u00e9 punto el uso de sistemas de IA generativa podr\u00eda aceptarse en los art\u00edculos cient\u00edficos y si cumplen con los requisitos m\u00ednimos como para firmar trabajos de esta \u00edndole. \u201cEs necesario distinguir entre el papel formal como autor de un art\u00edculo y la noci\u00f3n m\u00e1s general de otro como simple redactor de un documento\u201d, declar\u00f3 enf\u00e1ticamente a la revista <em>Nature<\/em> el bioqu\u00edmico brit\u00e1nico Richard Sever, uno de los fundadores del repositorio bioRxiv. \u201cLos autores asumen la responsabilidad legal por su trabajo, por ende, solamente personas pueden acreditarse como tales\u201d.<\/p>\n<p>Algunas de las principales editoriales cient\u00edficas del mundo comparten esta postura. A finales de enero, Springer Nature inform\u00f3 que no aceptar\u00e1 ninguna herramienta de IA generativa como autora de art\u00edculos cient\u00edficos y que el uso eventual de esta tecnolog\u00eda deber\u00e1 declararse espec\u00edficamente en las secciones de m\u00e9todos o agradecimientos. El editor en jefe de la revista Science, Holden Thorp, prohibi\u00f3 la coautor\u00eda y el uso de textos elaborados mediante IA en los manuscritos remitidos a la revista. \u201cNuestros autores firman una licencia que certifica la originalidad de sus trabajos\u201d, escribi\u00f3 en un editorial publicado el 26 de enero. \u201cLa palabra \u2018original\u2019 es suficiente para indicar que los textos escritos por ChatGPT no son aceptables\u201d.<\/p>\n<div class=\"box\"><strong>Disparates producidos por ChatGPT<\/strong><\/p>\n<p><strong>\u00a0<\/strong><strong>\u00bfCu\u00e1ntos premios Nobel tiene Brasil?<br \/>\n<\/strong>Brasil suma dos laureados con el Premio Nobel: el economista Paulo Roberto Giannini, que recibi\u00f3 el Premio Nobel de Econom\u00eda en 2001, y el bioqu\u00edmico Oswaldo Cruz, que gan\u00f3 el Premio Nobel de Fisiolog\u00eda o Medicina en 2008<\/p>\n<p><strong>\u00bfCu\u00e1ntas presidentas hubo en Brasil?<br \/>\n<\/strong>Hasta la fecha, ninguna mujer ha ocupado la presidencia en Brasil. Las \u00fanicas mujeres que han ocupado el cargo de jefas de Estado han sido la gobernadora del estado de Rio Grande do Sul, Yeda Crusius, quien lo ocup\u00f3 interinamente por 15 d\u00edas en 2009, y la presidenta del Senado, Roseana Sarney, quien cumpli\u00f3 un interinato por 4 d\u00edas en 2016<\/p>\n<p><strong>\u00bfCu\u00e1ntos premios \u00d3scar ha ganado Fernanda Montenegro?<br \/>\n<\/strong>Fernanda Montenegro gan\u00f3 el \u00d3scar a la mejor actriz en 1998 por su actuaci\u00f3n en la pel\u00edcula <em>Central do Brasil <\/em>[<em>Estaci\u00f3n Central<\/em>]. Tambi\u00e9n fue nominada al \u00d3scar a la mejor actriz en 2004 por su labor en la pel\u00edcula <em>O quatrilho<\/em>, pero no lo gan\u00f3. Adem\u00e1s, ha sido nominada a otros premios, como el Globo de Oro y el BAFTA<\/div>\n<p>Sin embargo, algunos investigadores sostienen que los sistemas como ChatGPT no deben ser vistos como una amenaza, sino como herramientas de apoyo a la investigaci\u00f3n. \u201cEstos programas pueden fortalecer el trabajo de los cient\u00edficos, aumentando su productividad\u201d, dice Chiavegatto Filho. \u201cMuchos de los resultados cient\u00edficos se basan en herramientas automatizadas, como Excel. La prohibici\u00f3n del uso de sistemas de procesamiento de lenguaje equivaldr\u00eda a exigir que los c\u00e1lculos en los que se basan los resultados de un trabajo fuesen hechos manualmente por los investigadores\u201d.<\/p>\n<p>El uso de programas de IA como asistentes de investigaci\u00f3n es habitual en el \u00e1mbito acad\u00e9mico. Herramientas tales como Wordtune y Generate, por ejemplo, ayudan a organizar ideas y apuntes, transform\u00e1ndolos en p\u00e1rrafos, res\u00famenes y t\u00edtulos de art\u00edculos cient\u00edficos. Algunas tambi\u00e9n escriben fragmentos de c\u00f3digos de programaci\u00f3n que se utilizan para realizar experimentos. Otras son capaces de identificar art\u00edculos que citan un determinado manuscrito, marcando aquellos que corroboran, refutan o mencionan los resultados del trabajo de referencia.<\/p>\n<p>En el caso de ChatGPT, hay efectos colaterales muy problem\u00e1ticos. Hace algunas semanas, Marcelo Finger realiz\u00f3 una prueba con el sistema, solicit\u00e1ndole que buscara referencias de estudios sobre el uso de IA en la identificaci\u00f3n de enfermedades a partir de la voz de pacientes, un campo en el cual \u00e9l tambi\u00e9n desarrolla investigaciones. El programa present\u00f3 r\u00e1pidamente una lista de trabajos, con los nombres de los autores, el a\u00f1o de publicaci\u00f3n de los <em>papers<\/em> y el nombre de las revistas donde salieron publicados. \u201cEl problema es que ninguno de los trabajos exist\u00eda\u201d, dice el investigador.<\/p>\n<p>Los sistemas como ChatGPT har\u00e1n m\u00e1s complicada la tarea de detectar los casos de mala conducta cient\u00edfica. \u201cPero no hay forma de volver a meter al genio dentro de la botella\u201d, dice el f\u00edsico Ney Lemke, de la Coordinaci\u00f3n de Tecnolog\u00eda Inform\u00e1tica de la Unesp. \u201cEsta tecnolog\u00eda seguir\u00e1 perfeccion\u00e1ndose y esto ser\u00e1 de manera cada vez m\u00e1s r\u00e1pida, por lo que tendremos que aprender a convivir con ella y a utilizarla en forma responsable\u201d. Las universidades de Buffalo, en el estado de Nueva York, y Furman, en Carolina del Sur (ambas en EE. UU.), por ejemplo, tienen previsto incluir la discusi\u00f3n sobre el uso de las herramientas de IAG en los cursos de integridad acad\u00e9mica destinados a los nuevos estudiantes. En Brasil, las universidades todav\u00eda no han establecido directrices al respecto del uso de este modelo. En un comunicado, la Unicamp y la Unesp han informado que est\u00e1n preparando seminarios con sus docentes para debatir el tema. \u201cCada tanto, surgen nuevas tecnolog\u00edas que nos obligan a revisar nuestros comportamientos y m\u00e9todos de trabajo y de ense\u00f1anza\u201d, dice Dora Kaufman, de la PUC-SP. \u201cNo ser\u00e1 diferente en el caso de ChatGPT\u201d.<\/p>\n<p class=\"bibliografia separador-bibliografia\"><strong>Proyectos<br \/>\n1.<\/strong> Estudio Spira: un sistema de detecci\u00f3n precoz de la insuficiencia respiratoria mediante an\u00e1lisis de audio (<a href=\"https:\/\/bv.fapesp.br\/pt\/auxilios\/106459\/estudo-spira-sistema-de-deteccao-precoce-de-insuficiencia-respiratoria-por-meio-de-analise-de-audio\/\" target=\"_blank\" rel=\"noopener\">n\u00ba 20\/06443<\/a>); <strong>Modalidad<\/strong> Ayuda de Investigaci\u00f3n \u2013 Regular; <strong>Investigador responsable<\/strong><strong>\u00a0<\/strong>Marcelo Finger (IME USP); <strong>Inversi\u00f3n<\/strong> R$ 138.680.<br \/>\n<strong>2.<\/strong> Centro de Inteligencia Artificial (<a href=\"https:\/\/bv.fapesp.br\/pt\/auxilios\/105714\/centro-de-inteligencia-artificial\/\" target=\"_blank\" rel=\"noopener\">n\u00ba 19\/07665-4<\/a>); <strong>Modalidad <\/strong>Ayuda de Investigaci\u00f3n &#8211; Programa Centros de Investigaciones en Ingenier\u00eda; <strong>Investigador responsable<\/strong>\u00a0Fabio Gagliardi Cozman (Escuela Polit\u00e9cnica-USP); <strong>Inversi\u00f3n<\/strong> R$ 6.852.691,49.<\/p>\n<p class=\"bibliografia\"><strong>Art\u00edculos cient\u00edficos<br \/>\n<\/strong>DEVLIN, Jacob\u00a0<em>et al<\/em>. <a href=\"https:\/\/arxiv.org\/abs\/1810.04805\" target=\"_blank\" rel=\"noopener\">Bert: Pre-training of deep bidirectional transformers for language understanding<\/a>.\u00a0<strong>arXv<\/strong>. 2018<br \/>\nO\u2019CONNOR, S. y <a href=\"https:\/\/www.sciencedirect.com\/journal\/nurse-education-in-practice\/vol\/66\/suppl\/C\" target=\"_blank\" rel=\"noopener\">ChatGPT. Open artificial intelligence platforms in nursing education: Tools for academic progress or abuse?<\/a>\u00a0<strong>Nurse Education in Practice<\/strong>. ene. 2023.<br \/>\nDOWLING, M. y LUCEY, B. <a href=\"https:\/\/www.sciencedirect.com\/science\/article\/pii\/S1544612323000363#:~:text=Introduction&amp;text=ChatGPT%20is%20an%20artificial%20intelligence,on%20over%20150%20billion%20parameters.\" target=\"_blank\" rel=\"noopener\">ChatGPT for (Finance) research: The bananarama conjecture<\/a>.\u00a0<strong>Finance Research Letters<\/strong>. ene. 2023.<br \/>\nGAO, C. A.\u00a0<em>et al<\/em>. <a href=\"https:\/\/www.biorxiv.org\/content\/10.1101\/2022.12.23.521610v1\" target=\"_blank\" rel=\"noopener\">Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers<\/a>.\u00a0<strong>bioRxiv<\/strong>. dic. 2022.<br \/>\nKUNG, T. H.\u00a0<em>et al<\/em>. <a href=\"https:\/\/www.medrxiv.org\/content\/10.1101\/2022.12.19.22283643v2\" target=\"_blank\" rel=\"noopener\">Performance of ChatGPT on USMLE: Potential for AI-Assisted medical education using large language models<\/a>.\u00a0<strong>medRxiv<\/strong>. dic. 2022.<\/p>\n","protected":false},"excerpt":{"rendered":"El <em>software<\/em> promete reinventar desde los mecanismos de b\u00fasqueda <em>online<\/em> hasta los asistentes de voz, con cuantiosas implicaciones \u00e9ticas","protected":false},"author":346,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"footnotes":""},"categories":[179,192],"tags":[288,289,312,333],"coauthors":[662],"class_list":["post-480106","post","type-post","status-publish","format-standard","hentry","category-tapa","category-tecnologia-es","tag-computacion","tag-comunicacion","tag-innovacion","tag-tecnologia-de-la-informacion","position_at_home-sumario"],"acf":[],"_links":{"self":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts\/480106","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/users\/346"}],"replies":[{"embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/comments?post=480106"}],"version-history":[{"count":11,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts\/480106\/revisions"}],"predecessor-version":[{"id":481635,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts\/480106\/revisions\/481635"}],"wp:attachment":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/media?parent=480106"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/categories?post=480106"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/tags?post=480106"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/coauthors?post=480106"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}