{"id":546119,"date":"2025-03-25T11:17:58","date_gmt":"2025-03-25T14:17:58","guid":{"rendered":"https:\/\/revistapesquisa.fapesp.br\/?p=546119"},"modified":"2025-03-25T11:17:58","modified_gmt":"2025-03-25T14:17:58","slug":"las-universidades-brasilenas-debaten-las-reglas-de-uso-de-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/revistapesquisa.fapesp.br\/es\/las-universidades-brasilenas-debaten-las-reglas-de-uso-de-la-inteligencia-artificial\/","title":{"rendered":"Las universidades brasile\u00f1as debaten las reglas de uso de la inteligencia artificial"},"content":{"rendered":"<p>Las instituciones cient\u00edficas y de educaci\u00f3n superior de Brasil est\u00e1n empezando a formular recomendaciones para el uso de la inteligencia artificial (IA), especialmente la generativa, en la ense\u00f1anza, la investigaci\u00f3n y la extensi\u00f3n. La popularizaci\u00f3n de programas inform\u00e1ticos como ChatGPT, capaces de generar texto, im\u00e1genes y datos, ha planteado dudas sobre los l\u00edmites \u00e9ticos del uso de estas tecnolog\u00edas, fundamentalmente en la escritura acad\u00e9mica. Los docentes han buscado nuevas formas de evaluar el trabajo de los alumnos, tratando de eludir los riesgos del uso indebido de la IA. En l\u00edneas generales, las directrices apuntan a un uso transparente de la misma y advierten sobre el peligro de infringir los derechos de autor, incurrir en plagio, generar desinformaci\u00f3n y replicar sesgos discriminatorios que estas herramientas pueden reproducir.<\/p>\n<p>En febrero, el centro universitario Senai Cimatec, de Bah\u00eda, public\u00f3 una gu\u00eda orientativa para su comunidad acad\u00e9mica al respecto de la IA generativa que se basa en tres principios: transparencia; \u201ccentralidad en la persona humana\u201d, es decir, que se preserve el control humano sobre la informaci\u00f3n generada por IA, ya que su uso debe comportar un beneficio para la sociedad, y \u00e9nfasis en la privacidad de los datos, especialmente en aquellas actividades que comprenden contratos con empresas a trav\u00e9s de convenios para el desarrollo y transferencia de tecnolog\u00edas. Es sabido que esta herramienta puede almacenar la informaci\u00f3n compartida en las plataformas de IA, vulnerando la confidencialidad de los datos. \u201cNo podemos soslayar que, as\u00ed como nosotros aprendemos con estas herramientas, ellas tambi\u00e9n aprenden de nosotros\u201d, subraya la ingeniera civil Tatiana Ferraz, prorrectora administrativo-financiera de Senai Cimatec y coordinadora de la gu\u00eda. Una actualizaci\u00f3n del reglamento disciplinario de la instituci\u00f3n incluye ahora sanciones para los estudiantes que incumplan las normas.<\/p>\n<p>La gu\u00eda autoriza a los profesores a utilizar <em>software<\/em> de detecci\u00f3n de plagio cuando lo consideren necesario, aunque estos no tengan un 100 % de precisi\u00f3n a la hora de reconocer contenidos producidos por IA. Las herramientas no pueden citarse como coautoras de trabajos acad\u00e9micos, pero se permite su aplicaci\u00f3n como ayuda en los procesos de investigaci\u00f3n y en la correcci\u00f3n de escritos acad\u00e9micos. A tal fin, todos los comandos utilizados \u2012las preguntas e instrucciones facilitadas a la herramienta, conocidas como <em>prompts<\/em>\u2012 y la informaci\u00f3n original generada por la IA deben describirse en la metodolog\u00eda del trabajo y adjuntarse como material suplementario.<\/p>\n<p>Otras instituciones brasile\u00f1as est\u00e1n siguiendo el mismo camino. \u201cLa universidad no debe prohibir, sino crear directrices para un uso responsable de estas herramientas\u201d, dice el cient\u00edfico de la computaci\u00f3n Virg\u00edlio Almeida, coordinador de una comisi\u00f3n de la Universidad Federal de Minas Gerais (UFMG), que propuso recomendaciones para el uso de tecnolog\u00edas de IA en la instituci\u00f3n, que se presentaron a la comunidad acad\u00e9mica en mayo. Las sugerencias servir\u00e1n como base para la creaci\u00f3n de una pol\u00edtica institucional con normas y reglamento y un comit\u00e9 permanente de gobernanza.<\/p>\n<p>Abarcan las \u00e1reas de ense\u00f1anza, investigaci\u00f3n, extensi\u00f3n y administraci\u00f3n y sus principios son la transparencia en el uso de estas herramientas, el cuidado en la protecci\u00f3n y la privacidad de los datos, con la desinformaci\u00f3n y los sesgos discriminatorios que estas tecnolog\u00edas pueden reproducir. \u201cUna de las propuestas es que la universidad invierta en cursos de capacitaci\u00f3n en IA para docentes, investigadores, no docentes y alumnos\u201d, explica Almeida. En la ense\u00f1anza, una de las directrices apunta que los sumarios de los programas de las materias de las carreras de grado y del posgrado de la UFMG deben informar lo que est\u00e1 permitido hacer con estas tecnolog\u00edas. En la investigaci\u00f3n, el \u00e9nfasis est\u00e1 puesto en la transparencia: es necesario detallar c\u00f3mo se ha utilizado la IA en el proceso cient\u00edfico y cu\u00e1les son los sesgos que puede conllevar. Otro de los \u00edtems recomendados es el an\u00e1lisis cuidadoso de los resultados generados por IA para evitar datos falsos.<\/p>\n<\/div><div class='overflow-responsive-img' style='text-align:center'><picture data-tablet=\"\/wp-content\/uploads\/2025\/03\/RPF-ia-2023-07-info-ESP-DESK.jpg\" data-tablet_size=\"1140x450\" alt=\"\">\n    <source srcset=\"\/wp-content\/uploads\/2025\/03\/RPF-ia-2023-07-info-ESP-DESK.jpg\" media=\"(min-width: 1920px)\" \/>\n    <source srcset=\"\/wp-content\/uploads\/2025\/03\/RPF-ia-2023-07-info-ESP-DESK.jpg\" media=\"(min-width: 1140px)\" \/>\n    <img decoding=\"async\" class=\"responsive-img\" src=\"\/wp-content\/uploads\/2025\/03\/RPF-ia-2023-07-info-ESP-MOBILE.jpg\" \/>\n  <\/picture><span class=\"embed media-credits-inline\">Alexandre Affonso \/ Revista Pesquisa FAPESP<\/span><\/div><div class=\"post-content sequence\">\n<p>En mayo, la Universidad de S\u00e3o Paulo (USP) public\u00f3 un dosier en la <em>Revista USP<\/em> sobre la inteligencia artificial en la investigaci\u00f3n cient\u00edfica y ha organizado reuniones y debates para tratar el tema. \u201cEn l\u00edneas generales, la sugerencia es estudiar c\u00f3mo incorporar su uso en la ense\u00f1anza y en la investigaci\u00f3n y determinar cu\u00e1les ser\u00edan sus limitaciones \u00e9ticas y su potencial\u201d, dice la abogada Cristina Godoy, de la Facultad de Derecho de Ribeir\u00e3o Preto (FDRP-USP), integrante de un grupo de investigadores que elaboraron propuestas para la universidad, como la necesidad de dise\u00f1ar gu\u00edas orientativas para las carreras de grado y el posgrado. Hay advertencias al respecto del cuidado que debe tenerse con la confidencialidad de los datos de investigaci\u00f3n sensibles o in\u00e9ditos, como son las tesis doctorales y tesinas de maestr\u00eda, como as\u00ed tambi\u00e9n sobre la necesidad de explorar nuevas maneras de evaluar los trabajos en el aula. Las recomendaciones se formularon en el marco de un evento celebrado en marzo de 2023 y un grupo de trabajo las est\u00e1 analizando.<\/p>\n<p>El uso de la IA en la investigaci\u00f3n cient\u00edfica no es una novedad. Las herramientas de aprendizaje autom\u00e1tico y de procesamiento del lenguaje natural ya se utilizan para analizar patrones en grandes vol\u00famenes de datos. Pero con el avance de las plataformas que utilizan IA generativa, varias universidades de Estados Unidos y Europa han creado directrices en este sentido que han servido de inspiraci\u00f3n a instituciones brasile\u00f1as. En el Senai Cimatec, las gu\u00edas de las universidades de Utah (EE. UU), de julio de 2023, y de Toronto (Canad\u00e1), a\u00fan en fase preliminar, han servido como orientaci\u00f3n al grupo de trabajo, al igual que la gu\u00eda de inicio r\u00e1pido <em>ChatGPT y la inteligencia artificial en la educaci\u00f3n superior<\/em>, de la Organizaci\u00f3n de las Naciones Unidas para la Educaci\u00f3n, la Ciencia y la Cultura (Unesco), de abril de 2023.<\/p>\n<p>En este escenario, ha habido casos de docentes que comenzaron a pedirles a sus alumnos que hicieran presentaciones orales, trabajos en el aula o incluso a mano, en papel. Godoy, de la USP, quien sol\u00eda pedir escritos sobre los art\u00edculos estudiados, pas\u00f3 a exigir a sus alumnos que presenten esquemas con mapas mentales que muestren las conexiones entre los textos estudiados en clase.<\/p>\n<p>En 2024, ella desarroll\u00f3 una actividad de investigaci\u00f3n en el \u00e1mbito del Centro de Inteligencia Artificial (C4AI) de la USP, patrocinado por IBM y la FAPESP, con estudiantes de iniciaci\u00f3n a la investigaci\u00f3n cient\u00edfica, maestr\u00eda y doctorado en computaci\u00f3n, ciencia pol\u00edtica y derecho en la que deb\u00edan desarrollar <em>prompts<\/em> en ChatGPT para analizar las emociones \u2012una t\u00e9cnica que clasifica las opiniones en positivas, negativas o neutras\u2012 entre los usuarios de X (antes Twitter) al respecto de la IA. Los datos formar\u00e1n parte de un art\u00edculo que se encuentra en proceso de redacci\u00f3n. Parte del trabajo consistir\u00e1 en describir la metodolog\u00eda y los <em>prompts<\/em> utilizados. Puesto que no es necesario generar un algoritmo espec\u00edfico para la actividad, la herramienta aceler\u00f3 el proceso de an\u00e1lisis de los datos; seg\u00fan Godoy, si hubieran tenido que hacer todo desde cero el trabajo hubiera llevado ocho meses, pero con ChatGPT bastaron dos meses.<\/p>\n<p>\u201cAlgunas instituciones del Poder Judicial ya est\u00e1n estudiando la posibilidad de utilizar la IA para optimizar las etapas de an\u00e1lisis de los expedientes. Por ende, vedar su uso no representa una ventaja para los estudiantes, que necesitan estar preparados de forma cr\u00edtica y responsable\u201d, reflexiona la abogada. Seg\u00fan su punto de vista, los alumnos con mejor desempe\u00f1o en las redacciones y ex\u00e1menes son los que desarrollan los mejores <em>prompts<\/em>. \u201cPara formular buenas preguntas a la plataforma de IA y conseguir el resultado deseado es necesario identificar con claridad el problema que pretende abordarse\u201d, dice Godoy.<\/p>\n<div id=\"attachment_547620\" style=\"max-width: 1150px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-547620 size-full\" src=\"https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2025\/03\/RPF-ia-2023-07-ESP-IMG2-1140.jpg\" alt=\"\" width=\"1140\" height=\"687\" srcset=\"https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2025\/03\/RPF-ia-2023-07-ESP-IMG2-1140.jpg 1140w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2025\/03\/RPF-ia-2023-07-ESP-IMG2-1140-250x151.jpg 250w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2025\/03\/RPF-ia-2023-07-ESP-IMG2-1140-700x422.jpg 700w, https:\/\/revistapesquisa.fapesp.br\/wp-content\/uploads\/2025\/03\/RPF-ia-2023-07-ESP-IMG2-1140-120x72.jpg 120w\" sizes=\"auto, (max-width: 1140px) 100vw, 1140px\" \/><p class=\"wp-caption-text\"><span class=\"media-credits-inline\">L\u00e9o Ramos Chaves\u2009\/\u2009Revista Pesquisa FAPESP<\/span>Ejemplo de un ejercicio que el administrador de empresas Ricardo Limongi, de la UFG, realiza en el aula para ayudar a sus alumnos a entender conceptos de la disciplina de estad\u00edstica<span class=\"media-credits\">L\u00e9o Ramos Chaves\u2009\/\u2009Revista Pesquisa FAPESP<\/span><\/p><\/div>\n<p>En el primer semestre de 2024, el cient\u00edfico de la computaci\u00f3n Rodolfo Azevedo, del Instituto de Computaci\u00f3n de la Universidad de Campinas (Unicamp), imparti\u00f3 un curso piloto de introducci\u00f3n a la programaci\u00f3n con asistente de c\u00f3digo, junto con el ingeniero electr\u00f3nico Jacques Wainer, tambi\u00e9n docente de la Unicamp. Los alumnos, estudiantes de la carrera de ingenier\u00eda alimentaria, aprendieron a programar por primera vez con ChatGPT como asistente en el aula, utilizando el lenguaje Phyton. \u201cEl objetivo era ense\u00f1arles los rudimentos de la programaci\u00f3n, enfoc\u00e1ndonos en desarrollar la habilidad de descomponer un problema en etapas menores e ir resolvi\u00e9ndolas paso a paso. Los medios siempre han ido transform\u00e1ndose, desde que aparecieron las primeras tarjetas perforadas\u201d, dice Azevedo.<\/p>\n<p>A su juicio, el uso de IA generativa ha hecho que los alumnos puedan centrarse en problemas m\u00e1s complejos. \u201cAntes era necesario programar desde cero, lo que llevaba m\u00e1s tiempo, pero ahora la IA escribe los c\u00f3digos a partir de las instrucciones que le proporciona el alumno. El estudiante es capaz de analizar los errores m\u00e1s a fondo, que siempre los hay, y proponer soluciones y mejoras m\u00e1s elaboradas\u201d, dice el cient\u00edfico de la computaci\u00f3n, subrayando que a esta tecnolog\u00eda ya la utilizan los programadores de muchas empresas para optimizar sus procesos. Tambi\u00e9n vislumbra otros usos en el \u00e1mbito acad\u00e9mico. \u201cEstas herramientas pueden reducir la desigualdad entre los investigadores cuya lengua materna no es el ingl\u00e9s, ya que pueden pedirle a la IA que mejore las traducciones de sus art\u00edculos\u201d, pondera.<\/p>\n<p>El administrador de empresas Ricardo Limongi, de la Universidad Federal de Goi\u00e1s (UFG), intenta ense\u00f1arles a sus alumnos c\u00f3mo utilizar estas herramientas desde una perspectiva cr\u00edtica. \u201cLes explico que yo las uso y que ellos tambi\u00e9n pueden hacerlo. Eso no es hacer trampa\u201d, dice. En clase, abre plataformas de IA y les muestra a los alumnos c\u00f3mo se hace un <em>prompt<\/em>, por ejemplo. En una de las asignaturas que imparte \u2012estad\u00edstica\u2012, Limongi suele recurrir a la ayuda de la IA generativa para explicarles conceptos que les cuestan entender, siempre verificando las respuestas. \u201cSalen analog\u00edas muy buenas\u201d, dice.<\/p>\n<p>Autor de un art\u00edculo sobre la aplicaci\u00f3n de la IA en la investigaci\u00f3n cient\u00edfica publicado en abril de 2024 en la revista <em>Future Studies Research Journal<\/em>, Limongi ha sido invitado a dictar conferencias sobre el tema en universidades. En estos encuentros, organiza talleres donde presenta herramientas de IA generativa que ha utilizado con sus alumnos para optimizar los procesos de investigaci\u00f3n.<\/p>\n<p><strong>En las revistas cient\u00edficas<br \/>\n<\/strong>Adem\u00e1s de las universidades, las mayores editoriales cient\u00edficas del mundo han divulgado normas para el uso de IA generativa. En una encuesta que llev\u00f3 a cabo la revista <em>Nature<\/em> en septiembre de 2023, en la que participaron m\u00e1s de 1.600 cient\u00edficos, casi un 30 % afirm\u00f3 haber utilizado esta tecnolog\u00eda como ayuda para la redacci\u00f3n de manuscritos y alrededor de un 15 % para redactar solicitudes de financiaci\u00f3n. Por su parte, un estudio publicado en la revista <em>British Medical Journal (BMJ)<\/em> en enero de 2024, indic\u00f3 que, entre las 100 mayores editoriales de revistas cient\u00edficas, el 24 % ha proporcionado orientaciones acerca del uso de la IA, y entre las 100 revistas mejor clasificadas, el 87 % estableci\u00f3 reglas en ese sentido. Entre las editoriales y revistas que incorporaron directrices, el 96 % y el 98 %, respectivamente prohibieron la inclusi\u00f3n de la IA como autora de un art\u00edculo.<\/p>\n<p>El grupo editorial <em>Springer Nature<\/em> actualiza sus normas de manera permanente y establece que el uso de IA generativa debe documentarse en la secci\u00f3n de m\u00e9todos del manuscrito. Las im\u00e1genes y videos generados por IA est\u00e1n prohibidos. Los revisores tampoco pueden utilizar <em>software<\/em> de IA generativa para evaluar art\u00edculos cient\u00edficos, ya que contienen informaci\u00f3n de investigaci\u00f3n in\u00e9dita. La editorial <em>Elsevier<\/em> permite el uso de IA para mejorar el lenguaje y la legibilidad de los textos, \u201cpero no para reemplazar tareas esenciales del autor, como la producci\u00f3n de <em>insights<\/em> cient\u00edficos, pedag\u00f3gicos o m\u00e9dicos, sacar conclusiones cient\u00edficas o formular recomendaciones cl\u00ednicas\u201d.<\/p>\n<p>En Brasil, la biblioteca cient\u00edfica electr\u00f3nica SciELO public\u00f3 una gu\u00eda de uso de herramientas y recursos de IA en septiembre de 2023. \u201cEn sinton\u00eda con las editoriales internacionales, uno de los puntos principales establece que la IA no puede considerarse como autora de un trabajo\u201d, explica Abel Packer, coordinador de SciELO. El manual exige a los autores que declaren cuando utilizan estas herramientas: aquellos que lo omitan estar\u00e1n incurriendo en una falta \u00e9tica grave. Con todo, el documento incentiva el uso de la tecnolog\u00eda en la preparaci\u00f3n, redacci\u00f3n, revisi\u00f3n y traducci\u00f3n de los art\u00edculos. \u201cComo lo vemos nosotros, de aqu\u00ed a cinco a\u00f1os la comunicaci\u00f3n cient\u00edfica cambiar\u00e1 radicalmente y el uso de estas herramientas ser\u00e1 ubicuo\u201d, dice Packer. En su opini\u00f3n, estas herramientas pronto desempe\u00f1ar\u00e1n un papel auxiliar en los procesos de evaluaci\u00f3n y revisi\u00f3n de los manuscritos enviados a las revistas.<\/p>\n<p class=\"bibliografia separador-bibliografia\"><strong>Art\u00edculos cient\u00edficos<br \/>\n<\/strong>LIMONGI, R. <a href=\"https:\/\/doi.org\/10.24023\/FutureJournal\/2175-5825\/2024.v16i1.845\" target=\"_blank\" rel=\"noopener\">The use of artificial intelligence in scientific research with integrity and ethics<\/a>. <strong>Future Studies Research Journal: Trends and Strategies<\/strong>. v. 1, n. 16. abr. 2024.<br \/>\nGANJAVI, C. <em>et al<\/em>. <a href=\"https:\/\/www.bmj.com\/content\/384\/bmj-2023-077192\" target=\"_blank\" rel=\"noopener\">Publishers\u2019 and journals\u2019 instructions to authors on use of generative artificial intelligence in academic and scientific publishing: bibliometric analysis<\/a>. <strong>BMJ<\/strong>, v. 384. 31 ene. 2024.<\/p>\n","protected":false},"excerpt":{"rendered":"Frente a la incertidumbre que impera entre los estudiantes y los investigadores, las casas de altos estudios discuten cu\u00e1les ser\u00edan los l\u00edmites \u00e9ticos de la utilizaci\u00f3n de estas herramientas en la escritura y en la investigaci\u00f3n cient\u00edfica","protected":false},"author":684,"featured_media":547616,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"footnotes":""},"categories":[189],"tags":[288,289],"coauthors":[2721],"class_list":["post-546119","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-politica-ct","tag-computacion","tag-comunicacion","position_at_home-sumario"],"acf":[],"_links":{"self":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts\/546119","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/users\/684"}],"replies":[{"embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/comments?post=546119"}],"version-history":[{"count":3,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts\/546119\/revisions"}],"predecessor-version":[{"id":547626,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts\/546119\/revisions\/547626"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/media\/547616"}],"wp:attachment":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/media?parent=546119"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/categories?post=546119"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/tags?post=546119"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/coauthors?post=546119"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}