{"id":480089,"date":"2023-06-08T10:48:15","date_gmt":"2023-06-08T13:48:15","guid":{"rendered":"https:\/\/revistapesquisa.fapesp.br\/?p=480089"},"modified":"2023-06-08T12:02:41","modified_gmt":"2023-06-08T15:02:41","slug":"un-sistema-promete-detectar-adulteraciones-en-las-imagenes-de-los-articulos-cientificos","status":"publish","type":"post","link":"https:\/\/revistapesquisa.fapesp.br\/es\/un-sistema-promete-detectar-adulteraciones-en-las-imagenes-de-los-articulos-cientificos\/","title":{"rendered":"Un sistema promete detectar adulteraciones en las im\u00e1genes de los art\u00edculos cient\u00edficos"},"content":{"rendered":"
\"\"

DALL-E<\/span>El t\u00edtulo de este art\u00edculo, \u201cCuando la evidencia es un espejismo\u201d, seg\u00fan la interpretaci\u00f3n de un programa de IADALL-E<\/span><\/p><\/div>\n

Un consorcio de investigadores de Brasil, Estados Unidos e Italia est\u00e1 desarrollando un conjunto de herramientas computacionales con el objetivo de detectar en forma autom\u00e1tica la existencia de adulteraciones o duplicaciones de im\u00e1genes de art\u00edculos cient\u00edficos, un tipo de mala conducta muy habitual cuya identificaci\u00f3n, a\u00fan en la actualidad, depende en gran medida de la mirada de una persona avezada. En un art\u00edculo publicado a finales de octubre en la revista Scientific Reports<\/em>, una publicaci\u00f3n del grupo Nature, el equipo present\u00f3 una evaluaci\u00f3n preliminar del desempe\u00f1o del Sila (An\u00e1lisis de Im\u00e1genes Cient\u00edficas). Se trata de un sistema de apoyo destinado a revisores y editores de revistas acad\u00e9micas capaz de procesar archivos en formato de art\u00edculos PDF, extraer sus im\u00e1genes en forma autom\u00e1tica \u2013eventualmente rastreando copias en alta resoluci\u00f3n puestas a disposici\u00f3n por los autores o las publicaciones\u2013 y posteriormente utilizar algoritmos entrenados para detectar posibles adulteraciones.<\/p>\n

Lee tambi\u00e9n:<\/strong>
\n– ChatGPT inaugura una nueva era en la interacci\u00f3n entre seres humanos y computadoras<\/a> <\/div>\n

Como resultado de ello, el software <\/em>informa si ha encontrado pruebas de \u201cposprocesamiento\u201d de im\u00e1genes, por ejemplo, indicios de sectores clonados o cambiados de lugar, o bien si una foto presenta similitudes con otras publicadas previamente, indicando tambi\u00e9n, en formato gr\u00e1fico, cu\u00e1l es su procedencia. El Sila adopta un modelo cooperativo entre la inteligencia artificial y la humana. Aunque detecta contenidos sospechosos autom\u00e1ticamente, su valoraci\u00f3n solamente es indicativa: luego le cabe a un experto verificar esos indicios y confirmar si realmente constituyen adulteraci\u00f3n. El an\u00e1lisis se hizo a partir del material recopilado de 988 art\u00edculos cient\u00edficos retractados, en los que se constat\u00f3 la manipulaci\u00f3n o reutilizaci\u00f3n de figuras. \u201cLa herramienta se basa en principios avanzados de procesamiento de im\u00e1genes, t\u00e9cnicas de pericias forenses y soluciones de visi\u00f3n por computadora e inteligencia artificial para proporcionar an\u00e1lisis que ayuden a los expertos humanos a decidir si los sucesos descubiertos son leg\u00edtimos o no\u201d, dice uno de los autores, Anderson Rocha, docente y director del Instituto de Computaci\u00f3n de la Universidad de Campinas (Unicamp), en donde coordina el Laboratorio de Inteligencia Artificial (Recod.ai).<\/p>\n

En la evaluaci\u00f3n divulgada en el trabajo, los m\u00f3dulos que componen el sistema exhibieron un rendimiento dispar. En las tareas relacionadas con la clasificaci\u00f3n del contenido de los art\u00edculos, por ejemplo, la respuesta de los algoritmos desarrollados result\u00f3 insuficiente. En otras, como la detecci\u00f3n de zonas con signos de desplazamiento de im\u00e1genes y la captaci\u00f3n de indicios de duplicaci\u00f3n, se obtuvieron resultados m\u00e1s sensibles que los logrados mediante la observaci\u00f3n humana, incluso generando falsos positivos. \u201cSeguimos trabajando para perfeccionar el Sila, ya que a\u00fan hay bastante margen de mejora\u201d, explica Rocha.<\/p>\n

El pr\u00f3ximo paso es crear algoritmos que reconozcan los art\u00edculos producidos por las \u201cf\u00e1bricas de papers<\/em>\u201d<\/p><\/blockquote>\n

Los algoritmos y las bases de datos que emplearon quedaron a disposici\u00f3n en repositorios de acceso abierto y la idea es que otros investigadores ayuden a probar y perfeccionar el rendimiento de la herramienta. El consorcio es financiado por la Agencia de Proyectos de Investigaci\u00f3n Avanzada en Defensa (Darpa) y la Oficina de Integridad Cient\u00edfica (ORI), ambos de Estados Unidos. En Brasil, cuenta con el apoyo de la FAPESP en el marco de un proyecto tem\u00e1tico dirigido por Rocha. \u201cDise\u00f1amos el sistema contemplando las necesidades de la ORI, que nos formul\u00f3 el pedido\u201d, dice. La idea es que la ORI y la Darpa eval\u00faen el conjunto de herramientas en instituciones p\u00fablicas y entablen asociaciones con las editoriales de revistas acad\u00e9micas.<\/p>\n

El autor principal del estudio, Daniel Moreira, se doctor\u00f3 en la Unicamp bajo la direcci\u00f3n de Rocha y es investigador en las universidades de Notre Dame y Loyola Chicago, ambas en Estados Unidos. Todas las etapas del trabajo fueron supervisadas por Edward Delp, docente de ciencias de la computaci\u00f3n en la Universidad Purdue (EE. UU.). Tambi\u00e9n son miembros del consorcio cient\u00edficos de instituciones italianas, entre ellas la Universidad de N\u00e1poles Federico II y el Instituto Polit\u00e9cnico de Mil\u00e1n. La iniciativa forma parte de un proyecto m\u00e1s amplio que apunta a crear algoritmos de inteligencia artificial para la detecci\u00f3n de la \u201crealidad sint\u00e9tica\u201d, es decir, fotograf\u00edas, audios y videos falsificados de todo tipo (lea en <\/em>Pesquisa FAPESP, edici\u00f3n n\u00ba 321<\/em><\/a>).<\/p>\n

Una de las ventajas del Sila reside en que abarca un ciclo completo de tareas de an\u00e1lisis de im\u00e1genes, desde la extracci\u00f3n hasta el an\u00e1lisis, y est\u00e1 previsto que se convierta en una herramienta abierta y disponible para cualquier tipo de usuario. En los \u00faltimos tiempos han aparecido en el mercado soluciones tecnol\u00f3gicas de esta \u00edndole, pero apuntan a resolver tareas espec\u00edficas y son comercializadas por empresas. Una de ellas es Image Twin, un software<\/em> desarrollado por una startup<\/em> de Viena (Austria), que detecta la reutilizaci\u00f3n y el duplicado de im\u00e1genes en art\u00edculos. Diez revistas editadas por la Asociaci\u00f3n Estadounidense para la Investigaci\u00f3n del C\u00e1ncer (AACR) y otras dos vinculadas a la Sociedad Estadounidense de Investigaci\u00f3n Cl\u00ednica han estado probando, hasta ahora con buenos resultados, un programa de la empresa israel\u00ed Rehovot, dise\u00f1ado para detectar fotos duplicadas o con partes rotadas, invertidas o estiradas. \u201cHasta ahora estamos bastante satisfechos con los resultados\u201d, declar\u00f3 a la revista Nature<\/em> el director de operaciones de la AACR, Daniel Evanko.<\/p>\n

\"\"

DALL-E<\/span>Opciones en estilo surrealista generadas por un programa de inteligencia artificial a partir del comando \u201cImagen falsificada de una prueba western blot\u201dDALL-E<\/span><\/p><\/div>\n

Desde el advenimiento de la fotograf\u00eda, las im\u00e1genes se han utilizado como evidencias de resultados cient\u00edficos. En algunos casos, reflejan el hallazgo en s\u00ed mismo: como en el caso de la fotograf\u00eda tomada por la qu\u00edmica brit\u00e1nica Rosalind Franklin, que revel\u00f3 la estructura del ADN en 1952 y sirvi\u00f3 como base del art\u00edculo firmado por James Watson y Francis Crick. Con la transici\u00f3n de la fotograf\u00eda anal\u00f3gica a la digital, las herramientas inform\u00e1ticas de edici\u00f3n, como el programa Photoshop, permitieron que los investigadores retocaran los archivos con suma facilidad, resaltando \u00e1reas de inter\u00e9s, tales como las \u201cbandas\u201d en los resultados de las pruebas western blot<\/em>, un m\u00e9todo utilizado en el \u00e1mbito de la biolog\u00eda molecular para identificar prote\u00ednas. \u201cLa mayor\u00eda de estas ediciones son leg\u00edtimas. No hay inconveniente en calibrar el brillo o el contraste para que la visualizaci\u00f3n del resultado sea m\u00e1s sencilla\u201d, dice Rocha. \u201cPero hay ediciones que comprometen la integridad y, a veces, esto claramente apunta a enga\u00f1ar a los lectores. En estos casos, es necesario corregir el registro e incluso solicitar su retractaci\u00f3n\u201d.<\/p>\n

Estos problemas son m\u00e1s frecuentes de lo que cabr\u00eda imaginarse. Un an\u00e1lisis manual llevado a cabo por la microbi\u00f3loga Elisabeth Bik en 2016, escudri\u00f1\u00f3 m\u00e1s de 20.000 art\u00edculos del \u00e1rea de la biomedicina y hall\u00f3 alg\u00fan tipo de adulteraci\u00f3n en el 4 % de ellos (lea en <\/em>Pesquisa FAPESP, edici\u00f3n n\u00ba 310<\/em><\/a>). Resulta sencillo descubrir las alteraciones groseras, pero hay casos de manipulaciones m\u00e1s sofisticadas cuya identificaci\u00f3n puede llegar a ser bastante compleja. Uno de los principales retos actuales para los editores reside en reconocer los manuscritos producidos por las llamadas \u201cf\u00e1bricas de papers<\/em>\u201d, servicios ilegales que comercializan trabajos cient\u00edficos por encargo, a menudo con informaci\u00f3n falsificada e hasta con im\u00e1genes fraguadas. Recientemente, Bik identific\u00f3 400 art\u00edculos con im\u00e1genes tan similares que suger\u00edan un origen com\u00fan: una f\u00e1brica de papers<\/em>. En algunos casos hab\u00eda indicios de que se hab\u00eda utilizado una imagen modelo para representar diversos experimentos, adapt\u00e1ndola al contenido de cada documento fraudulento, por ejemplo, alterando el balance de colores o cambiando de lugar alg\u00fan elemento.<\/p>\n

Uno de los desaf\u00edos que plantea la detecci\u00f3n de las manipulaciones en forma autom\u00e1tica consiste en disponer de repositorios con grandes vol\u00famenes de fotos, que sirvan como referencia para rastrear el origen de los contenidos reutilizados, as\u00ed como bases de datos de manipulaciones frecuentes, que permitan detectar patrones de fraude en los manuscritos presentados para su publicaci\u00f3n. En el an\u00e1lisis del texto de los art\u00edculos cient\u00edficos, estos recursos ya se encuentran disponibles y abonan el funcionamiento de soluciones antiplagio. El ingeniero de la computaci\u00f3n Jo\u00e3o Phillipe Cardenuto, quien est\u00e1 siendo dirigido por Rocha en su doctorado, public\u00f3 un art\u00edculo en la revista Science and Engineering Ethics<\/em> en agosto del a\u00f1o pasado en el que re\u00fane ejemplos de adulteraciones de im\u00e1genes y presenta una biblioteca de algoritmos, disponible en acceso abierto, que reproducen y son capaces de identificar duplicaciones, retoques y supresiones. Las im\u00e1genes disponibles en la biblioteca no son reales, sino reproducciones creadas para simular las caracter\u00edsticas de las manipulaciones m\u00e1s habituales. Ello se debe a que no pod\u00edan utilizarse las figuras fraudulentas obtenidas de estudios retractados por cuestiones legales y restricciones de derechos de autor.<\/p>\n

\"\"

DALL-E<\/span>\u201cImagen manipulada de una c\u00e9lula, en estilo minimalista\u201d, seg\u00fan la versi\u00f3n del software DALL-EDALL-E<\/span><\/p><\/div>\n

Ahora Cardenuto est\u00e1 trabajando para identificar las caracter\u00edsticas de las im\u00e1genes adulteradas en documentos generados por f\u00e1bricas de papers<\/em>, y en entrenar algoritmos para su rastreo en la literatura acad\u00e9mica. Ya existen herramientas autom\u00e1ticas para detectar art\u00edculos de este tipo, como Papermill Alarm, un software<\/em> desarrollado por Clear Skies, una empresa de servicios de datos acad\u00e9micos del Reino Unido. El programa utiliza t\u00e9cnicas de aprendizaje profundo (deep learning<\/em>) para analizar t\u00edtulos y res\u00famenes de manuscritos y comparar su lenguaje con el de otros trabajos conocidos elaborados por estos servicios ilegales. El software<\/em> no indica que el manuscrito es fraguado, sino que apunta hacia aquellos que merecen una investigaci\u00f3n m\u00e1s profunda antes de su publicaci\u00f3n. \u201cComo el contenido parece tener sentido, siempre quedan dudas de si realmente fueron fraguados. Si conseguimos reunir evidencias asociadas a im\u00e1genes, ser\u00e1 m\u00e1s f\u00e1cil tener la certeza\u201d, dice Cardenuto.<\/p>\n

El futuro tiende a ser a\u00fan m\u00e1s complejo. Una frontera tecnol\u00f3gica pasa por la generaci\u00f3n de im\u00e1genes sint\u00e9ticas, producidas por programas de inteligencia artificial. \u201cSi ya es bastante dif\u00edcil confirmar si una foto contiene elementos de otra, habr\u00e1 que crear nuevos par\u00e1metros para comprobar fraudes en los registros que sean completamente fraguados\u201d, dice Rocha. A\u00fan no hay pruebas de que esto est\u00e9 ocurriendo en trabajos acad\u00e9micos, pero la tecnolog\u00eda es una realidad palpable: programas como DALL-E 2, de OpenAI, son capaces de inventar im\u00e1genes sobre cualquier tema a partir de descripciones presentadas en formato de texto, como si se tratara de un retrato hablado. \u201cLa inteligencia artificial puede ayudar a detectar datos duplicados en investigaciones, pero tambi\u00e9n puede utilizarse para generar informaci\u00f3n falsa\u201d, escribi\u00f3 Elisabeth Bik en un texto publicado en octubre en el peri\u00f3dico The New York Times<\/em>. \u201cHoy en d\u00eda es f\u00e1cil producir fotos y videos fraguados de eventos que nunca ocurrieron y las im\u00e1genes generadas por inteligencia artificial ya pueden haber comenzado a envenenar la literatura cient\u00edfica. A medida que esta tecnolog\u00eda vaya desarroll\u00e1ndose, ser\u00e1 mucho m\u00e1s dif\u00edcil distinguir lo falso de lo real\u201d.<\/p>\n

No es imposible rastrear los art\u00edculos cuyos textos han sido generados por programas tales como los del linaje ChatGPT. \u201cLa ciencia forense tiene una premisa, seg\u00fan la cual, cualquier intervenci\u00f3n deja alg\u00fan vestigio\u201d, dice Anderson Rocha. \u201cUn algoritmo de inteligencia artificial ser\u00eda capaz de identificar un paper<\/em> generado por otro algoritmo semejante, pero probablemente necesitar\u00e1 que se lo perfeccione en forma continua para que est\u00e9 a la par de la sofisticaci\u00f3n creciente de las formas de adulteraci\u00f3n. Ser\u00e1 un juego del gato y el rat\u00f3n para ver qui\u00e9n logra m\u00e1s avances: nosotros o los fraguadores\u201d.<\/p>\n

Proyectos<\/strong>
\n1.<\/strong> D\u00e9j\u00e0 vu<\/em>: coherencia temporal, espacial y de caracterizaci\u00f3n de datos heterog\u00e9neos para el an\u00e1lisis y la interpretaci\u00f3n de la integridad (n\u00ba 17\/12646-3<\/a>); Modalidad<\/strong> Proyecto Tem\u00e1tico; Investigador responsable<\/strong> Anderson Rocha; Inversi\u00f3n<\/strong> R$ 1.912.168,25.
\n2.<\/strong> Filtrado y an\u00e1lisis de procedencia (n\u00ba 20\/02211-2<\/a>); Modalidad<\/strong> Beca doctoral; Beneficiario<\/strong> Jo\u00e3o Phillipe Cardenuto; Investigador responsable<\/strong> Anderson Rocha; Inversi\u00f3n<\/strong> R$ 130.935,02.<\/p>\n","protected":false},"excerpt":{"rendered":"La inteligencia artificial puede tanto generar figuras falsas como ayudar a identificarlas","protected":false},"author":11,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"footnotes":""},"categories":[189,179,192],"tags":[288,289,299,312,333],"coauthors":[98],"class_list":["post-480089","post","type-post","status-publish","format-standard","hentry","category-politica-ct","category-tapa","category-tecnologia-es","tag-computacion","tag-comunicacion","tag-etica-es","tag-innovacion","tag-tecnologia-de-la-informacion","position_at_home-sumario"],"acf":[],"_links":{"self":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts\/480089","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/comments?post=480089"}],"version-history":[{"count":7,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts\/480089\/revisions"}],"predecessor-version":[{"id":481615,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/posts\/480089\/revisions\/481615"}],"wp:attachment":[{"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/media?parent=480089"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/categories?post=480089"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/tags?post=480089"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/revistapesquisa.fapesp.br\/es\/wp-json\/wp\/v2\/coauthors?post=480089"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}