Serviços Personalizados
Journal
Artigo
texto em 
Inglês (pdf)
Artigo em XML
Referências do artigo
Tradução automática
Enviar este artigo por emailIndicadores
-
Citado por SciELO -
Acessos
Links relacionados
-
Citado por Google -
Similares em
SciELO -
Similares em Google
Compartilhar
Permalink
Colombia Médica
versão On-line ISSN 1657-9534
Colomb. Med. vol.54 no.3 Cali jul./set. 2023 Epub 30-Set-2023
https://doi.org/10.25100/cm.v54i3.5868
Editorial
Recomendaciones de WAME sobre “chatbots” e inteligencia artificial generativa en relación con las publicaciones académicas
1
http://orcid.org/0000-0001-6596-698X
2
http://orcid.org/0000-0002-4708-5641
3
http://orcid.org/0000-0001-9689-494X
4
http://orcid.org/0000-0003-0754-2948
5
http://orcid.org/0000-0002-9642-1154
6
http://orcid.org/0000-0002-5794-1878
7
http://orcid.org/0000-0002-7102-3096
8
http://orcid.org/0000-0003-0623-0934
9
http://orcid.org/0000-0002-6098-9266
1 Vice President, WAME; Centre for Global Health, University of Winchester, UK
3 President, WAME; Associate Editor, Journal of Gastroenterology and Hepatology; Director, Jawaharlal Institute of Postgraduate Medical Education and Research, Puducherry, India
4 Trustee, WAME; Professor, Dalla Lana School of Public Health, University of Toronto, Canada
5 Treasurer, WAME; Editor-in-Chief, The Thoracic and Cardiovascular Surgeon, Professor, Universitaetsmedizin Mainz, Germany
6 Secretary, WAME; Editor-in-Chief, Philippine Journal of Otolaryngology Head & Neck Surgery; Professor, University of the Philippines Manila, Philippines
7 Director, WAME; Working Committee, The National Medical Journal of India, India
8 Director, WAME; Section Editor, Canadian Journal of Ophthalmology; Professor, University of Toronto and University of Alberta, Canada
9 Director, WAME; Editor-in-Chief, Current Medical Research and Opinion; Topic Editor for Psychiatry for Clinical Therapeutics; Clinical Professor of Psychiatry & Behavioral Sciences, New York Medical College, USA
10 Director, WAME; Editor-in-Chief, Archives of Dermatological Research; Professor, Northwestern University, USA
11 Director, WAME; Executive Editor-in-Chief; International Journal of Sports Physical Therapy; Professor, Belmont University School of Physical Therapy, USA
12 Past President, WAME; Editorial Consultant, The Lancet; Associate Editor, Frontiers in Epidemiology; Iran
Esta declaración revisa las anteriores "Recomendaciones de WAME sobre ChatGPT y Chatbots en Relation to Scholarly Publications" (20 de enero de 2023). La revisión refleja la proliferación de chatbots y su creciente uso en las publicaciones académicas en los últimos meses, así como la preocupación por la falta de autenticidad de los contenidos cuando se utilizan chatbots. Estas recomendaciones pretenden informar a los editores y ayudarles a desarrollar políticas para el uso de chatbots en los artículos sometidos en sus revistas. Su objetivo es ayudar a autores y revisores a entender cuál es la mejor manera de atribuir el uso de chatbots en su trabajo y a la necesidad de que todos los editores de revistas tengan acceso a herramientas de selección de manuscritos. En este campo en rápida evolución, seguiremos modificando estas recomendaciones a medida que se desarrollen el software y sus aplicaciones.
Palabras clave: ChatGPT; chatbox; Inteligencia artificial; Comunicación académica; Plagio; Autoría; Mala conducta científica; Aprendizaje profundo; Desinformación; Confidencialidad; WAME
This statement revises our earlier “WAME Recommendations on ChatGPT and Chatbots in Relation to Scholarly Publications” (January 20, 2023). The revision reflects the proliferation of chatbots and their expanding use in scholarly publishing over the last few months, as well as emerging concerns regarding lack of authenticity of content when using chatbots. These recommendations are intended to inform editors and help them develop policies for the use of chatbots in papers published in their journals. They aim to help authors and reviewers understand how best to attribute the use of chatbots in their work and to address the need for all journal editors to have access to manuscript screening tools. In this rapidly evolving field, we will continue to modify these recommendations as the software and its applications develop.
Keywords: ChatGPT; chatbots; scientific manuscript; wame revised recommendation; scholarly communication; artificial intelligence; plagiarism; authorship scientific misconduct; deep learning; disinformation; confidentiality
Introducción
Esta declaración revisa nuestras anteriores "Recomendaciones de WAME sobre ChatGPT y “chatbots” en relación con las publicaciones académicas" (20 de enero de 2023). La revisión refleja la proliferación de “chatbots” y su creciente uso en las publicaciones académicas en los últimos meses, así como las preocupaciones emergentes con respecto a la falta de autenticidad del contenido cuando se utilizan “chatbots”. Estas Recomendaciones pretenden informar a los editores y ayudarles a desarrollar políticas para el uso de “chatbots” en los artículos publicados en sus revistas. Su objetivo es ayudar a los autores y revisores a entender la mejor manera de atribuir el uso de “chatbots” en su trabajo, y abordar la necesidad de que todos los editores de revistas tengan acceso a herramientas de selección de manuscritos. En este campo en rápida evolución, seguiremos modificando estas recomendaciones a medida que se desarrollen el software y sus aplicaciones.
Un chatbot es una herramienta “… dirigida por inteligencia artificial, reglas automatizadas, procesamiento del lenguaje natural (NLP, por su sigla en inglés “natural-language processing”) y aprendizaje automático (ML, por sus sigla en ingles de “Machine-learning”) para procesar datos y ofrecer respuestas a solicitudes de todo tipo" 1. La inteligencia artificial (IA) es "la capacidad de un ordenador digital o de un robot controlado por ordenador para realizar tareas comúnmente asociadas a seres inteligentes" 2.
"El modelado generativo es una técnica de inteligencia artificial que genera objetos sintéticos analizando ejemplos de entrenamiento; aprendiendo sus patrones y distribución; y luego creando réplicas realistas. La IA Generativa (GAI) utiliza el modelado generativo y los avances en el aprendizaje profundo (DL, por sus siglas en ingles “deep-learning”) para producir contenidos diversos a escala utilizando medios existentes como texto, gráficos, audio y vídeo" 3,4.
Los “chatbots” se activan mediante una instrucción en lenguaje llano, o "prompt", proporcionada por el usuario. Generan respuestas mediante modelos lingüísticos estadísticos y probabilísticos 5. Este resultado tiene algunas propiedades características. Suele ser lingüísticamente preciso y fluido; pero, hasta la fecha, suele estar comprometido de diversas maneras. Por ejemplo, los resultados de los “chatbots” corren el riesgo de incluir sesgos, distorsiones, irrelevancias, tergiversaciones y plagios, muchos de ellos causados por los algoritmos que rigen su generación y que dependen en gran medida del contenido de los materiales utilizados en su entrenamiento. En consecuencia, preocupan los efectos de los “chatbots” en la creación y difusión de conocimientos -incluido su potencial para difundir y amplificar la información errónea y la desinformación 6- y su impacto más amplio en el empleo y la economía, así como en la salud de las personas y las poblaciones. También han surgido nuevas cuestiones jurídicas en relación con los “chatbots” y la IA generativa 7.
Los “chatbots” retienen la información que se les suministra, incluido el contenido y las instrucciones, y pueden utilizar esta información en futuras respuestas 8. Por lo tanto, el contenido académico que se genere o edite utilizando IA se conservaría y, como resultado, podría aparecer en futuras respuestas, aumentando aún más el riesgo de plagio involuntario por parte del usuario y de cualquier futuro usuario de la tecnología. Cualquiera que necesite mantener la confidencialidad de un documento, incluidos autores, editores y revisores, debe ser consciente de este problema antes de considerar el uso de “chatbots” para editar o generar trabajo 9.
Los “chatbots” y sus aplicaciones ilustran las poderosas posibilidades de la IA generativa, así como sus riesgos. Estas Recomendaciones pretenden sugerir un enfoque viable a las preocupaciones válidas sobre el uso de “chatbots” en la publicación académica.
Nota sobre los cambios introducidos desde las anteriores Recomendaciones de WAME
Se ha añadido una nueva recomendación (#4) a las cuatro recomendaciones principales originales: 1) Sólo los seres humanos pueden ser autores; 2) Los autores deben reconocer las fuentes de sus materiales; 3) Los autores deben asumir la responsabilidad pública de su trabajo; 4) Los editores y revisores deben especificar, a los autores y entre sí, cualquier uso de “chatbots” en la evaluación del manuscrito y la generación de revisiones y correspondencia; y 5) Los editores necesitan herramientas digitales adecuadas para hacer frente a los efectos de los “chatbots” en la publicación.
Además, esta revisión reconoce que los “chatbots” se utilizan para realizar diferentes funciones en las publicaciones académicas. En la actualidad, las personas que trabajan en publicaciones académicas pueden utilizar “chatbots” para: 1) tareas simples de procesamiento de textos (análogas a, y una extensión de, procesamiento de textos y software de corrección gramatical), 2) la generación de ideas y texto, y 3) la investigación sustantiva. Las Recomendaciones se han adaptado para su aplicación a estos distintos usos.
Recomendaciones de WAME sobre “chatbots” e Inteligencia Artificial Generativa en relación con la publicación académica
Recomendación 1 de WAME
Los “chatbots” no pueden ser autores. Las revistas han empezado a publicar artículos en los que se han utilizado “chatbots” como Bard, Bing y ChatGPT, y algunas revistas incluyen a los “chatbots” como coautores. El estatus legal de un autor difiere de un país a otro, pero en la mayoría de las jurisdicciones, un autor debe ser una persona jurídica. Los “chatbots” no cumplen los criterios de autoría del Comité Internacional de Editores de Revistas Médicas (ICMJE), en particular el de poder dar "la aprobación final de la versión que se publicará" y "ser responsable de todos los aspectos del trabajo para garantizar que las cuestiones relacionadas con la exactitud o integridad de cualquier parte del trabajo se investiguen y resuelvan adecuadamente" 10. Ninguna herramienta de IA puede "entender" una declaración de conflicto de intereses, y no tiene capacidad legal para firmar una declaración. Los “chatbots” no tienen ninguna afiliación independiente de sus desarrolladores. Dado que los autores que presentan un manuscrito deben asegurarse de que todos los nombrados como autores cumplen los criterios de autoría, los “chatbots” no pueden incluirse como autores.
Recomendación 2 de WAME
Los autores deben ser transparentes cuando se utilizan “chatbots” y proporcionar información sobre cómo se utilizaron. Se debe indicar el alcance y el tipo de uso de “chatbots” en las publicaciones de revistas. Esto es coherente con la recomendación del ICMJE de reconocer la ayuda en la redacción 11 y proporcionar en los Métodos información detallada sobre cómo se llevó a cabo el estudio y los resultados generados 12.
Recomendaciones de WAME 2.1
Los autores que envíen un artículo en el que se haya utilizado un “chatbot”/AI para redactar un nuevo texto deben hacer constar dicho uso en el agradecimiento; deben especificarse todas las indicaciones utilizadas para generar un nuevo texto, o para convertir texto o indicaciones de texto en tablas o ilustraciones.
Recomendación 2.2 de WAME
Cuando se utilice una herramienta de IA, como un “chatbot”, para realizar o generar trabajo analítico, ayudar a informar de los resultados (por ejemplo, generando tablas o figuras) o escribir códigos informáticos, esto debe indicarse en el cuerpo del artículo, tanto en el resumen como en la sección de métodos. En aras de permitir el escrutinio científico, incluyendo la replicación y la identificación de falsificaciones, se debe proporcionar la secuencia de comandos completa utilizada para generar los resultados de la investigación, la hora y la fecha de la consulta, y la herramienta de IA utilizada y su versión.
Recomendación 3 de WAME
Los autores son responsables del material proporcionado por un “chatbot” en su artículo (incluida la exactitud de lo que se presenta y la ausencia de plagio) y de la atribución adecuada de todas las fuentes (incluidas las fuentes originales del material generado por el “chatbot”). Los autores de artículos escritos con la ayuda de un “chatbot” son responsables del material generado por el “chatbot” , incluida su exactitud. Hay que tener en cuenta que el plagio es "la práctica de tomar el trabajo o las ideas de otra persona y hacerlas pasar por propias" 13, y no sólo la repetición literal de un texto previamente publicado. Es responsabilidad del autor asegurarse de que el contenido refleja sus datos e ideas y no es plagio, fabricación o falsificación. De lo contrario, ofrecer dicho material para su publicación, independientemente de cómo se haya escrito, puede constituir una falta de ética científica. Del mismo modo, los autores deben asegurarse de que todo el material citado se atribuye adecuadamente, incluyendo citas completas, y que las fuentes citadas apoyan las declaraciones del “chatbot”. Dado que un “chatbot” puede estar diseñado para omitir fuentes que se opongan a los puntos de vista expresados en sus resultados, es responsabilidad de los autores encontrar, revisar e incluir tales puntos de vista contrarios en sus artículos. (Los autores deben identificar el “chatbot” utilizado y la pregunta específica (enunciado de la consulta) utilizada con el “chatbot”. Deben especificar lo que han hecho para mitigar el riesgo de plagio, proporcionar una visión equilibrada y garantizar la exactitud de todas sus referencias.
Recomendación 4 de WAME
Los editores y revisores deben especificar, a los autores y entre sí, cualquier uso de “chatbots” en la evaluación del manuscrito y la generación de revisiones y correspondencia. Si utilizan “chatbots” en sus comunicaciones con los autores y entre sí, deben explicar cómo se utilizaron. Los editores y revisores son responsables de cualquier contenido y cita generados por un “chatbot”. Deben ser conscientes de que los “chatbots” retienen las instrucciones que se les envían, incluido el contenido del manuscrito, y que proporcionar el manuscrito de un autor a un “chatbot” viola la confidencialidad del manuscrito enviado.
Recomendación 5 de WAME
Los editores necesitan herramientas adecuadas que les ayuden a detectar contenidos generados o alterados por IA. Tales herramientas deben ponerse a disposición de los editores, independientemente de su capacidad para pagarlas, por el bien de la ciencia y del público, y para ayudar a garantizar la integridad de la información sanitaria y reducir el riesgo de resultados adversos para la salud. Muchos editores de revistas médicas utilizan enfoques de evaluación de manuscritos que no fueron diseñados para hacer frente a las innovaciones y las industrias de la IA, incluidos los textos e imágenes plagiados manipulados y los documentos generados en papel. Ya han estado en desventaja al tratar de diferenciar lo legítimo de lo fabricado, y los “chatbots” llevan este desafío a un nuevo nivel. Los redactores necesitan acceder a herramientas que les ayuden a evaluar los contenidos con eficacia y precisión. Esto es especialmente importante para los editores de revistas médicas, donde las consecuencias adversas de la desinformación incluyen daños potenciales a las personas.
REFERENCIAS
1. Oracle Cloud Infrastructure (OCI). What is a chatbot? Oracle Cloud Infrastructure; 2023. https://www.oracle.com/chatbots/what-is-a-chatbot/. Accessed May 27, 2023. [ Links ]
2. Copeland BJ. Artificial intelligence. fact-checked by the Editors of Encyclopaedia Britannica. Britannica; 2023. https://www.britannica.com/technology/artificial-intelligence. Accessed May 27, 2023. [ Links ]
3. Gui J, Sun Z, Wen Y, Tao D, and Ye J. A review on generative adversarial networks: Algorithms theory and applications. IEEE Trans Knowl Data Eng. 2023; 35: 3313-3332. DOI: 10.1109/TKDE.2021.3130191 [ Links ]
4. Abukmeil M, Ferrari S, Genovese A, Piuri V, Scotti F. A survey of unsupervised generative models for exploratory data analysis and representation learning. ACM Comput Surv. 2021; 54(5): Article No.: 99. Doi: 10.1145/3450963 [ Links ]
5. Wun STY, He SZ, Liu JP, Sun SQ, Liu K, Han QL, Tang Y. A brief overview of ChatGPT: The history, status quo and potential future development. IEEE/CAA J Autom Sinica. 2023; 10(5): 1122-1136. DOI: 10.1109/JAS.2023.123618 [ Links ]
6. Bhuiyan J. OpenAI CEO calls for laws to mitigate 'risks of increasingly powerful' AI. The Guardian; 2023. https://www.theguardian.com/technology/2023/may/16/ceo-openai-chatgpt-ai-tech-regulations. Accessed May 27, 2023. [ Links ]
7. Appel G, Neelbauer J, Schweidel DA. Generative AI has an intellectual property problem; 2023. Harvard Business Review. https://hbr.org/2023/04/generative-ai-has-an-intellectual-property-problem. Accessed May 27, 2023. [ Links ]
8. Thorbecke C. Don't tell anything to a chatbot you want to keep private. CNN Business. April 6, 2023. https://www.cnn.com/2023/04/06/tech/chatgpt-ai-privacy-concerns/index.html. Accessed May 27, 2023. [ Links ]
9. ICMJE. Recommendations for the conduct, reporting, editing, and publication of scholarly work in medical journals. ICMJE; 2023. https://www.icmje.org/news-and-editorials/icmje-recommendations_annotated_may23.pdf. Accessed May 27, 2023. [ Links ]
10. ICMJE. Defining the role of authors and contributors. 2. Who Is an Author? ICMJE; 2023. https://www.icmje.org/recommendations/browse/roles-and-responsibilities/defining-the-role-of-authors-and-contributors.html. Accessed May 27, 2023. [ Links ]
11. ICMJE. Defining the Role of Authors and Contributors. Non-Author Contributors. ICMJE; 2023. https://www.icmje.org/recommendations/browse/roles-and-responsibilities/defining-the-role-of-authors-and-contributors.html. Accessed May 27, 2023. [ Links ]
12. ICMJE. Preparing a Manuscript for Submission to a Medical Journal. Methods. ICMJE; 2023. https://www.icmje.org/recommendations/browse/manuscript-preparation/preparing-for-submission.html#d. Accessed May 27, 2023. [ Links ]
13. Oxford Reference. Plagiarism. Oxford; 2023. https://www.oxfordreference.com/display/10.1093/oi/authority.20110803100329803;jsessionid=D1759DA0FD79ACB96407CDB4B7BC8FA0. Accessed May 27, 2023. [ Links ]
Notas:
Aviso legal: Esta declaración se publica a partir de: Zielinski C, Winker MA, Aggarwal R, Ferris LE, Heinemann M, Lapeña JF, Pai SA, Ing E, Citrome L, Alam M, Voight M, Habibzadeh F, for the WAME Board. Chatbots, Generative AI, and Scholarly Manuscripts. WAME Recommendations on Chatbots and Generative Artificial Intelligence in Relation to Scholarly Publications. WAME. May 31, 2023. Available from: https://wame.org/page3.php?id=106
This is an open-access article distributed under the terms of the Creative Commons Attribution License
