En la actualidad hay una gran atención por lo que representa la inteligencia artificial (IA) para nuestra sociedad, y las expectativas para el futuro a corto y mediano plazo son aún mayores. La Real Academia Española define la inteligencia como la capacidad de entender, comprender, o de resolver problemas. A su vez, la inteligencia artificial (IA) ha sido definida como “la ciencia y la ingeniería de fabricar máquinas inteligentes, especialmente programas informáticos inteligentes” ¹. Entonces, podríamos decir que la IA es la ciencia y la ingeniería de fabricar máquinas que entienden, comprenden y resuelven problemas. Más recientemente, la International Business Machines Corporation (IBM), citando a Russell y Norvik ², indica que la definición de IA tiene dos enfoques que se clasifican en función de la racionalidad y el pensamiento frente a la acción. Uno es el enfoque humano, del cual hacen parte los sistemas que piensan y actúan como humanos. El segundo, el enfoque ideal, en el que se ubican los sistemas que piensan y actúan racionalmente.

Entre las tecnologías más conocidas de la inteligencia artificial tenemos a los robots, que ya están disponibles no solo en los hospitales ³, sino que ya también se pueden comprar para uso domiciliario en sitios de ventas virtuales ⁴. Otros ejemplos de inteligencia artificial son los procesadores de voz como Siri o Google, o el programa ChatGPT de la casa de innovación tecnológica OpenAI ® ⁵, un chatbot (se comunica por interacciones escritas), que ha significado una revolución en términos de lograr que la máquina pueda no solo producir textos simples ante preguntas, sino que, además, pareciera que aprende rápidamente a partir de las solicitudes y de las respuestas previamente producidas. Ante estas novedades tecnológicas y la velocidad con la que se desarrolla la IA, hay todo tipo de reacciones que varían entre las expectativas ilimitadas sobre lo que viene, así como la negación, la incredulidad y el rechazo de estas nuevas máquinas. Lo importante es que ya están aquí y llegaron para quedarse, y que debemos conocer sus fortalezas y debilidades.

Para el mundo académico y científico, el desarrollo de ChatGPT ha significado un desafío, ya que el uso de esta aplicación podría ir en contra de la integridad científica, pues su uso podría determinar la presencia de plagio, bajo su más amplia definición. Según la American Psychologist Association (APA) (secciones 8.2 y 8.3) ⁶ el plagio es "el acto de presentar las palabras, ideas o imágenes de otro como propias; el negar a los autores que son creadores de contenidos el crédito que les corresponde". Vamos a intentar explicar, desde el punto de vista de un neófito en estas tecnologías, algunos elementos que nos permitirán entender de dónde provienen los riesgos que representa esta aplicación y su manejo, según las recomendaciones del Comité Internacional de Editores de Revistas Médicas (International Committee of Medical Journal Editors - ICJME).

GPT es la sigla de Generative Pre-training Transformer. Es un modelo de procesamiento de lenguaje natural de aprendizaje automático (Large Language Model - LLM). Los LLM digieren grandes cantidades de datos de texto e infieren relaciones entre palabras dentro este. Se lanzó en 2019 y permite codificar, en algoritmos computacionales, textos de entrada y decodificar estos algoritmos para producir otros textos de salida. En su interior, la aplicación permite al modelo ponderar de manera diferencial partes de la secuencia de un texto para inferir significado y contexto. El transformador (una o varias redes neuronales) intenta comprender el modelado de lenguaje para "acertar" la relación entre palabras y producir respuestas más claras. En la versión lanzada en 2022 (GPT-3), el transformador se surte de libros, artículos, imágenes y páginas web, entre otros. Por otra parte, hace el proceso de selección de las piezas de texto de ingreso (llamadas token) que "considera" importantes para entender el contexto con base en ponderaciones de la importancia de los textos en el orden de salida, esto de manera iterativa (self attention mechanisms), con lo que logra hacer predicciones sobre el texto de salida, sin embargo, tiene limitaciones para alinear este texto con las necesidades del usuario ⁷. Actualmente se dispone como una aplicación (app).

El ChatGPT es un modo de aprendizaje profundo de máquinas, tiene la ventaja sobre sus predecesores de poder incorporar comentarios humanos en el proceso de capacitación para alinear mejor los resultados del modelo con la intención del usuario (reinforcement learning). Es decir, la máquina aprende a dar las respuestas más apropiadas según la especificidades del usuario y la calificación o retroalimentación que el humano da a estas respuestas. Sin embargo, estos programas no pueden generar algún tipo de razonamiento intelectual o modelo mental ⁸.

Ya para el caso que nos ocupa -las tareas académicas o la publicación de textos científicos- surgen varios problemas con el uso de ChatGPT, estos son:

Estos últimos problemas llevan a la pérdida de los derechos de autoría, que son muy importantes para un investigador que presenta un hecho o una idea, la cual se incorpora en un campo del conocimiento. Como se mencionó, esto constituye un plagio y es un hecho que atenta contra la integridad científica. Actualmente se están desarrollando herramientas para detectar qué partes son escritas por el chat GPT, sin embrago su exactitud es aún incierta ⁹; por otra parte, hay otros chatbot, como Google Bard, que produce textos con referencias y las fuentes o que permite a la persona incluir las referencias en el texto. Sin embargo, la máquina no hace la verificación si la fuente de la cita es primaria o secundaria, la cual debe ser hecha por el ser humano ¹⁰.

Para evitar este problema, en la Revista Colombiana de Obstetricia y Ginecología (RCOG) explicamos a los autores la relevancia del uso adecuado de las citaciones directas (citas textuales), y de las citaciones indirectas (parafraseo, pero citando al autor original de la idea) ¹¹, para otorgar el crédito requerido a los autores que originalmente presentan los hechos mencionados. Además, se prioriza el uso de las fuentes primarias (fuente original, donde por primera vez se expuso el hecho o idea), sobre las secundarias (citación a partir de documentos resumidos por otros), en las cuales, en caso de ser utilizadas, se deberá referenciar la fuente original de la información ¹².

En este sentido, y para evitar estas nuevas formas de plagio, a partir del próximo número la RCOG se sumará a la incitativa del ICJME ¹³, en cuanto a que se insta a los autores a declarar la utilización de la inteligencia artificial en el manuscrito presentado, ya que es el ser humano el responsable de la utilización de la IA en el documento. Además, los autores deben revisar cuidadosamente y editar el texto final, porque la IA puede generar resultados que parecen adecuados y que pueden ser incorrectos, incompletos o sesgados. Esta información debe ir tanto en la carta de presentación (página titular) como en la sección de materiales y métodos en el trabajo presentado. Los GPT y el ChatGPT no deben ser listados como autores o coautores ya que no cumplen con el criterio de responder por la integridad, validez y originalidad del trabajo, tampoco deben citar estas aplicaciones de IA en la bibliografía respectiva. Los autores deben poder asegurar que no hay plagio en el texto, en las citaciones o en las imágenes, y que hay una atribución apropiada de todo el material citado, incluidas citas completas.

Esperamos con esto hacer un aporte para que nuestros investigadores y estudiantes comprendan la responsabilidad que implica ser autores de un documento académico o científico, las limitaciones de estas máquinas y su adecuada utilización, en beneficio de la validez de la información que se brinda al lector y de la integridad científica.