Las IA se han vuelto una herramienta diaria, ¿Qué tan ético es implementar su uso en ensayos académicos e investigaciones?
Las Inteligencias Artificiales Generativas (IA) se han usado en la comunidad académica como ayuda para cumplir con tareas eficientemente. El auge de ChatGPT (Acrónimo del inglés Chat Generative Pre-trained Transformer) durante el 2022, ha hecho de estas herramientas más accesibles a los estudiantes alrededor del mundo, pero a pesar de su tremendo potencial, la inteligencia artificial tiene problemas con plagio, “alucinaciones” y referencias fabricadas. En esta investigación titulada “Artificial intelligence-assisted academic writing: recommendations for ethical use”, Adam Cheng, Aaron Calhourn y Gabriel Reedy exploran los límites y usos éticos de la IA.
Las alucinaciones de la Inteligencia Artificial.
Un fenómeno en el que la IA ofrece respuestas convincentes que son completamente fabricadas, sin sentido o carecen de una base real. Ya que estas herramientas no están diseñadas para ofrecer exactitud o veracidad de su contenido, son propensas a producir contenido fabricado de una gran cantidad de data no supervisada, tal como es el caso de ChatGPT, cuyo modelo tiene la intención de “aprender”, no logra separar la realidad de la ficción de la información que es recibida, integrada y generada como nuevo contenido.
Para la investigación, se le asignó la tarea a ChatGPT a escribir 50 ensayos de protocolo con referencia a nuevos temas médicos. De las referencias generadas para estos protocolos, 38% tenía un DOI incorrecto, y el 16% fueron referencias completamente inventadas. Otro estudio de 30 reportes médicos generados en ChatGPT, arrojó casi de la mitad de referencias inventadas, mientras 46% eran auténticas pero incorrectas, 48% con error de título, 52% representaba errores con la autoría y el 93% de todas las referencias tenían el PMID incorrecto. Solo el 7% de todas las referencias otorgadas fueron completamente auténticas y correctas.
¿La IA tiene la respuesta?
En el esfuerzo de definir el uso ético de la IA, se le preguntó a ChatGPT 4.0: “¿Puedes proveer una lista de los usos en los que ChatGPT puede ser usado éticamente para asistir autores en la redacción de artículos médicos?”
En una lista de 10 puntos, ChatGPT responde que puede ayudar en la revisión literaria, crear bocetos en base de la estructura del artículo, aclarar conceptos, revisar gramática, discutir hipótesis, asegurar un lenguaje ético, interpretar datos, evitar plagio, ayudar a redefinir párrafos complejos y traducir lenguaje.
Uso ético.
Como resultado de esta investigación se resume a 3 niveles de uso,
El primer nivel, éticamente aceptable, considera que es aplicable usar la IA para:
Gramática y legibilidad (asegurando que la IA refleje la voz del autor y su pensamiento crítico) y para traducción de lenguaje (sugiriendo que se realice un doble chequeo de traducción).
El segundo nivel, Uso éticamente contingente, es describir un contexto, resumir contenido, asegurar claridad y crear una idea de lluvias, al igual que el primer nivel, es relevante asegurar a la IA los requerimientos de redacción, reflejar las ideas del autor y no alterar el mensaje.
El tercer nivel, éticamente sospechoso, el cual no es recomendado para IA, es desarrollar nuevas ideas, interpretar datos, revisar literatura, determinar ética y revisar plagio.
Como conclusión, estos 3 investigadores sugieren que el uso ético de la IA es para reestructurar textos, revisión de gramática y apoyo en traducciones.
