Una universidad utilizó una IA para cazar a los estudiantes que la utilizaban. El resultado fue un desastre predecible. – El diario andino

¿Qué ha pasado? ellos cuentan en Futurismo que en 2024, la Universidad Católica Australiana acusó a unos 6.000 estudiantes de mala conducta académica. Al menos el 90% de los casos estaban relacionados con el uso de IA para hacer trampa. Lo llamativo es que la propia universidad utilizó una IA para emitir estas acusaciones, muchas de las cuales eran erróneas.

Por qué es importante. Es un ejemplo más de que la IA todavía no es fiable. Lo vemos constantemente con resultados erróneos y alucinaciones. La universidad australiana no es la única que se ha basado en la IA para acusar a sus alumnos, es una práctica bastante común y ha habido otros casos similares. La realidad es que los detectores de texto con IA también son IA y, al menos por ahora, Son imperfectos.

Turnitín. Es un software de detección de plagio cuya primera versión fue lanzada en el año 1997 y es muy utilizado en universidades y centros educativos. En 2023 añadió un herramienta para detectar textos creados con IA y es el que usaron en la Universidad Católica Australiana. La propia empresa afirma en su guía de uso que el detector de IA no siempre es preciso y no debe utilizarse como única fuente al acusar a un estudiante. Sin embargo, según ABC Australiala universidad lo utilizó como única prueba al emitir sus antecedentes por mala conducta.

La versión universitaria. Las acusaciones sobre el uso de IA incluyeron obras generadas por IA, referencias inventadas (alucinaciones) y el uso de herramientas de IA para citar y traducir contenido. La universidad dice que al menos una cuarta parte de todas las acusaciones fueron retiradas después de una investigación. También rechazaron aquellos en los que la única prueba era la propia IA y en marzo de este año dejaron de utilizar ese software.

El dilema. La aparición de herramientas de IA plantea desafíos en el sector educativo. Heno Voces que abogan por su prohibición.mientras que otros Defienden la integración y fomentar buenas prácticas. La UNESCO publicó un guía para el uso de la IA generativa en la educación en el que establecen reglas y obligaciones, como protección de la privacidad, límites de edad y un enfoque que garantice el uso ético y seguro de estas herramientas.

Imagen | Turnitín

En | Un profesor corrigió un examen final realizado con ChatGPT, pero otra IA lo evaluó diferente y expuso el dilema