Deloitte entregó a Australia un informe elaborado con IA – El diario andino

La IA generativa ha avanzado mucho, pero las alucinaciones siguen a la orden del día. Y la IA prefiere inventar una respuesta antes que decir que no sabe algo. Quienes lo utilizamos muchas veces sabemos que no podemos confiar en él al 100% y siempre tenemos que hacer comprobaciones. En Deloitte no pensaron que comprobar fuera importante y ahora tienen que devolver casi 300.000 dólares al gobierno australiano.

¿Qué ha pasado? El departamento de empleo del gobierno australiano encargó un informe a la consultora Deloitte. Se publicó el pasado mes de julio y todo iba bien hasta que, como dicen en APUn investigador de la Universidad de Sydney alertó a los medios de que el informe estaba plagado de referencias erróneas, incluida una cita inventada de un fallo judicial y referencias a estudios que no existían. La empresa lo retiró y se publicó una versión revisada.

¿Por qué es importante?. La industria de la consultoría es un negocio multimillonario (se estima que para 2024 generará la friolera de 354 mil millones de dólares) y, por su propia esencia y forma de operar, es uno de los sectores vulnerables a la “sustitución por IA”. La IA ya es una tecnología ampliamente utilizado en el sector para tareas como análisis de big data, generación de informes o presentaciones y otras tareas administrativas. El caso de Deloitte es un buen ejemplo de esto, pero demuestra que la supervisión humana es necesaria. Probablemente nos encontraremos con más casos de este tipo en el futuro.

Consecuencias. El gobierno pagó casi 300.000 dólares a Deloitte por la elaboración del informe, por lo que la empresa debe devolver parcialmente el importe. Sin embargo, Barbara Pocock, senadora del Partido Verdecree que deberían devolver el importe total: “Deloitte hizo un mal uso de la IA: citaron mal a un juez y utilizaron referencias inexistentes (…) Este es el tipo de cosas por las que un estudiante universitario de primer año se metería en muchos problemas”.

Escóndelo, no se ha dado cuenta.. Chris Rudge, el investigador que descubrió el pastel, dice que el documento contenía al menos 20 errores, incluida una referencia a un libro escrito por alguien que él conocía y que no existía. Quizás lo más grave de todo es que cita una frase completamente inventada de un juez. Pese a ser un caso tan evidente, Deloitte no ha admitido que los errores se generen por el uso de IA y se ha limitado a comentar que “el asunto se ha resuelto directamente con el cliente”.

Imagen | Wikipedia

En | Klarna tiene muy claro que la IA es el mejor aliado posible. Entonces la usó para reemplazar a su director ejecutivo.