Hay un truco para hacer más fiables los modelos de IA: hablarles mal – El diario andino
Si saludas a ChatGPT y le agradeces cuando responde, no le estás aprovechando al máximo. Unos investigadores han querido comprobar si el tono que utilizamos al pedir cosas a la IA cambia los resultados y han descubierto algo interesante: ser groseros los hace más fiables.
Brusco. lo cuentan en Cómo hacer IA. A estudio realizado por investigadores de la Universidad de Pensilvania ha analizado si el tono que utilizamos al escribir una consigna influye en el resultado y las conclusiones son claras. Las indicaciones con un tono «grosero» o «muy grosero» provocaron respuestas hasta un 4% más precisas que aquellas con un tono más educado.
el estudio. Para probarlo generaron una lista de 50 preguntas sobre diferentes temas como historia, ciencias o matemáticas. Cada una de las preguntas se formuló utilizando cinco tonos diferentes: muy educado, educado, neutral, grosero y muy grosero. El modelo que utilizaron fue ChatGPT-4o.
Los resultados. Los investigadores hicieron diez rondas con todas las preguntas en diferentes tonos y las conclusiones son muy claras. Si miramos las variaciones, la diferencia entre el tono neutro o rudo es sólo del 0,6%, pero en los extremos la diferencia se hace más evidente. Al utilizar un tono ‘muy amable’, la precisión media fue del 80,8%, mientras que si pasábamos al ‘muy grosero’, aumentaba hasta el 84,8%.
Amabilidad por defecto. Solemos hablar amablemente con los chatbots, esto se refleja la encuesta que Future realizó a finales de 2024. Al menos el 70% de los encuestados admitió haber usado «por favor» y «gracias» cuando usaban chatbots de IA. Muchos afirmaron hacerlo por una cuestión de costumbre, cultura y “porque es lo correcto”, aunque un pequeño porcentaje admitió tener miedo de que los robots se rebelaran en el futuro.
es caro. Independientemente de los motivos que nos llevan a ser amables con la IA, hay una realidad y es que el “por favor” y el “gracias” tienen un coste absurdo. Cuando agradecemos a ChatGPT, aumentan las solicitudes al modelo de lenguaje, lo que aumenta el consumo de electricidad y agua en los centros de datos. No tenemos cifras, pero Sam Altman aseguró esa amabilidad le ha costado a OpenAI «decenas de millones de dólares bien gastados».
el aviso. A pesar de los enormes avances en IA, los modelos de lenguaje siguen sorprendiendo y no son 100% confiables. Sin embargo, muchas veces la culpa de que las respuestas no sean exactas no es del modelo, sino de cómo lo estamos preguntando. Hay trucos para conseguir un buen mensaje y ser amable o usar frases como “si puedes, me gustaría que…” es uno de los puntos a evitar. Tampoco es cuestión de tratarlos mal porque eso tampoco contribuye, pero cuanto más directo y claro seas mejor será el resultado.
Imagen | Pexels
En | Los agentes de IA quieren quitarnos nuestros trabajos. Primero tendrán que aprender a no fallar en el 70% de las tareas.
