El caso de las matemáticas muestra que el hype amenaza con explotarles en la cara – El diario andino

Un grupo de investigadores de OpenAI afirmó haber «encontrado soluciones a 10 problemas de Erdös no resueltos anteriormente, y se han logrado avances en otros 11». La declaración parecía indicar que GPT-5 había dado un importante salto cualitativo en el campo de las matemáticas, pero la realidad era muy diferente. De hecho, todo resultó ser una exageración que podría dañar la reputación de OpenAI en el futuro.

que ha pasado. La afirmación de los ingenieros de OpenAI era prometedora, pero exagerada. El mensaje original de Mark Selke, uno de ellos, se sumó a los de otros investigadores como Boris Power, quien se disculpo después de darse cuenta de que habían cometido un error—o Sebastian Bubeck—quien también terminó modificando el tweet y reconociendo el error—. El tweet original parecía dejar claro que GPT-5 había logrado resolver varios de los famosos Problemas matemáticos de Erdös. Realmente no los había resuelto.

GPT-5 sirvió para encontrar soluciones. El matemático Thomas Bloom, que precisamente es el encargado de gestionar la web donde se gestionan todos estos problemas abiertos, aclaró rápidamente la situación. Como explicado en X/TwitterLas afirmaciones de OpenAI fueron «una interpretación dramáticamente errónea». Cuando habla de problemas «abiertos» en el sitio web, lo que quiere decir es que no conoce la solución, no que el problema no se haya resuelto. Lo único que hizo GPT-5 fue encontrar investigaciones y estudios recientes que Bloom no había encontrado. Aquí debemos decir que la IA ha logrado avances matemáticos sorprendentes recientemente: Meta AI, por ejemplo, logró generalizar la función de Lyapunov.

Demis Hassabis y Yann LeCun critican OpenAI. Demis Hassabis, director ejecutivo de DeepMind, indicado en X que este evento había sido «vergonzoso», mientras que Yann LeCun, uno de los principales gerentes de IA en Meta, destacó cómo OpenAI había creído su propio mensaje de ventas exagerado. con el mensaje «Izado por sus propios GPTards», que juega con GPT y «tards» (sufijo derivado de «retards»), en referencia a las expectativas crédulas que suele vender OpenAI.

Las expectativas lo son todo.. Aunque los investigadores e ingenieros de OpenAI admitieron su error, lo que vemos aquí es un patrón peligroso: uno en el que incluso los propios empleados de la empresa (o los entusiastas que la siguen) pueden terminar siendo víctimas de esas expectativas. Es muy probable que internamente la presión para lograr grandes avances con sus modelos sea enorme, pero eso puede llevar a descuidos y exageraciones como esta que pueden costar muy cara la reputación de la empresa.

A GPT-5 no le fue nada mal. Aunque se exageró el papel de GPT-5 en este proceso, lo que hay que reconocer es que este modelo demostró su capacidad para convertirse en un asistente muy valioso para los investigadores. Así, este modelo de IA puede buscar en Internet y en bibliotecas de estudios científicos de una manera muy poderosa, y puede «encontrar soluciones» ya publicadas donde los académicos aún no las habían visto al intentar resolver problemas relacionados.

asistente de investigación. Para el matemático Terence Tao, este es precisamente un elemento muy llamativo de estos modelos de IA: puede que no resuelvan los problemas matemáticos más complejos, pero puede acelerar tareas tediosas como los de la búsqueda de literatura académica que ayude a resolverlos. Para este experto, la IA puede ayudar «industrializar» las matemáticas y actuar como catalizador o «lubricante» para las hipótesis y teorías de los matemáticos.

Pero esto es importante. OpenAI es una máquina de crear expectativas y su director general, Sam Altman, no duda en hacer promesas vagas e imposibles de verificar para atraer más interés por sus modelos de inteligencia artificial generativa. Hace un año prometió que AGI llegaría «en unos pocos miles de días», lo que suena como una de esas «promesas de Musk».

apuesta arriesgada. En las últimas semanas hemos visto como OpenAI ha llegado a acuerdos únicos de financiación circular con NVIDIA, AMD o Broadcom crear centros de datos, pero la realidad es que todos estos proyectos se centran en una promesa: que la IA será una parte fundamental de nuestras vidas más pronto que tarde. Eso puede suceder, por supuesto, pero si no es así, el efecto dominó puede ser una catástrofe absoluta dadas las decenas de miles de millones de dólares invertidos en tales proyectos.

Imagen | Vitaly Gariev

En | Si la pregunta es si existe una burbuja de IA, Sam Altman acaba de dar la respuesta. Uno con el que gana