Llevamos años buscando bocas de incendio en fotografías para demostrar que no somos un robot. Resulta que, después de todo, éramos el robot. – El diario andino

Nos pasa todos los días: intentamos entrar en una web y de repente un grid de fotos de mala calidad nos exige identificar todos los semáforos, autobuses o incluso bocas de incendio aunque en España, por ejemplo, no tengan el diseño característico que se aplica en EE.UU. Cuando resolvemos estos acertijos no sólo estamos demostrando que no somos un robot: estamos trabajando para Google.

esclavos de google. A principios de la década de 2000, los bots estaban destruyendo Internet, pero un joven llamado Luis von Ahn tuvo una gran idea. para detenerlos. Creó CAPTCHA, un sistema que nos exigía identificar palabras distorsionadas para demostrar que éramos humanos y así poder acceder al contenido. Ese sistema evolucionó y Google compró la idea y lo convirtió en un sistema perfecto para algo que apenas hemos notado: trabajar para ello.

De Google Maps a Waymo. Desde entonces, Google no ha dejado de aprovechar el sistema para dos objetivos entrelazados. Los primeros, efectivamente, nos protegen de los bots. La segunda, también conocida pero mucho más jugosa para la compañía, es convertirnos a todos en etiquetadores de información. Los internautas reconocieron por primera vez palabras y se convirtieron en un gigantesco sistema OCR que se aplicó a Google Maps. Luego, con las imágenes, terminamos ayudando a que los sistemas de reconocimiento de imágenes de Google mejoraran significativamente. Eso ha servido, entre otras cosas, para impulsar los sistemas de conducción autónoma de Waymo.

Consenso estadístico. ¿Cómo sabe Google que cuando elegimos una boca de incendio o un autobús estamos respondiendo correctamente? Lo sabe gracias al llamado «consenso estadístico». Google suele presentar las imágenes por parejas: una de ellas (la imagen de control) ya ha sido identificada previamente por miles de personas, mientras que la otra es una imagen «huérfana» que sus algoritmos de visión por ordenador no pueden descifrar. Si adivina la imagen conocida, Google asume que es un humano y utiliza su respuesta sobre la imagen desconocida para alimentar su base de datos.

somos el producto. Probablemente todos nuestros lectores ya eran muy conscientes de esta realidad, pero ahora comienza a activarse un debate sobre la ética y la propiedad del trabajo digital. Es algo que ya vimos con las redes sociales, que se alimentaban de nuestros contenidos, y que sin duda también se aplica a Google: ¿hasta qué punto es legal que una empresa tenga una enorme infraestructura de IA gracias a los miles de millones de horas de «microtrabajo» no remunerado de sus usuarios? Aquí resurge el famoso “si no pagas el producto, tú eres el producto”. Es cierto que estos sistemas de Google nos han protegido de los bots y no los hemos pagado «con dinero»… sino con esos microtrabajos que hemos hecho a la hora de resolver los puzles de los sistemas reCAPTACHA.

¿Es posible envenenar el algoritmo? Aquí también surgen dudas sobre la verdadera fiabilidad del sistema. Si un grupo masivo de usuarios decidiera etiquetar incorrectamente los semáforos o las bocas de incendio de forma organizada, ¿un vehículo autónomo tomaría decisiones peligrosas en el mundo real? Ese riesgo parece razonable, y teniendo en cuenta que los modelos de IA son cada vez más capaces de realizar razonamientos abstractos e incluso superar captchas, un ataque de robots de IA que haría algo como esto plantea una amenaza preocupante.

El CAPTCHA invisible. El propio Google sabe que los CAPTCHA visuales ya no son tan insuperables para las máquinas, por lo que ha ido moviendo sus sistemas hacia reCAPTCHA v3un sistema invisible que no requiere buscar autobuses, pasos de cebra o bocas de incendio que nunca verás en una calle de Málaga o Bilbao. En cambio, este sistema analiza de forma opaca tu comportamiento frente al PC: cómo mueves el ratón, qué cookies tienes instaladas y cómo navegas. O lo que es lo mismo: Google cree saber cómo se comporta un humano cuando va a pulsar en «No soy un robot»… cuando llevamos años trabajando como robots y resolviendo esos acertijos.

una idea brillante. Lo que está claro es que CAPTCHA ha sido una idea brillante con implicaciones que ni siquiera Google podría haber anticipado. De hecho, ha convertido esta herramienta en una forma de alimentar sus sistemas de inteligencia artificial con nuestra ayuda, sin que prácticamente lo sepamos (o nos importe mucho). Pero ya sabes: la próxima vez que un sitio web te pida que identifiques las bocas de incendio antes de entrar, recuerda que no estás demostrando tu humanidad. Te incorporarás al turno de tarde en una de las fábricas de datos más grandes del planeta.

En | Estados Unidos bloqueó sus chips más avanzados de China para detener su IA. El resultado: China fabrica tokens más baratos que nadie