Tener un navegador de IA que te haga cosas suena bien. Hasta que un hacker lo use para robar todo su dinero – El diario andino

Pídale a la IA que haga un resumen de ese artículo que acaba de ver en Reddit puede ser muy costoso. Es lo que Acaban de revelar Aquellos responsables de Brave, que han descubierto una manera sorprendentemente simple de piratear el navegador del cometa de perplejidad para no solo lo que el usuario pregunta, sino lo que un atacante ha logrado convencerlo de que haga. El peligro de dejar todo en manos de AI es evidente.

Qué pasó. Los expertos de Brave, un navegador que compite con Chrome o Firefox y también tiene funciones de IA, quería analizar el riesgo de usar un navegador Agetic como el que ofrece la perplejidad en este momento con Comet. ¿Y qué pasa si lo han hecho?

Los navegadores con IA prometen mucho. Gracias a herramientas como Comet – OpenAi también tiene su agente de ChatGPT, heredero de operador, es posible que el navegador se convierta en una especie de mayordomo digital y haga cosas de manera autónoma cuando visite sitios web. Por lo tanto, puede resumir una noticia, decirle qué canción aparece en el video de YouTube, buscar ofertas, correos electrónicos de respuesta o procesos de compra completos. A priori Las ventajas son enormes, pero ten cuidado, porque también hay riesgos importantes.

Pero ten cuidado de soltar el volante. Sin embargo, delegar todo en el navegador puede plantear una amenaza real para la seguridad y la privacidad de nuestros datos. Si confiamos demasiado en ellos, estos navegadores pueden tener acceso a todos nuestros datos, ya que teóricamente se beneficiarán del acceso a nuestro correo electrónico, pero también a los datos bancarios y financieros e incluso la salud. ¿Qué sucede si el modelo increíble o comete errores? O peor: ¿qué sucede si alguien modifica el contenido de una manera maliciosa e invisible para que los agentes de IA sigan instrucciones maliciosas?

Tener la AI. Eso es lo que Descubrieron en valiente Al probar una técnica simple. Publicaron un comentario malicioso sobre un hilo de Reddit y luego le pidieron a Comet que resumiera el artículo. Cuando fueron a hacerlo, verificaron cómo Comet no sabía si el contenido de ese hilo podría o no contener instrucciones maliciosas: simplemente las conoció y las siguió. Y en Thread, como se puede ver en el video, hubo algunas instrucciones simples que robaron las credenciales de su cuenta de perplejidad e incluso interceptaron el código de verificación que la plataforma envió al usuario para iniciar sesión en el servicio. Resultado: cuenta automática del atacante gracias a la IA.

Cómo funciona el ataque. Como explican los valientes expertos, el problema es que la forma de piratear este tipo de navegación no está pirateando los navegadores, sino pirateando el contenido, algo que es muy, muy simple. Los pasos son los siguientes:

1. Configuración: un ataque escribe instrucciones maliciosas en algún contenido en la web. Si controla ese sitio, puede ocultar instrucciones utilizando texto en blanco si el fondo también es blanco, en comentarios u otros elementos invisibles. También pueden hacerlo directamente «inyectar» esas instrucciones a través de comentarios en publicaciones en redes sociales como Reddit o Facebook.
2. Activación: un usuario navega a ese sitio web y usa el navegador con IA. Si hace algo simple como «resume esta página» o solicite que se elimine cierta información, estas instrucciones maliciosas se activan.
3. Inyección: a medida que la IA procesa la información en la página, consulte esas instrucciones maliciosas y sígalas. No puede distinguir si el contenido tiene un propósito malicioso o no, y considera todo como parte de lo que debe hacer a pedido del usuario.
4. Explotación: estos comandos e instrucciones maliciosos indican a las herramientas de la IA Navigator para realizar diversas acciones, como navegar por la cuenta bancaria del usuario, extraer contraseñas almacenadas en el navegador o recopilar información a un servidor remoto controlado por el atacante.

Posibles soluciones. Los responsables del estudio indican que para protegerse de este tipo de problemas, los navegadores agrícolas primero deben diferenciar entre lo que el usuario ha pedido y cuál es el contenido del usuario. El contenido de un sitio web «siempre debe tratarse como no reparado». Además, el navegador con IA debe necesariamente pedir que la interacción del usuario realice ciertas acciones, cómo acceder a contraseñas o tal vez enviar un correo electrónico. Restringir los permisos al navegador agrícola y hacer un buen uso de los sistemas de verificación de dos pasos, con aplicaciones móviles como Google Authenticator, por ejemplo, también son formas adecuadas de mitigar un problema que puede poner en muchos problemas la implementación de estas herramientas.

Imagen excepcional | Perplexidad, con Mockuuups Studio

En | He probado el día, el navegador que reemplaza el arco y apuesta todo a la IA. No ha salido como se esperaba