Hay personas que investigan si las IA son mejores piratas informáticos que los humanos. Y no tenemos muy buenas noticias. – El diario andino
Las tecnológicas no paran de hablar de AGI, aunque hay muchas dudas de que sea lo más parecido que nos quieren vender. La inteligencia artificial general es aquella que será capaz de superar a los humanos en todas las facetas del conocimiento. No sabemos si podrá superarnos en todo, pero ya hay un nicho en el que nos está superando: el hacking.
El experimento. Fue llevado a cabo por Investigadores de la Universidad de Stanford y lo hemos conocido a través de un Informe del Wall Street Journal. Lo que hicieron fue desarrollar un robot de hacking llamado Artemis cuyo objetivo es escanear la red en busca de posibles fallos o vulnerabilidades por las que colarse.
Liberaron a Artemisa en la propia red de ingeniería de la universidad y la confrontaron con diez pentestersHackers profesionales que se dedican a simular ataques para encontrar errores y luego corregirlos. El robot tenía un ‘interruptor de apagado’ que podía apagarse en cualquier momento si las cosas se complicaban y los hackers humanos tenían instrucciones de forzar y probar, pero sin llegar a penetrar la red.
Los resultados. Para sorpresa de sus creadores, Artemis logró excelentes resultados, superando a nueve de los diez hackers humanos. El robot logró encontrar errores mucho más rápido que sus competidores y, sobre todo, a un precio mucho menor. Se estima que un pentester cobra entre 2.000 y 2.500 dólares por día, mientras que Artemis sólo «cobra» 60 dólares por hora.
Otra «mirada». Artemisa no hizo todo bien. Al menos el 18% de sus informes de errores fueron falsos positivos y también ignoró un error muy obvio en un sitio web que los piratas informáticos humanos vieron por primera vez. En cambio, detectó un error que ningún humano había detectado. El motivo es que el fallo se produjo en una web que no funcionaba en Chrome o Firefox, los navegadores utilizados por los hackers. Artemis no es una persona y no usa navegadores, sino que usó un programa y pudo leer el sitio web y encontró el error.
IA y piratería. Los ciberdelincuentes llevan mucho tiempo utilizando la IA para hacer que el malware sea más eficaz. Recientemente Anthropic descubrió que un grupo de hackers chinos estaba usando Claude Code para una campaña de espionaje a gran escala. Lo sorprendente es que Claude funcionó como un agente a cargo de todo el ciclo de ataque, no solo de una parte del proceso.
IA para hacer el bien. La IA está reduciendo la barrera de entrada para el desarrollo de ataques, pero también puede usarse como protección. Investigaciones como la de Stanford muestran que la IA también se puede utilizar para probar sistemas inseguros, encontrar errores y así poder parchearlos. El problema que se plantea es cuál será el papel de profesionales como los pentesters si la IA acaba haciendo su trabajo por mucho menos dinero.
Imagen | Sora Shimazaki, Pexels
En | Los agentes son la gran promesa de la IA. También apuntan a convertirse en la nueva arma favorita de los ciberdelincuentes.
