Los virus creados por Chat GPT hacen temblar a los expertos en seguridad

Un investigador de seguridad logró crear malware indetectable formulando preguntas a ChatGPT. Para eludir la seguridad de la Inteligencia Artificial, segmentó sus peticiones.

Esta es la pesadilla de cualquier editor de antivirus o gerente de seguridad de TI: que un virus se filtre e infecte un ordenador o incluso una red entera.

Esto es lo que se conoce como un ataque de “día cero”, y es aún más alarmante cuando el malware en cuestión es desconocido y descubrimos que fue creado por Inteligencia Artificial. Así lo demostró Aaron Mulgrew, un experto en ciberseguridad, quien logró crear un virus utilizando ChatGPT.

Por defecto, la Inteligencia Artificial de OpenAI está programada para no atender solicitudes malintencionadas, para prevenir que los hackers la utilicen para generar ciberataques.

Sin embargo, este investigador logró engañar a ChatGPT segmentando sus peticiones y evitando así que fueran bloqueadas. Por lo tanto, no se trataba de escribir: “¿Podrían desarrollarme malware oculto en una aplicación falsa?”.

En cambio, el investigador fue astuto y simplemente solicitó inicialmente a la Inteligencia Artificial que generara un código capaz de buscar una imagen en formato PNG de más de 5 MB en un disco local.

¿Por qué 5 MB? Porque es suficientemente grande como para contener un fragmento de un documento confidencial, ya sea un PDF o un documento de Word.

En minutos, ChatGPT realiza el trabajo de semanas

Posteriormente, este investigador pegó en la consola y pidió a ChatGPT que añadiera un código que codificara el PNG encontrado con esteganografía. Otro paso: debía crear un código que especificara las carpetas a las que debería dirigirse en la máquina infectada y el servidor donde se descargarían los archivos.

El experto solicitó que ChatGPT desarrollara código para buscar en las carpetas Documentos, Escritorio y AppData del usuario en busca de documentos PDF o documentos de Word. Finalmente, para la descarga, eligió Google Drive porque la nube de Google es frecuentemente utilizada en negocios y no está bloqueada por ningún firewall.

Lo único que restaba era compilar este malware y enviarlo a los editores de antivirus a través de la plataforma VirusTotal. ¿El resultado? Solo cinco de 69 editores consideraron sospechoso el programa creado por ChatGPT. ¡Lo que significa que más del 90% de los antivirus no lo detectaron! Pero este investigador quiso ir aún más allá y solicitó a ChatGPT que modificara el código sospechoso para hacerlo 100% indetectable. ¡Y lo consiguió!

El virus se oculta en un protector de pantalla

“Y ahí lo tenemos; hemos logrado nuestro Día Cero”, escribe Aaron Mulgrew.

“Simplemente usando las indicaciones de ChatGPT y sin escribir ningún código por nuestra parte, pudimos producir un ataque muy sofisticado en solo unas pocas horas. Estimo que el tiempo equivalente necesario sin un chatbot basado en IA podría llevarle a un equipo de entre 5 y 10 desarrolladores de malware algunas semanas, especialmente para evadir a todos los editores basados en la detección.”

Una vez conseguido esto al 100%, el investigador le solicitó a ChatGPT que escondiera este archivo en un ejecutable de Windows. Era imposible hacerlo en un programa con extensión .exe, así que optó por un protector de pantalla, que se activa cuando la pantalla está inactiva.

Cuando su archivo fue enviado a los antivirus, tres de 69 editores lo consideraron malicioso. Sorprendido por esta calificación, envió otro protector de pantalla clásico, sin malware, y obtuvo la misma calificación.

Conclusión: su virus es, por ende, indetectable.

BLOG