Los virus creados por Chat GPT hacen temblar a los expertos en seguridad
Un investigador de seguridad logró crear malware indetectable formulando preguntas a ChatGPT. Para eludir la seguridad de la Inteligencia Artificial, segmentó sus peticiones.
Esta es la pesadilla de cualquier editor de antivirus o gerente de seguridad de TI: que un virus se filtre e infecte un ordenador o incluso una red entera.
Esto es lo que se conoce como un ataque de “día cero”, y es aún más alarmante cuando el malware en cuestión es desconocido y descubrimos que fue creado por Inteligencia Artificial. Así lo demostró Aaron Mulgrew, un experto en ciberseguridad, quien logró crear un virus utilizando ChatGPT.
Por defecto, la Inteligencia Artificial de OpenAI está programada para no atender solicitudes malintencionadas, para prevenir que los hackers la utilicen para generar ciberataques.
Sin embargo, este investigador logró engañar a ChatGPT segmentando sus peticiones y evitando así que fueran bloqueadas. Por lo tanto, no se trataba de escribir: “¿Podrían desarrollarme malware oculto en una aplicación falsa?”.
En cambio, el investigador fue astuto y simplemente solicitó inicialmente a la Inteligencia Artificial que generara un código capaz de buscar una imagen en formato PNG de más de 5 MB en un disco local.
¿Por qué 5 MB? Porque es suficientemente grande como para contener un fragmento de un documento confidencial, ya sea un PDF o un documento de Word.
En minutos, ChatGPT realiza el trabajo de semanas
Posteriormente, este investigador pegó en la consola y pidió a ChatGPT que añadiera un código que codificara el PNG encontrado con esteganografía. Otro paso: debía crear un código que especificara las carpetas a las que debería dirigirse en la máquina infectada y el servidor donde se descargarían los archivos.
El experto solicitó que ChatGPT desarrollara código para buscar en las carpetas Documentos, Escritorio y AppData del usuario en busca de documentos PDF o documentos de Word. Finalmente, para la descarga, eligió Google Drive porque la nube de Google es frecuentemente utilizada en negocios y no está bloqueada por ningún firewall.
Lo único que restaba era compilar este malware y enviarlo a los editores de antivirus a través de la plataforma VirusTotal. ¿El resultado? Solo cinco de 69 editores consideraron sospechoso el programa creado por ChatGPT. ¡Lo que significa que más del 90% de los antivirus no lo detectaron! Pero este investigador quiso ir aún más allá y solicitó a ChatGPT que modificara el código sospechoso para hacerlo 100% indetectable. ¡Y lo consiguió!
El virus se oculta en un protector de pantalla
“Y ahí lo tenemos; hemos logrado nuestro Día Cero”, escribe Aaron Mulgrew.
“Simplemente usando las indicaciones de ChatGPT y sin escribir ningún código por nuestra parte, pudimos producir un ataque muy sofisticado en solo unas pocas horas. Estimo que el tiempo equivalente necesario sin un chatbot basado en IA podría llevarle a un equipo de entre 5 y 10 desarrolladores de malware algunas semanas, especialmente para evadir a todos los editores basados en la detección.”
Una vez conseguido esto al 100%, el investigador le solicitó a ChatGPT que escondiera este archivo en un ejecutable de Windows. Era imposible hacerlo en un programa con extensión .exe, así que optó por un protector de pantalla, que se activa cuando la pantalla está inactiva.
Cuando su archivo fue enviado a los antivirus, tres de 69 editores lo consideraron malicioso. Sorprendido por esta calificación, envió otro protector de pantalla clásico, sin malware, y obtuvo la misma calificación.
Conclusión: su virus es, por ende, indetectable.
BLOG
El uso indebido de ChatGPT perjudica el rendimiento académico y provoca pérdida de memoria
El uso generalizado de inteligencia artificial generativa, como ChatGPT, en el ámbito académico está generando preocupación creciente entre investigadores y educadores. Aunque muchos estudiantes consideran esta tecnología una solución rápida...
ChatGPT: La IA es más humana que algunos estudiantes, según demuestra este sorprendente estudio
Cuando se evalúan las capacidades de grandes modelos de lenguaje como ChatGPT, la mayoría de los estudios se centran en su habilidad para extraer información fáctica, ejecutar razonamientos lógicos o...
ChatGPT dice cualquier cosa sobre los internautas y es atacado
Se avecinan nuevos problemas para OpenAI, la empresa detrás de ChatGPT. El activista austriaco Max Schrems, conocido por su activismo contra los gigantes de internet en cuestiones de datos personales,...
La doble amenaza que ChatGPT representa para los secretos corporativos
Una vez que aprenden a usarlo, cada vez más empleados están utilizando ChatGPT para simplificar sus tareas, como responder correos electrónicos, preparar presentaciones o codificar software. Según Cyberhaven, una empresa...
ChatGPT presenta una nueva característica interesante… de la cual Europa se ve privada
ChatGPT finalmente incorporará la función de “memoria”. Esta característica, útil para recordar detalles sobre usted, lamentablemente no estará disponible en Europa. OpenAI lo anunció y ya es una realidad: ChatGPT...
Quejas sobre ‘ChatGPT’: la CNPD recuerda los principios básicos
La CNPD no tiene previsto pronunciarse sobre la decisión de la autoridad italiana respecto al uso de ChatGPT. A medida que las quejas aumentan, señala que correspondería al regulador irlandés...