GPT-4 puede piratear sitios web bajo demanda y esto no gusta en absoluto a OpenAI

“Ya ni siquiera es necesario ser un hacker para hackear determinados sitios web. Según New Scientist, ahora solo tenemos que pedirle a GPT-4 que lo haga por nosotros. Recordemos que este modelo de lenguaje multimodal, desarrollado por la empresa OpenAI, sucedió al GPT-3 el 14 de marzo de 2023. Y es, evidentemente, un auténtico pequeño pirata en potencia.

“No es necesario saber nada al respecto”, dice Daniel Kang, profesor de informática de la Universidad de Illinois en Urbana-Champaign. El grado de experiencia requerido se reduce a simplemente saber utilizar estos modelos de lenguaje con suficiente malicia”. Con cuatro colegas investigadores, este especialista en aprendizaje automático probó diez modelos de inteligencia artificial (IA), incluidos GPT-4, GPT-3.5 y algunos de sus equivalentes de código abierto y disponibles gratuitamente (en particular, el modelo de lenguaje Llama del grupo).

Inicialmente, estos modelos de IA fueron diseñados para responder a comandos escritos y enviados por usuarios humanos. Sin embargo, al modificar algunas versiones accesibles al público en general (y especialmente a los desarrolladores), el equipo de investigación logró que pudieran interactuar con navegadores web, leer documentos sobre los principios del pirateo informático y planificar ataques contra ciertos sitios web.

OpenAI y Microsoft lucen sombríos

Luego sometieron estos modelos a quince desafíos, clasificados en orden creciente de dificultad, para ver de qué eran capaces ahora en términos de piratería. La mayoría de ellos fracasaron por completo y por lo tanto no pasarán a la siguiente clase, pero uno de los estudiantes, por el contrario, destacó por su capacidad para superar una gran cantidad de desafíos. De hecho, GPT-4 obtuvo una puntuación de once éxitos de quince (es decir, una tasa de éxito del 73%).

El objetivo no es piratear sitios, especifica Daniel Kang, sino probar posibles fallos de seguridad, a un coste menor. Utilizar GPT-4 para este fin sería ocho veces menos costoso que contratar a un analista especialista en ciberseguridad. ¿Un paso más para sustituir a los humanos por la IA en determinados sectores profesionales?

Además, New Scientist recuerda que OpenAI y Microsoft trabajaron mano a mano para formar un frente común contra grupos de hackers rusos, iraníes e incluso norcoreanos, que utilizaban herramientas de OpenAI, como ChatGPT, para encontrar más información sobre sus objetivos potenciales y mejorar la codificación de su malware.

El equipo de investigadores de la Universidad de Illinois también se puso en contacto con OpenAI para enviarle los resultados de su investigación, pero la empresa de Sam Altman no reaccionó oficialmente y no respondió a las solicitudes de New Scientist. Hay que decir que el desempeño insospechado de GPT-4 en el lado de la piratería es confuso, ya que contradice las declaraciones conjuntas de OpenAI y Microsoft, que describen sus modelos como “que ofrecen solo soluciones limitadas” a quienes quisieran utilizarlos en ciberataques.

Califica Esta Página

BLOG