GPT-4 puede piratear sitios web bajo demanda y esto no gusta en absoluto a OpenAI
“Ya ni siquiera es necesario ser un hacker para hackear determinados sitios web. Según New Scientist, ahora solo tenemos que pedirle a GPT-4 que lo haga por nosotros. Recordemos que este modelo de lenguaje multimodal, desarrollado por la empresa OpenAI, sucedió al GPT-3 el 14 de marzo de 2023. Y es, evidentemente, un auténtico pequeño pirata en potencia.
“No es necesario saber nada al respecto”, dice Daniel Kang, profesor de informática de la Universidad de Illinois en Urbana-Champaign. El grado de experiencia requerido se reduce a simplemente saber utilizar estos modelos de lenguaje con suficiente malicia”. Con cuatro colegas investigadores, este especialista en aprendizaje automático probó diez modelos de inteligencia artificial (IA), incluidos GPT-4, GPT-3.5 y algunos de sus equivalentes de código abierto y disponibles gratuitamente (en particular, el modelo de lenguaje Llama del grupo).
Inicialmente, estos modelos de IA fueron diseñados para responder a comandos escritos y enviados por usuarios humanos. Sin embargo, al modificar algunas versiones accesibles al público en general (y especialmente a los desarrolladores), el equipo de investigación logró que pudieran interactuar con navegadores web, leer documentos sobre los principios del pirateo informático y planificar ataques contra ciertos sitios web.
OpenAI y Microsoft lucen sombríos
Luego sometieron estos modelos a quince desafíos, clasificados en orden creciente de dificultad, para ver de qué eran capaces ahora en términos de piratería. La mayoría de ellos fracasaron por completo y por lo tanto no pasarán a la siguiente clase, pero uno de los estudiantes, por el contrario, destacó por su capacidad para superar una gran cantidad de desafíos. De hecho, GPT-4 obtuvo una puntuación de once éxitos de quince (es decir, una tasa de éxito del 73%).
El objetivo no es piratear sitios, especifica Daniel Kang, sino probar posibles fallos de seguridad, a un coste menor. Utilizar GPT-4 para este fin sería ocho veces menos costoso que contratar a un analista especialista en ciberseguridad. ¿Un paso más para sustituir a los humanos por la IA en determinados sectores profesionales?
Además, New Scientist recuerda que OpenAI y Microsoft trabajaron mano a mano para formar un frente común contra grupos de hackers rusos, iraníes e incluso norcoreanos, que utilizaban herramientas de OpenAI, como ChatGPT, para encontrar más información sobre sus objetivos potenciales y mejorar la codificación de su malware.
El equipo de investigadores de la Universidad de Illinois también se puso en contacto con OpenAI para enviarle los resultados de su investigación, pero la empresa de Sam Altman no reaccionó oficialmente y no respondió a las solicitudes de New Scientist. Hay que decir que el desempeño insospechado de GPT-4 en el lado de la piratería es confuso, ya que contradice las declaraciones conjuntas de OpenAI y Microsoft, que describen sus modelos como “que ofrecen solo soluciones limitadas” a quienes quisieran utilizarlos en ciberataques.
BLOG
![El uso indebido de ChatGPT perjudica el rendimiento académico y provoca pérdida de memoria](https://chatgptespanolgratis.com/wp-content/uploads/2024/05/El-uso-indebido-de-ChatGPT-perjudica-el-rendimiento-academico-y-provoca-perdida-de-memoria-768x433.jpg)
El uso indebido de ChatGPT perjudica el rendimiento académico y provoca pérdida de memoria
El uso generalizado de inteligencia artificial generativa, como ChatGPT, en el ámbito académico está generando preocupación creciente entre investigadores y educadores. Aunque muchos estudiantes consideran esta tecnología una solución rápida...
![ChatGPT: La IA es más humana que algunos estudiantes, según demuestra este sorprendente estudio](https://chatgptespanolgratis.com/wp-content/uploads/2024/05/ChatGPT-La-IA-es-mas-humana-que-algunos-estudiantes-segun-demuestra-este-sorprendente-estudio-768x433.jpg)
ChatGPT: La IA es más humana que algunos estudiantes, según demuestra este sorprendente estudio
Cuando se evalúan las capacidades de grandes modelos de lenguaje como ChatGPT, la mayoría de los estudios se centran en su habilidad para extraer información fáctica, ejecutar razonamientos lógicos o...
![La doble amenaza que ChatGPT representa para los secretos corporativos](https://chatgptespanolgratis.com/wp-content/uploads/2024/04/La-doble-amenaza-que-ChatGPT-representa-para-los-secretos-corporativos-768x433.jpg)
La doble amenaza que ChatGPT representa para los secretos corporativos
Una vez que aprenden a usarlo, cada vez más empleados están utilizando ChatGPT para simplificar sus tareas, como responder correos electrónicos, preparar presentaciones o codificar software. Según Cyberhaven, una empresa...
![La inteligencia artificial de código abierto: una solución adaptativa y segura](https://chatgptespanolgratis.com/wp-content/uploads/2024/03/La-inteligencia-artificial-de-codigo-abierto-una-solucion-adaptativa-y-segura-768x433.jpg)
La inteligencia artificial de código abierto: una solución adaptativa y segura
Un artículo de Le Monde nos alertó el 13/02: ¡las IA están fallando! Esas IA, que generaron tanto entusiasmo y excitación al principio, ¿necesitan ahora que tomemos distancia? ¿Existen riesgos...
![ChatGPT dice cualquier cosa sobre los internautas y es atacado](https://chatgptespanolgratis.com/wp-content/uploads/2024/05/ChatGPT-dice-cualquier-cosa-sobre-los-internautas-y-es-atacado-768x433.jpg)
ChatGPT dice cualquier cosa sobre los internautas y es atacado
Se avecinan nuevos problemas para OpenAI, la empresa detrás de ChatGPT. El activista austriaco Max Schrems, conocido por su activismo contra los gigantes de internet en cuestiones de datos personales,...
![ChatGPT, una novedosa herramienta de escritura en el escenario político](https://chatgptespanolgratis.com/wp-content/uploads/2024/03/ChatGPT-una-novedosa-herramienta-de-escritura-en-el-escenario-politico-768x433.png)
ChatGPT, una novedosa herramienta de escritura en el escenario político
ChatGPT ha irrumpido en el ámbito académico y profesional, y ahora se adentra en el terreno político: los políticos lo utilizan para elaborar discursos y legislación, y algunos incluso aspiran...