La Tienda GPT mancha la reputación de OpenAI (ChatGPT)
La Tienda GPT, el hogar de los complementos de ChatGPT, se encuentra inundada de GPTs extraños y potencialmente infractores de derechos de autor, revelando una falta de moderación por parte de OpenAI.
Sam Altman presentó la Tienda GPT durante el OpenAI DevDay como un lugar que agrupa a los “GPT”, estos complementos personalizados para ChatGPT, con el fin de mejorar la utilización de la inteligencia artificial. Según él, también era posible “crear un GPT para casi cualquier cosa”. No creía que lo estuviera diciendo correctamente.
De hecho, el sitio estadounidense TechCrunch exploró el motor de la Tienda GPT y encontró “de todo” entre estos GPTs extraños, que potencialmente violan derechos de autor, usurpan la identidad de personalidades o difunden spam. Esto refleja la evidente ausencia de moderación en la tienda.
A pesar de las vulnerabilidades de seguridad (ya corregidas) en estos GPTs, que podrían haber comprometido los datos de millones de usuarios, a la tienda oficial de ChatGPT le vendría bien una exhaustiva limpieza de primavera.
La Tienda GPT, un verdadero bazar digital, lleno de contenidos extraños, potencialmente ilegales y poco éticos.
La tienda GPT es una cueva de Alí Babá de GPTs que explotan las lagunas en el sistema de revisión de OpenAI.
Hay, por ejemplo, piratas de IA que se apropian casualmente de personajes conocidos de películas, series y videojuegos, infringiendo los derechos de autor de sus propietarios. Recordemos que la violación de derechos de autor ya ha causado problemas legales a OpenAI. Ejemplos notables incluyen un chatbot que crea monstruos al estilo de Monsters Inc. y otro que promete aventuras de texto en el universo de la saga de Star Wars.
El engaño también está presente en los estantes de la tienda con complementos que prometen reformulaciones humanas, permitiendo eludir los detectores de plagio o el uso de IA en sus contenidos. El robo de identidad avanza con GPTs que se hacen pasar por figuras públicas, lo que podría causar confusión y manipulación, como aquellos que imitan a Elon Musk, Donald Trump o actores famosos.
Finalmente, los “jailbreakers” permiten a los usuarios evadir las reglas de seguridad de ChatGPT, obteniendo respuestas a mensajes que la propia IA había prohibido, similar a lo que hizo Microsoft con Copilot.
La Tienda GPT se basa en un modelo económico frágil que enfrenta grandes desafíos.
La Tienda GPT sigue el modelo del lucrativo Apple App Store, que permite a los desarrolladores de GPT ganar dinero mediante su uso. A pesar de que todas las tiendas tuvieron comienzos similares, específicamente en sus inicios, el modelo económico de la Tienda GPT enfrenta numerosos obstáculos.
La plataforma sufre de una moderación deficiente, evidenciada por la simple proliferación de contenidos que no cumplen con las normas de OpenAI. Esta brecha escandalosa pone en riesgo la credibilidad de la plataforma y deteriora la experiencia del usuario. La falta de controles estrictos y sanciones disuasorias promueve aún más los abusos y crea un ambiente caótico.
Según un informe de The Information, la falta de herramientas de análisis y una mala experiencia de incorporación están frenando el atractivo de la Tienda GPT para los desarrolladores de complementos. La ausencia de datos concretos sobre el uso de GPT y medios para monetizar eficientemente su trabajo los desanima de invertir en la plataforma.
Finalmente, monetizar contenido potencialmente ilegal y poco ético plantea graves problemas de responsabilidad para OpenAI. La empresa se enfrenta a una decisión crucial: ignorar estas prácticas y arriesgar su reputación, o tomar medidas estrictas para garantizar la integridad de su plataforma. Entre ética o legalidad, hay que decidir.
BLOG
El uso indebido de ChatGPT perjudica el rendimiento académico y provoca pérdida de memoria
El uso generalizado de inteligencia artificial generativa, como ChatGPT, en el ámbito académico está generando preocupación creciente entre investigadores y educadores. Aunque muchos estudiantes consideran esta tecnología una solución rápida...
ChatGPT: La IA es más humana que algunos estudiantes, según demuestra este sorprendente estudio
Cuando se evalúan las capacidades de grandes modelos de lenguaje como ChatGPT, la mayoría de los estudios se centran en su habilidad para extraer información fáctica, ejecutar razonamientos lógicos o...
La inteligencia artificial de código abierto: una solución adaptativa y segura
Un artículo de Le Monde nos alertó el 13/02: ¡las IA están fallando! Esas IA, que generaron tanto entusiasmo y excitación al principio, ¿necesitan ahora que tomemos distancia? ¿Existen riesgos...
ChatGPT, una novedosa herramienta de escritura en el escenario político
ChatGPT ha irrumpido en el ámbito académico y profesional, y ahora se adentra en el terreno político: los políticos lo utilizan para elaborar discursos y legislación, y algunos incluso aspiran...
En una gira mundial destinada a calmar las preocupaciones sobre la IA, el creador de ChatGPT critica a la UE
Desde Brasil hasta Nigeria y desde Europa hasta Asia, Sam Altman, líder de OpenAI y mente detrás de ChatGPT, está llevando a cabo un recorrido global con el objetivo de...
La doble amenaza que ChatGPT representa para los secretos corporativos
Una vez que aprenden a usarlo, cada vez más empleados están utilizando ChatGPT para simplificar sus tareas, como responder correos electrónicos, preparar presentaciones o codificar software. Según Cyberhaven, una empresa...