La Tienda GPT mancha la reputación de OpenAI (ChatGPT)
La Tienda GPT, el hogar de los complementos de ChatGPT, se encuentra inundada de GPTs extraños y potencialmente infractores de derechos de autor, revelando una falta de moderación por parte de OpenAI.
Sam Altman presentó la Tienda GPT durante el OpenAI DevDay como un lugar que agrupa a los “GPT”, estos complementos personalizados para ChatGPT, con el fin de mejorar la utilización de la inteligencia artificial. Según él, también era posible “crear un GPT para casi cualquier cosa”. No creía que lo estuviera diciendo correctamente.
De hecho, el sitio estadounidense TechCrunch exploró el motor de la Tienda GPT y encontró “de todo” entre estos GPTs extraños, que potencialmente violan derechos de autor, usurpan la identidad de personalidades o difunden spam. Esto refleja la evidente ausencia de moderación en la tienda.
A pesar de las vulnerabilidades de seguridad (ya corregidas) en estos GPTs, que podrían haber comprometido los datos de millones de usuarios, a la tienda oficial de ChatGPT le vendría bien una exhaustiva limpieza de primavera.
La Tienda GPT, un verdadero bazar digital, lleno de contenidos extraños, potencialmente ilegales y poco éticos.
La tienda GPT es una cueva de Alí Babá de GPTs que explotan las lagunas en el sistema de revisión de OpenAI.
Hay, por ejemplo, piratas de IA que se apropian casualmente de personajes conocidos de películas, series y videojuegos, infringiendo los derechos de autor de sus propietarios. Recordemos que la violación de derechos de autor ya ha causado problemas legales a OpenAI. Ejemplos notables incluyen un chatbot que crea monstruos al estilo de Monsters Inc. y otro que promete aventuras de texto en el universo de la saga de Star Wars.
El engaño también está presente en los estantes de la tienda con complementos que prometen reformulaciones humanas, permitiendo eludir los detectores de plagio o el uso de IA en sus contenidos. El robo de identidad avanza con GPTs que se hacen pasar por figuras públicas, lo que podría causar confusión y manipulación, como aquellos que imitan a Elon Musk, Donald Trump o actores famosos.
Finalmente, los “jailbreakers” permiten a los usuarios evadir las reglas de seguridad de ChatGPT, obteniendo respuestas a mensajes que la propia IA había prohibido, similar a lo que hizo Microsoft con Copilot.
La Tienda GPT se basa en un modelo económico frágil que enfrenta grandes desafíos.
La Tienda GPT sigue el modelo del lucrativo Apple App Store, que permite a los desarrolladores de GPT ganar dinero mediante su uso. A pesar de que todas las tiendas tuvieron comienzos similares, específicamente en sus inicios, el modelo económico de la Tienda GPT enfrenta numerosos obstáculos.
La plataforma sufre de una moderación deficiente, evidenciada por la simple proliferación de contenidos que no cumplen con las normas de OpenAI. Esta brecha escandalosa pone en riesgo la credibilidad de la plataforma y deteriora la experiencia del usuario. La falta de controles estrictos y sanciones disuasorias promueve aún más los abusos y crea un ambiente caótico.
Según un informe de The Information, la falta de herramientas de análisis y una mala experiencia de incorporación están frenando el atractivo de la Tienda GPT para los desarrolladores de complementos. La ausencia de datos concretos sobre el uso de GPT y medios para monetizar eficientemente su trabajo los desanima de invertir en la plataforma.
Finalmente, monetizar contenido potencialmente ilegal y poco ético plantea graves problemas de responsabilidad para OpenAI. La empresa se enfrenta a una decisión crucial: ignorar estas prácticas y arriesgar su reputación, o tomar medidas estrictas para garantizar la integridad de su plataforma. Entre ética o legalidad, hay que decidir.
BLOG
El uso indebido de ChatGPT perjudica el rendimiento académico y provoca pérdida de memoria
El uso generalizado de inteligencia artificial generativa, como ChatGPT, en el ámbito académico está generando preocupación creciente entre investigadores y educadores. Aunque muchos estudiantes consideran esta tecnología una solución rápida...
ChatGPT: La IA es más humana que algunos estudiantes, según demuestra este sorprendente estudio
Cuando se evalúan las capacidades de grandes modelos de lenguaje como ChatGPT, la mayoría de los estudios se centran en su habilidad para extraer información fáctica, ejecutar razonamientos lógicos o...
ChatGPT dice cualquier cosa sobre los internautas y es atacado
Se avecinan nuevos problemas para OpenAI, la empresa detrás de ChatGPT. El activista austriaco Max Schrems, conocido por su activismo contra los gigantes de internet en cuestiones de datos personales,...
La doble amenaza que ChatGPT representa para los secretos corporativos
Una vez que aprenden a usarlo, cada vez más empleados están utilizando ChatGPT para simplificar sus tareas, como responder correos electrónicos, preparar presentaciones o codificar software. Según Cyberhaven, una empresa...
ChatGPT presenta una nueva característica interesante… de la cual Europa se ve privada
ChatGPT finalmente incorporará la función de “memoria”. Esta característica, útil para recordar detalles sobre usted, lamentablemente no estará disponible en Europa. OpenAI lo anunció y ya es una realidad: ChatGPT...
Quejas sobre ‘ChatGPT’: la CNPD recuerda los principios básicos
La CNPD no tiene previsto pronunciarse sobre la decisión de la autoridad italiana respecto al uso de ChatGPT. A medida que las quejas aumentan, señala que correspondería al regulador irlandés...