La Tienda GPT ensombrece la reputación de OpenAI (ChatGPT)

La Tienda GPT, hogar de los complementos de ChatGPT, se ve inundada por GPT peculiares y potencialmente infractores de derechos de autor, lo que demuestra una falta de moderación por parte de OpenAI.

Sam Altman presentó la Tienda GPT durante el OpenAI DevDay como un espacio que agrupa “GPTs”, estos complementos personalizados para ChatGPT, con el fin de mejorar el uso de la inteligencia artificial. Según lo admitió él mismo, también era posible “crear un GPT para casi cualquier cosa”. No estaba consciente de la magnitud de sus palabras.

De hecho, el sitio estadounidense TechCrunch exploró la Tienda GPT y encontró “cualquier cosa” entre todos estos GPT extraños, que potencialmente violan los derechos de autor, usurpan la identidad de personalidades o difunden spam. Todo ello refleja la evidente ausencia de moderación en la tienda.

A pesar de las vulnerabilidades de seguridad (ya corregidas) en estos GPT, que podrían haber comprometido los datos de millones de usuarios, a la tienda oficial de ChatGPT le hace falta una limpieza profunda.

La Tienda GPT, un auténtico bazar digital, está repleta de contenidos extraños, potencialmente ilegales y poco éticos.

La tienda se ha convertido en una cueva de Ali Baba de GPTs que explotan las lagunas en el sistema de revisión de OpenAI.

Por ejemplo, hay piratas de IA que se apropian de manera casual de personajes famosos de películas, series y videojuegos, infringiendo los derechos de autor de sus dueños. Recuérdese que la violación de derechos de autor ya había causado algunos problemas legales a OpenAI. Ejemplos notables incluyen un chatbot que crea monstruos al estilo de Monsters Inc. y otro que promete aventuras de texto en el universo de la saga Star Wars.

Las trampas también abundan en la tienda con complementos que prometen una reformulación “humana”, lo que permite efectivamente eludir los detectores de plagio o el uso de IA en su contenido. La usurpación de identidad avanza con GPTs que se hacen pasar por figuras públicas, generando potencialmente confusión y manipulación, como aquellos que imitan a Elon Musk, Donald Trump o actores famosos.

Finalmente, los “jailbreakers” permiten a los usuarios evadir las reglas de seguridad del propio ChatGPT, obteniendo respuestas a mensajes que la IA, sin embargo, ha prohibido, como lo hizo Microsoft con Copilot.

La Tienda GPT sigue un modelo económico frágil y enfrenta grandes desafíos

La Tienda GPT se inspira en el lucrativo modelo de la Apple App Store, que permite a los desarrolladores de GPTs obtener ingresos mediante su uso. A pesar de que todas las tiendas tuvieron comienzos similares, especialmente en sus inicios, el modelo económico de la Tienda GPT enfrenta muchos desafíos.

La plataforma sufre de una moderación deficiente, como lo demuestra la proliferación de contenidos que no cumplen con las normas de OpenAI. Esta brecha escandalosa pone en riesgo la credibilidad de la plataforma y deteriora la experiencia del usuario. La ausencia de controles rigurosos y sanciones disuasorias incentiva aún más los abusos y crea un ambiente caótico.

Según un informe de The Information, la falta de herramientas de análisis y una mala experiencia de integración están desincentivando a los desarrolladores de complementos de invertir en la plataforma de la Tienda GPT. La ausencia de datos concretos sobre el uso de los GPTs y de medios para monetizar eficazmente su trabajo los disuade de dedicar esfuerzos en la plataforma.

Finalmente, monetizar contenido potencialmente ilegal y poco ético plantea serios problemas de responsabilidad para OpenAI. La compañía se enfrenta a una elección crucial: ignorar estas prácticas y arriesgar su reputación o tomar medidas estrictas para asegurar la integridad de su plataforma. Entre ética y legalidad, hay que elegir.

BLOG