La Tienda GPT mancha la reputación de OpenAI (ChatGPT)

La Tienda GPT, el hogar de los complementos de ChatGPT, se encuentra inundada de GPTs extraños y potencialmente infractores de derechos de autor, revelando una falta de moderación por parte de OpenAI.

Sam Altman presentó la Tienda GPT durante el OpenAI DevDay como un lugar que agrupa a los “GPT”, estos complementos personalizados para ChatGPT, con el fin de mejorar la utilización de la inteligencia artificial. Según él, también era posible “crear un GPT para casi cualquier cosa”. No creía que lo estuviera diciendo correctamente.

De hecho, el sitio estadounidense TechCrunch exploró el motor de la Tienda GPT y encontró “de todo” entre estos GPTs extraños, que potencialmente violan derechos de autor, usurpan la identidad de personalidades o difunden spam. Esto refleja la evidente ausencia de moderación en la tienda.

A pesar de las vulnerabilidades de seguridad (ya corregidas) en estos GPTs, que podrían haber comprometido los datos de millones de usuarios, a la tienda oficial de ChatGPT le vendría bien una exhaustiva limpieza de primavera.

La Tienda GPT, un verdadero bazar digital, lleno de contenidos extraños, potencialmente ilegales y poco éticos.

La tienda GPT es una cueva de Alí Babá de GPTs que explotan las lagunas en el sistema de revisión de OpenAI.

Hay, por ejemplo, piratas de IA que se apropian casualmente de personajes conocidos de películas, series y videojuegos, infringiendo los derechos de autor de sus propietarios. Recordemos que la violación de derechos de autor ya ha causado problemas legales a OpenAI. Ejemplos notables incluyen un chatbot que crea monstruos al estilo de Monsters Inc. y otro que promete aventuras de texto en el universo de la saga de Star Wars.

El engaño también está presente en los estantes de la tienda con complementos que prometen reformulaciones humanas, permitiendo eludir los detectores de plagio o el uso de IA en sus contenidos. El robo de identidad avanza con GPTs que se hacen pasar por figuras públicas, lo que podría causar confusión y manipulación, como aquellos que imitan a Elon Musk, Donald Trump o actores famosos.

Finalmente, los “jailbreakers” permiten a los usuarios evadir las reglas de seguridad de ChatGPT, obteniendo respuestas a mensajes que la propia IA había prohibido, similar a lo que hizo Microsoft con Copilot.

La Tienda GPT se basa en un modelo económico frágil que enfrenta grandes desafíos.

La Tienda GPT sigue el modelo del lucrativo Apple App Store, que permite a los desarrolladores de GPT ganar dinero mediante su uso. A pesar de que todas las tiendas tuvieron comienzos similares, específicamente en sus inicios, el modelo económico de la Tienda GPT enfrenta numerosos obstáculos.

La plataforma sufre de una moderación deficiente, evidenciada por la simple proliferación de contenidos que no cumplen con las normas de OpenAI. Esta brecha escandalosa pone en riesgo la credibilidad de la plataforma y deteriora la experiencia del usuario. La falta de controles estrictos y sanciones disuasorias promueve aún más los abusos y crea un ambiente caótico.

Según un informe de The Information, la falta de herramientas de análisis y una mala experiencia de incorporación están frenando el atractivo de la Tienda GPT para los desarrolladores de complementos. La ausencia de datos concretos sobre el uso de GPT y medios para monetizar eficientemente su trabajo los desanima de invertir en la plataforma.

Finalmente, monetizar contenido potencialmente ilegal y poco ético plantea graves problemas de responsabilidad para OpenAI. La empresa se enfrenta a una decisión crucial: ignorar estas prácticas y arriesgar su reputación, o tomar medidas estrictas para garantizar la integridad de su plataforma. Entre ética o legalidad, hay que decidir.

Califica Esta Página

BLOG