IA: OpenAI, la empresa matriz de ChatGPT, introduce una herramienta de clonación de voz

“Denominado “Voice Engine”, este modelo de inteligencia artificial (IA) puede reproducir la voz de una persona a partir de una muestra de audio de 15 segundos, según un comunicado de prensa de OpenAI sobre los resultados de una prueba a pequeña escala.

OpenAI, líder en inteligencia artificial generativa (IA) y desarrollador de ChatGPT, presentó el viernes una herramienta de clonación de voz cuyo uso estará restringido para prevenir fraudes o delitos, como el robo de identidad. Este modelo de IA, conocido como “Voice Engine”, puede reproducir la voz de una persona a partir de una muestra de audio de 15 segundos, según un comunicado de prensa de OpenAI sobre los resultados de una prueba a pequeña escala.

Temores de mal uso

“Reconocemos que la capacidad de generar voces similares a las humanas conlleva riesgos significativos, especialmente en este año electoral”, declaró la empresa con sede en San Francisco. “Estamos colaborando con socios gubernamentales estadounidenses e internacionales, medios de comunicación, entretenimiento, educación, sociedad civil y otros sectores, teniendo en cuenta sus opiniones mientras desarrollamos la herramienta”.

En este año electoral crucial a nivel mundial, los investigadores de desinformación temen el mal uso de aplicaciones de IA generativa (producción automatizada de textos, imágenes, etc.) y, en particular, de herramientas de clonación de voz, que son baratas, fáciles de usar y difíciles de rastrear. OpenAI aseguró haber adoptado “un enfoque cauteloso e informado” antes de distribuir más ampliamente la nueva herramienta “debido al potencial de uso indebido de voces sintéticas”.

Esta presentación cautelosa sigue a un incidente político importante, cuando un consultor que trabajaba para la campaña presidencial de un rival demócrata de Joe Biden desarrolló un programa automatizado que se hacía pasar por el presidente estadounidense, que hacía campaña para su reelección. La voz que imitaba a Joe Biden pidió a los votantes que los alienten a abstenerse en las primarias de New Hampshire.

Reglas explícitas y estrictas

Desde entonces, Estados Unidos ha prohibido las llamadas que utilizan voces clonadas, generadas por IA, para combatir estafas políticas o comerciales. OpenAI aclaró que los socios que prueban “Voice Engine” acordaron reglas que exigen, entre otras cosas, el consentimiento explícito e informado de cualquier persona cuya voz esté duplicada y transparencia para los oyentes: deben tener claro que las voces que escuchan son generadas por IA.

“Hemos implementado un conjunto de medidas de seguridad, incluida una marca de agua para rastrear el origen de todo el sonido generado por Voice Engine, así como un seguimiento proactivo de su uso”, insistió OpenAI. En octubre pasado, la Casa Blanca dio a conocer reglas y principios para regular el desarrollo de la IA, incluido el de la transparencia. La idea de que los delincuentes pudieran utilizarla para atrapar personas haciéndose pasar por miembros de su familia preocupó a Joe Biden.

BLOG