Cómo funciona Voice Engine y su seguridad

OpenAI ha ofrecido una visión detallada del funcionamiento de su modelo de conversión de texto a voz, Voice Engine, y de sus investigaciones de seguridad relacionadas.

Este modelo avanzado puede generar audio realista a partir de texto con una muestra de voz de solo 15 segundos. Desarrollado desde finales de 2022, Voice Engine se ha integrado en el Modo de Voz de ChatGPT desde septiembre de 2023 y en una API limitada para desarrolladores en noviembre de 2023. La tecnología promete transformar la interacción con IA al proporcionar voces naturales y adaptables.

Desarrollo y aplicaciones del modelo

Voice Engine ha pasado por diversas etapas de desarrollo y pruebas internas rigurosas. Estas pruebas iniciales ayudaron a ajustar sus capacidades y límites, además de informar a los responsables de políticas sobre los posibles riesgos asociados con la voz sintética. Las voces generadas fueron creadas a partir de actores profesionales, asegurando una alta calidad en las producciones. Estas voces se emplearon en despliegues controlados para evaluar su impacto y posibles aplicaciones en entornos reales.

Construcción segura del motor de voz

OpenAI ha trabajado estrechamente con socios internacionales para incorporar comentarios y garantizar la seguridad del Voice Engine. Los socios deben adherirse a políticas de uso que prohíben la suplantación de identidad sin consentimiento y exigen la divulgación de voces generadas por IA. Las medidas de seguridad incluyen la implementación de marcas de agua en las voces generadas y la monitorización activa de su uso. Además, la empresa ha establecido estrictas políticas de uso para evitar el mal uso de la tecnología y promover la transparencia.

Colaboración internacional y mejoras continuas

La colaboración con diferentes sectores y reguladores ha sido fundamental para el desarrollo y la implementación segura del Voice Engine. OpenAI continúa ajustando la tecnología basándose en los comentarios recibidos y en las investigaciones realizadas. Este enfoque colaborativo ha permitido abordar preocupaciones y mejorar continuamente la seguridad y la eficacia del modelo. La empresa se compromete a seguir trabajando con expertos y reguladores para garantizar que la tecnología se utilice de manera ética y responsable.

Fuente: Open AI