Entre las compañías que pueden aprovechar esta tecnología se encuentran empresas de tecnología educativa, plataformas de narración visual y sistemas de salud, entre otros
La empresa de inteligencia artificial (IA) OpenAI ha revelado que posee la capacidad de clonar voces humanas a través de su modelo Voice Engine, el cual puede reproducir un sonido natural y emotivo utilizando una muestra de apenas 15 segundos.
Sin embargo, a pesar de este avance tecnológico, la compañía ha decidido no lanzar esta tecnología al público general debido a los riesgos que conlleva.
Potencial de “Voice Engine”: voces sintéticas “emotivas y realistas”
Voice Engine representa un nuevo hito en el desarrollo de inteligencia artificial, siendo capaz de convertir texto en voz para crear voces sintéticas que, según OpenAI, mantienen la emotividad y el realismo del habla humano.
Esta tecnología podría tener aplicaciones diversas, desde permitir a los creadores de contenido traducir su trabajo conservando sus acentos nativos hasta ayudar a personas con dificultades de comunicación verbal.
Limitaciones en el acceso a la tecnología
Aunque Voice Engine promete una amplia gama de beneficios potenciales, OpenAI ha decidido restringir su acceso, limitándolo a un grupo selecto de empresas.
Entre las compañías que pueden aprovechar esta tecnología se encuentran empresas de tecnología educativa, plataformas de narración visual y sistemas de salud, entre otros.
Esta medida se ha tomado como parte de un enfoque cauteloso para evitar posibles abusos de la voz sintética generada por IA.
Desafíos y medidas de seguridad
El uso indebido de la tecnología de clonación de voces representa uno de los principales desafíos. OpenAI ha implementado diversas medidas de seguridad, como marcas de agua para rastrear el origen del audio generado por Voice Engine y un monitoreo proactivo de su uso.
Además, las empresas que acceden a esta tecnología deben comprometerse a seguir las políticas de uso establecidas por OpenAI, que incluyen obtener el consentimiento de las personas cuyas voces se utilizarán y informar a los usuarios cuando interactúen con voces sintéticas.
La preocupación por el uso indebido de voces sintéticas generadas por IA es palpable, especialmente en el contexto de eventos electorales como en Estados Unidos, donde ya se han reportado casos de llamadas automáticas con voces clonadas de políticos prominentes.
Además, existe el riesgo de que los estafadores utilicen estas voces sintéticas para acceder a cuentas bancarias que emplean autenticación por voz.
A pesar de los beneficios potenciales de la tecnología de clonación de voces, OpenAI ha optado por proceder con precaución, reconociendo los riesgos asociados y trabajando para mitigar su posible abuso.
Fuente: mundoejecutivo.com.mx