Voicebox, la AI del habla que no se podrá usar
Meta, la empresa de Mark Zuckerberg, introduce Voicebox, una nueva herramienta de AI generativa del habla que puede marcar un antes y un después en las pistas de audio. Pero tal y como cuentan en su propio comunicado, no será de acceso público y no se podrá usar dado que “esta tecnología tiene potencial de un uso indebido y de daño no intencionado”.
La nueva AI de la voz
Del mismo modo que encontramos herramientas AI que generan imágenes o textos en base a lo que el usuario solicita, este sistema funcionaría del mismo modo pero generando clips de audio. Además, es capaz de hacerlo en seis idiomas diferentes. También puede eliminar sonidos de fondo (por ejemplo un claxon o un ladrido) sin afectar a la calidad de la pista principal, editar el contenido y el estilo de una pista de voz (cambiar palabras o el tono), entre otras cosas.
Se define como una herramienta multipropósito, con una gran versatilidad y potencial, llegando a dar voces naturales a asistentes virtuales o aplicarse a personajes en el metaverso. También puede ayudar a las personas con discapacidad visual a escuchar textos transcritos con la voz de las personas que le escriben.
¿Por qué esta AI no se puede usar?
Es ese mismo potencial que provoca que el propio Meta no le dé acceso al público general a causa del mal uso que se podría llegar a hacer, ya que, por ejemplo, puede duplicar tu voz y hacer que “digas” una frase que tú nunca hayas pronunciado gracias a un simple audio de WhatsApp (no es necesario que dure mucho tiempo). Suplantar la identidad de una persona a través de una voz sería una tarea relativamente sencilla para las personas que quieren usarlo de forma fraudulenta. Además, dado que hoy en día las estafas telefónicas están creciendo, esta herramienta podría facilitar el trabajo.
Por todos estos motivos, Meta comparte la investigación y los resultados de esta herramienta con la comunidad, pero no la pone a disposición del público hasta que no se mejore y se averigüe una forma de gestionar y controlar estos posibles usos maliciosos.
Si quieres conocer más tendencias como esta, no dudes en pasarte por nuestro Blog. Además, también nos puedes seguir en todas nuestras redes sociales (Instagram, Facebook, Twitter y LinkedIn).
