Asistente de voz de ChatGPT sorprende y plantea desafíos
¿Conoces cuáles son los desafíos a la seguridad que representa el asistente de voz de ChatGPT?, hace unos meses, OpenAI volvió a sorprender al mundo con el lanzamiento de GPT-4, su último modelo de lenguaje de IA.
No solo destacó por su rapidez y su capacidad de procesamiento, sino también por las innovadoras funcionalidades que añadió a sus aplicaciones para dispositivos móviles y ordenadores. Una de las más impresionantes es la posibilidad de mantener una conversación fluida en lenguaje natural mediante la voz, captando todo lo que se le muestra a través de la cámara.
Nuevas funcionalidades y disponibilidad
Este innovador asistente de voz de ChatGPT ya ha comenzado a llegar a algunos usuarios de ChatGPT Plus. Los usuarios del plan gratuito también han podido experimentar varias novedades a través de la app de ChatGPT, como la capacidad de mostrarle imágenes a la IA para que las procese y responda sobre cualquier tema, además de enviar documentos y más.
Clonación de voz y preocupaciones de seguridad
Uno de los aspectos más destacados y, a la vez, preocupantes de este asistente de voz de ChatGPT es su capacidad para clonar la voz de los usuarios. OpenAI ha admitido que, en determinadas circunstancias, la IA podría imitar la voz de la persona que está utilizando la aplicación. Este hallazgo ha generado serias preocupaciones en términos de seguridad y privacidad, ya que podría llevar a problemas de suplantación de identidad y estafas.
El modelo GPT-4 produce su voz mediante una serie de instrucciones internas que guían a la aplicación sobre cómo debe responder durante las interacciones con el usuario. Para la síntesis de voz, el sistema se basa en muestras de voz proporcionadas por la compañía. Sin embargo, a pesar de que este sistema sirve de guía, no es perfecto. La habilidad del asistente de voz de ChatGPT para sintetizar voces a través de breves clips de audio hace que, en determinadas circunstancias, pueda incluso clonar la voz del usuario.
Ejemplos y medidas de seguridad
TAMBIÉN TE PUEDE INTERESAR: Asistente de voz con inteligencia artificial en WhatsApp
El audio presentado por OpenAI es un claro ejemplo de cómo el asistente de voz de ChatGPT puede, tras un rato de conversación, responder a la persona con una voz idéntica a la suya. En un caso particular, después de que la IA interviene con un «No», el asistente clona la voz del usuario para responderle, demostrando cómo ChatGPT podría generar voces de manera no autorizada.
OpenAI explicó en su informe que la generación de voz también puede producirse en situaciones no adversas, como cuando utilizan esta capacidad para crear voces en el modo avanzado de ChatGPT. Durante las pruebas, también se observaron casos aislados en los que el modelo generaba involuntariamente respuestas que imitaban la voz del usuario.
«Aunque la generación involuntaria de voz sigue existiendo como punto débil del modelo, utilizamos clasificadores secundarios para asegurarnos de que la conversación se interrumpe si esto ocurre, minimizando el riesgo de generación involuntaria de voz», continuaba la compañía.
Mejoras y futuro del asistente de voz de ChatGPT
OpenAI ha trabajado en mejorar su sistema para evitar que este tipo de situaciones ocurran. A pesar de que ahora el riesgo sea mínimo, no sería la primera vez que los usuarios emplean algún prompt muy elaborado para hacer que ChatGPT realice tareas para las que no ha sido diseñado.
En conclusión, el asistente de voz de ChatGPT ha revolucionado la forma en que interactuamos con la inteligencia artificial, ofreciendo una experiencia de usuario más natural y fluida. Sin embargo, estas innovaciones también traen consigo nuevos desafíos de seguridad que OpenAI deberá continuar abordando para asegurar la privacidad y protección de los usuarios. La capacidad de la IA para clonar voces destaca la necesidad de seguir mejorando las medidas de seguridad y garantizar que el uso de estas tecnologías se realice de manera ética y segura.
