La voz de Sky: consentimiento, parecido e identidad en la era de los asistentes

El 13 de mayo, OpenAI presentó GPT-4o, un modelo capaz de conversar por voz con tiempos de respuesta muy cercanos a los de una persona. La demostración fue impresionante. Esa misma tarde, Sam Altman publicó una sola palabra en redes: «her», en referencia a la película de 2013 en la que Scarlett Johansson pone voz a una inteligencia artificial.

Una semana después, OpenAI pausó «Sky», una de las voces del asistente. Y Johansson publicó un comunicado en el que explicaba que Altman le había propuesto en septiembre de 2023 prestar su voz, que ella declinó por motivos personales, y que se había quedado «conmocionada, enfadada e incrédula» al escuchar una voz que se parecía tanto a la suya, según recogió The Guardian.

OpenAI sostiene, en una explicación sobre cómo eligió las voces, que Sky pertenece a otra actriz profesional que usó su propia voz natural. No voy a juzgar quién tiene razón en lo técnico. Me interesa lo que el caso revela.

El consentimiento no es solo un trámite

Lo que hace incómoda esta historia no es que se pareciera una voz. Es la secuencia: pedir permiso, recibir un no y seguir adelante con una voz que el público asocia inmediatamente con esa persona, y además invocarla en público con un «her». Aunque sea legal, erosiona la confianza. Y la confianza es exactamente lo que necesitan los asistentes de voz para entrar en nuestra vida.

Más cerca de lo que parece

Puede parecer un conflicto de celebridades, pero las mismas preguntas llegan a cualquier organización que empiece a usar voz o imagen sintética:

• ¿Puede una empresa clonar la voz de su recepcionista para el contestador automático? ¿Y seguir usándola cuando esa persona se vaya?
• ¿Puede generar vídeos formativos con el avatar de un directivo? ¿Quién aprueba cada guion?
• ¿Qué ocurre si un cliente cree que habla con una persona concreta y en realidad es una síntesis?

Mi respuesta, en todos los casos, empieza igual: consentimiento explícito, por escrito, para un uso concreto y revocable. No una cláusula genérica en el contrato laboral, sino una autorización que la persona entienda y pueda retirar.

La transparencia como norma de cortesía

La futura Ley europea de IA obligará a que quien interactúa con un sistema de IA lo sepa, y a etiquetar los contenidos sintéticos que imiten a personas reales. Pero no hace falta esperar a la obligación legal para adoptarlo como norma de la casa. Decir «esto es una voz generada» no le quita valor al producto. Lo que se lo quita es que el cliente lo descubra después.

La tecnología de voz va a ser una de las grandes interfaces de los próximos años. Precisamente por eso conviene fijar ahora unas reglas sencillas, antes de que el parecido, el permiso y la identidad se conviertan en un problema de la marca.