El caso Soleá Kella: Spotify confirma que retiró de Rap Español a la artista creada con IA

Spotify ha confirmado a El Plural que retiró de su playlist editorial Rap Español una canción de Soleá Kella después de determinar que el proyecto corresponde a lo que la plataforma denomina una "AI Persona", una identidad generada mediante inteligencia artificial que se presenta ante los usuarios como si fuera una persona real.

La canción, titulada Se Te Ve El Plumero, había aparecido en Rap Español mientras el perfil de Soleá Kella mostraba la imagen de una mujer y una biografía escrita en primera persona. En ese momento no existía ninguna indicación visible que advirtiera al oyente de que aquella identidad había sido creada mediante inteligencia artificial.

"En el momento en que determinamos que se trataba de una AI Persona, la excluimos de la playlist editorial", confirman fuentes de Spotify a ElPlural. La compañía reconoce, además, que la canción no habría llegado a esa lista de haberse identificado previamente la naturaleza del proyecto. Cabe destacar, además, que se trataba de la única artista femenina en toda la lista.

"La política y los criterios editoriales de Spotify habrían impedido la inclusión en Rap Español si se hubiera identificado previamente que se trataba de una artista generada mediante IA", explican las mismas fuentes. Spotify no facilita información sobre la persona, empresa, sello o distribuidora que se encuentra detrás de Soleá Kella al tratarse, según explica la compañía, de información que no se ha hecho pública. 

Qué ocurrió con Soleá Kella en Rap Español

La aparición de Soleá Kella en una playlist editorial se produjo antes de que Spotify identificara el proyecto como una AI Persona. La plataforma sostiene que sus playlists editoriales son seleccionadas por equipos humanos y que, en este caso, la naturaleza artificial de la identidad no había sido detectada cuando Se Te Ve El Plumero fue incorporada a Rap Español.

Una vez realizada esa comprobación, la canción fue retirada. El caso coincide con la puesta en marcha de una nueva política de Spotify destinada específicamente a identificar este tipo de proyectos y diferenciarlos de los artistas humanos. "Creemos que todos los artistas deben tener libertad creativa para decidir cómo quieren presentarse, pero, al mismo tiempo, la programación de Spotify está enfocada en dar visibilidad a la música de artistas auténticos que están construyendo una carrera en la música", señalan fuentes de la compañía.

La consecuencia de esta política es clara: Spotify no incluirá de forma predeterminada a las AI Personas en sus recomendaciones editoriales ni algorítmicas. Por tanto, un proyecto identificado como AI Persona no debería aparecer en una playlist editorial como Rap Español ni ser introducido automáticamente en las recomendaciones personalizadas de un usuario.

Qué es exactamente una "AI Persona" para Spotify

Asimismo, Spotify establece una diferencia entre una identidad creada mediante inteligencia artificial y la utilización de IA para hacer música. "Una AI Persona es un proyecto artístico construido en torno a una identidad generada mediante IA: una identidad que presenta lo que parece ser una persona real, pero que en realidad no lo es", explican fuentes de Spotify.

Esto significa que la consideración de Soleá Kella como AI Persona no implica necesariamente que toda su música haya sido generada mediante inteligencia artificial. "Un nombre artístico, una identidad artística o el mero uso de herramientas de IA para crear música no convierten a un artista en una AI Persona", precisa la compañía.

El criterio fundamental se encuentra en la persona que el proyecto presenta ante el público: "Lo que importa es si el perfil presenta una identidad humana generada mediante IA y diseñada para parecer una persona real. AI Persona describe quién es un artista, no cómo se ha creado su música", explican desde Spotify.

La plataforma permitirá, por tanto, que artistas humanos utilicen herramientas de inteligencia artificial en sus procesos creativos sin que por ello pasen automáticamente a ser considerados AI Personas.

Spotify admite que el oyente debía ser informado

Cuando Soleá Kella apareció en Rap Español, su perfil no advertía de que la mujer que aparentemente representaba el proyecto no correspondía a una identidad humana real. Preguntada por ElPlural sobre si los usuarios deberían haber sido informados de esta circunstancia, Spotify responde afirmativamente.

"No queremos que un usuario se encuentre con un perfil de artista que parece representar a una persona real para descubrir después que, en realidad, esa identidad ha sido generada mediante IA", señalan fuentes de la compañía. Para abordar este problema, Spotify anunció el pasado 11 de agosto la introducción de un nuevo distintivo denominado AI Persona. Su despliegue visible para los usuarios comenzará a mediados de septiembre.

La etiqueta aparecerá en el banner y en la sección de información de los perfiles, pero también en los resultados de búsqueda y en las canciones que aparezcan dentro de las playlists. El usuario podrá pulsar sobre el distintivo para obtener más información y conocer, además, si el responsable del proyecto se ha identificado voluntariamente como una AI Persona o ha sido Spotify quien ha llegado a esa conclusión después de revisar el perfil.

Los artistas podrán declarar voluntariamente que no son personas reales

Desde el 11 de agosto, los responsables de estos proyectos pueden identificarlos como AI Personas a través de Spotify for Artists. La declaración, sin embargo, no es obligatoria. "Queremos que los artistas sean transparentes, por eso les damos la posibilidad de identificarse como tales. Pero no nos basaremos únicamente en la autodeclaración", explica Spotify.

La compañía revisará por su cuenta aquellos perfiles cuya identidad pública pueda corresponder a una persona generada mediante inteligencia artificial. Para hacerlo tendrá en cuenta diferentes elementos del perfil, incluidos el nombre y las imágenes utilizadas. Spotify asegura que utiliza "una combinación de señales, incluidas herramientas de investigación de IA líderes en la industria, para detectar identidades que aparentan representar a una persona real cuando en realidad no lo son".

Inicialmente, las revisiones se centrarán en artistas que hayan alcanzado determinados niveles de audiencia. "Empezaremos por aquellos artistas que hayan alcanzado determinados niveles de audiencia, de modo que estas etiquetas abarquen a la gran mayoría de los perfiles de artistas que visitan los usuarios", explican fuentes de Spotify.

Qué ocurre si Spotify sospecha que un artista es una AI Persona

La compañía ha diseñado también un procedimiento para aquellos casos en los que sea Spotify, y no el responsable del proyecto, quien detecte una posible identidad artificial. Si la revisión determina que el perfil puede corresponder a una persona generada mediante IA, Spotify podrá aplicarle el distintivo "Likely AI Persona".

El responsable del perfil será entonces notificado a través de Spotify for Artists y dispondrá de dos posibilidades: identificarse voluntariamente como AI Persona o presentar una apelación. "Si el artista no responde, el badge permanecerá en el perfil, aunque podrá presentar una apelación en cualquier momento", explican fuentes de la plataforma.

Spotify asegura que todos los distintivos aplicados directamente por la compañía habrán sido revisados por una persona.

Además, durante los próximos meses pretende habilitar una función para que sean los propios usuarios quienes puedan alertar al equipo de revisión sobre perfiles que crean que representan a una AI Persona.

Spotify no prohibirá que los artistas humanos utilicen inteligencia artificial

La nueva política no supone un rechazo general a la utilización de inteligencia artificial en la creación musical. "Los artistas humanos también pueden utilizar herramientas de IA en su proceso creativo, y pueden hacerlo de forma responsable y transparente", explican fuentes de Spotify.

La plataforma asegura que no pretende determinar qué herramientas pueden emplear los músicos. "Nosotros no decimos a los artistas qué herramientas pueden o no pueden utilizar para crear su música: tienen libertad creativa para decidirlo", añaden. Spotify diferencia así dos cuestiones: cómo se ha creado una canción y quién es el artista que se presenta ante el público.

Para la primera cuestión, la compañía ha desarrollado herramientas como AI Credits y SongDNA, destinadas a ofrecer información sobre la participación de la inteligencia artificial en el proceso de creación musical. "Lo importante es que los oyentes puedan tomar decisiones informadas sobre cómo quieren interactuar con artistas que presentan identidades generadas mediante IA", sostiene Spotify.

La plataforma asegura también que combate "el spam, la suplantación de identidad, el engaño y otros usos abusivos de la IA" y que toma medidas cuando detecta comportamientos que vulneran sus políticas.

Las AI Personas no aparecerán en las recomendaciones de Spotify

La diferencia entre utilizar inteligencia artificial como herramienta y construir un artista artificial tendrá consecuencias directas sobre la visibilidad dentro de Spotify. La plataforma permitirá que las AI Personas continúen teniendo presencia en el servicio, pero no incorporará su música de forma predeterminada a las recomendaciones editoriales ni algorítmicas. Esto significa que sus canciones no deberían llegar automáticamente a playlists editoriales ni a los sistemas personalizados de descubrimiento musical.

Existe una excepción: si un usuario decide interactuar voluntariamente con una AI Persona —por ejemplo, siguiendo su perfil—, su música sí podrá aparecer posteriormente entre sus recomendaciones. "Spotify está enfocada en dar visibilidad a la música de artistas auténticos que están construyendo una carrera en la música", explican fuentes de la compañía.

El caso de Soleá Kella se produjo precisamente en el punto que esta nueva política pretende evitar. La identidad artificial consiguió entrar con Se Te Ve El Plumero en una playlist editorial antes de ser detectada. Cuando Spotify determinó que se encontraba ante una AI Persona, retiró la canción de Rap Español. "En el momento en que determinamos que se trataba de una AI Persona, la excluimos de la playlist editorial", confirma la compañía a ElPlural.

A partir de mediados de septiembre, Spotify pretende que los usuarios puedan saber mediante una etiqueta específica cuándo el artista que aparece detrás de una canción no representa a una persona real, sino a una identidad construida mediante inteligencia artificial.