Un nuevo software permite ver en 3D conciertos de piano grabados en audio

Aprender a tocar el piano nunca fue una tarea fácil. Hay que ser capaz de ubicar el dedo correcto sobre la tecla que representa una nota en particular y en el momento adecuado. A veces hay que leer no sólo una nota a la vez, sino acordes de tres, cuatro e incluso diez al mismo tiempo.

A ello se suman las técnicas específicas de movimiento de cada mano, la muñeca y el brazo, sin olvidar las marcas de expresión, matices, fraseo y tiempo, o el toque interpretativo según el estilo de la pieza.

El aprendizaje de algunos de estos puntos se podría facilitar con un nuevo software desarrollado por investigadores de la Universidad de California (UC) en Davis, Estados Unidos, diseñado para generar una animación en tres dimensiones en la que un personaje toca el piano mostrando la colocación idónea de los dedos y los movimientos de muñeca.

Lo novedoso del programa es que genera la animación automáticamente a partir de un archivo de audio. Se trata de todo un reto, teniendo en cuenta la dificultad que conlleva cualquier reproducción tocando el piano de forma correcta, por la limitación en la coordinación de movimientos de la mano derecha, los complejos cruces de dedos para dar en la nota correcta y conseguir acordes variados o, como apuntan los investigadores, “por el elevado grado de libertad de la mano y los dedos”.

El trabajo se ha dado a conocer recientemente con la publicación de un artículo aparecido en la revista Animación por ordenador y mundos virtuales, bajo el título “Un sistema para animar piezas de piano por ordenador”.

De él también se ha hecho eco la revista Phys.org. En él, los autores Yuanfeng Zhu, Ajay Sundar Ramakrishnan, Bernd Hamann y Michael Neff explican los algoritmos y métodos utilizados para generar de forma automática animaciones de interpretaciones al piano a partir de un archivo de música.

Planificando el movimiento

El sistema recibe órdenes para saber qué dedos usar y cuándo, si debe cruzar las manos o tocar varias notas al mismo tiempo, y todo ello en cualquier estilo musical sin nada más que una pista de audio. Para que esto ocurra, los investigadores diseñaron un algoritmo que tiene en cuenta dónde están las notas en un piano y cómo funciona el cuerpo humano.

Al igual que el hombre ha evolucionado su técnica para tocar este instrumento a lo largo de la historia, buscando el uso de los dedos y las posiciones de las manos más fáciles de alcanzar, el sistema reproduce esta lógica.

Así, se utiliza un gráfico basado en el método de planificación de movimiento para decidir qué dedos deben golpear las teclas del piano para cada acorde. Como se prevé la progresión de la música, el algoritmo calcula también la posición de los dedos no utilizados, para hacer posible una digitación eficiente de las próximas notas.

La clave es la postura de las manos, incluyendo la de técnicas complejas como cruzar los dedos y adornos más avanzados como los arpegios. Para refinar estas posturas se utilizar un método de optimización, reproduciendo una secuencia de poses naturales y mínimamente enérgicos. La transición de movimientos entre posturas se genera mediante una combinación de muestras reales de personas tocando el piano y de propiedades musicales, de forma que el sistema pueda adaptarse a diferentes estilos.

Los investigadores de la UC validaron su propuesta comparando directamente el toque real del piano con una simulación de una pieza musical completa en la que se pusieron a prueba diferentes habilidades. En concreto, se seleccionó la composición Childhood Memory de Mussorgsky para demostrar cómo se defendía el software en el cruce de dedos o con los arpegios.

El resultado es una técnica lo suficientemente realista como para aplicarse a la enseñanza. “En una clase de piano, dada cualquier pieza de música, los aprendices tienen dificultades para determinar la digitación más eficaz y para conseguir exactamente la forma en que se supone que debe realizarse. Por lo tanto, un sistema capaz de generar una animación de alta calidad puede ser útil en la enseñanza”, plantean los investigadores.

Así, estudiantes de piano podrían utilizar una cámara para grabar su práctica y a continuación comprobar la actuación del programa con la misma pieza musical, para ver si sus manos habían seguido la mejor posición posible. Los autores también afirman que sería posible aplicar la animación a otros instrumentos, como violines y flautas.

Limitaciones

No obstante, el software actual parece quedarse por debajo de su objetivo para ofrecer una “animación de piano de alta calidad”, pues tiene algunas limitaciones. Varios comentarios de reacción al vídeo de este trabajo cuestionan si los dedos parecen reales o incluso los comparan con crepes enrollados, lo que puede distraer al espectador que trata de concentrarse en el sistema como una herramienta de aprendizaje.

Por ello, los investigadores tratarán de mejorar el sistema para generar animaciones con diferentes modelos de manos, y en diversos tamaños, para adaptarse a las necesidades de cada estudiante. En la misma línea, otra limitación que han apreciado es que, aunque parece que los dedos rozan la superficie del piano, no se aprecia lo suficiente en las teclas negras, como si no alcanzaran, punto que también deberán mejorar.

Pero sobre todo seguirán trabajando para generar “el toque emocional del piano que refleja una comprensión personal de la pieza y del rendimiento del aprendiz”, así como la digitación automática de las dos manos. El método actual genera los dedos de cada mano por separado, lo que ocasiona problemas a la hora de interpretar una melodía de manera continua con las dos manos, por lo que tratarán de planificarlas simultáneamente.