Un premier kiosque à musique avait été construit en 1903 : il a été détruit en même temps que le jardin Saint-Roch suite aux bombardements de septembre 1944.
Un nouveau kiosque circulaire en béton est construit en 1997.
Le 10 mai 1997 était inauguré le nouveau kiosque à musique dans le square aménagé par Auguste Perret lors de la reconstruction de la ville du Havre.
En 2006, le kiosque a été dédié à Michel Adam, chef d’orchestre.