En su niñez, Juventino mostró disposición y talento para el aprendizaje de la música, siendo inducido y enseñado por su padre a tocar el violín, su instrumento preferido. Vivió de joven en una vecindad del barrio de Tepito en la Ciudad de México y trabajó de campanero, violinista y cantor en los servicios religiosos de la Iglesia de San Sebastián.
Luego pasó a formar parte del grupo de los hermanos Aguirre, también estuvo integrado al grupo de los hermanos Elvira, mismo que dejó al morir su padre y su hermano mayor, quienes fallecieron en una riña durante una fiesta en donde tocaban.
Para 1885, se inscribió en el Conservatorio Nacional de Música. Ahí estudió solfeo y teoría musical. Ya había escrito Te volví a ver, Seductora, Sueño de las Flores y Ensueño. También escribió un vals denominado Carmen para la señora Carmen Romero, esposa del presidente Porfirio Díaz. Al interpretarse éste durante su cumpleaños, el público dudó de su capacidad, tras lo cual Rosas asumió el control de la orquesta con mucha seguridad. En 1888, escribió la marcha Cuauhtémoc y la obra que lo llevaría a la inmortalidad, Junto al manantial, que fue rebautizada como Sobre las olas, inspirada en un río que cruza la delegación, en aquel entonces pueblo, de Contreras, hoy La Magdalena Contreras.
Este vals fue dedicado a la señora Calixta Gutiérrez de Alfaro, quien era su mecenas. Tras el éxito musical, el presidente Porfirio Díaz le regaló un piano, que vendió para pagar sus deudas. A pesar de que la obra musical tuvo un gran éxito, Rosas vendió, también para pagar sus deudas, los derechos de autor de Sobre las olas a la casa Wagner & Lieven solamente por 45 pesos. Rosas también perteneció a la compañía de ópera de Ángela Peralta y a una compañía de zarzuela que viajó a Cuba.
