Els primers neumes aparegueren a finals del segle VIII. Eren punts o ratlles posats sobre o sota el text, segons indiquessin notes agudes o greus. Molt aviat es van usar els accents gramaticals, agut o greu, en substitució dels punts i ratlles primitius. La seva coherència era total amb les melodies dels recitats, a l'haver-se d'indicar les diferents cadences de la salmòdia. La dificultat sorgia a l'haver de representar melodies més amplliades musicalment. fou aleshores quan aquests accents s'uniren entre sí, donant lloc a noves figuracions gràfiques, que, a la vegada, corresponien a diverses formes melòdiques. Amb aquesta manera d'escriure la música, el gregorià s'estengué per tot Europa, apareixent diferents escoles de grafismes, o de paleografia musical.