数字简谱的雏形初见于16世纪的欧洲。17世纪时法国天主教方济名会教士J·J·苏艾蒂加以改进后用来教唱家教歌曲。18世纪中叶，著名的法国思想家J·J·卢棱再加改进，大力倡导，并编入他的《音乐辞典》之中。19世纪，经过P·加兰、A·帕里斯和E·J·M·谢韦3人的继续改进和推广，才在群众中得到广泛使用。因此这种简谱在西方被称为“加—帕—谢氏记谱法”。
19世纪末叶，简谱传到日本，再传入中国。1904年沈心工编著出版的《学校唱歌集》是中国最早自编的一本简谱歌集；之后逐步普及到各地的学校，30年代随着救亡歌咏运动的开展，简谱得以在群众中广泛流传。
由于简谱的记法与中国的工尺谱（流行在中国民间的一种文字谱）相当接近，在中国简谱得到了空前的发展，就世界范围而言，中国是把简谱吸收的最好、最发扬光大的国家。而五线谱，通过教育体制，以西方为中心的音乐教育，已基本流行于各个国家，在院校里也是必修项目之一，它为世界音乐统一于一谱提供了基础。
五线谱的前身可追溯到中世纪的纽姆记谱法及有量记谱法。纽姆谱以横线为标准，用符号表示音的高低，但不显示音值长短。从7世纪起，这种记谱法出现于欧洲天主教堂内，最初只用1根线代表F音高，11世纪经阿雷佐的圭多逐步发展成4根线。规定音高为d、f、a、c，并将f线画成红色，c线画成黄色（后成为五线谱中高音及低音谱号的起源）。13世纪有人使用第5根线，成为五线谱的前身。16世纪又有加线的办法，使音高的记载更完备。
有量记谱法为13世纪科隆教士弗兰科创始。这种记谱法用音符、休止符和记号严格规定了音的长短，是对纽姆谱的补充和丰富。在1450年左右，音符是涂以黑色的，称为有量黑符，以后改用空心音符，称为有量白符，这种记谱法在西方使用到17世纪左右。
五线谱在前两者的基础上出现，到17世纪逐步完善，18世纪开始定型而沿用至今。如小节线原用于文字谱，17世纪末被五线谱所采用；升降记号通用于18世纪，表情记号取有量记谱法；装饰音记号源于纽姆谱，17世纪系统化用于五线谱。
五线谱传入中国，最早见于文字记载的是1713年的《律吕正义》续编，书中记述了五线谱及音阶、唱名等。五线谱在中国逐步流传和使用，则于19世纪中叶以后随西方传教士的传教及新学的兴办而有所推广。
