小提琴早在中世纪就有了雏形，但是大提琴却一直到文艺复兴时期才出现。大提琴最早由古低音中提琴（viola da gamba）发展而来。出现在十六世纪初，当时的名称为「Viole da Braccio」，早期的时候只有三条弦（F-c-g），不久便扩充为四条（降B’-F-c-g）。后来也有五弦、六弦琴（viol）出现，不过都不符合一般演奏的习惯，实用性不高。所以后来，又综合了维奥尔琴的优点，发展出现代大提琴的格式（C-G-d-a）。
到了十七世纪的时候，大提琴的变革相当大：包括五弦的设计再度复出，另外还有一种将体积缩小的设计，可以用小提琴的持法演奏的大提琴，称为「Violoncello piccolo」，巴哈还为这种琴写了六首无伴奏大提琴组曲。
然而现代大提琴的规模却要一直到1710年才大致底定。阿玛蒂家族制作的大提琴相对现代提琴来说都比较偏大，共鸣箱长度大约在790毫米，被称为“bassetto”（现在所见到的阿玛蒂家族的大提琴基本是被后人为适应现代的演奏而改小尺寸的）。
而与克雷莫纳相邻的布雷西亚提琴制作学派却热衷于制造着由借鉴小提琴共鸣箱355毫米的长度加倍而来，即其大提琴的共鸣箱长度在710毫米（布雷西亚制琴学派的代表人物Gasparo da Salo除了制作710毫米琴型也还做过大于760毫米的大型大提琴）。这两种相差甚远的尺寸一直并存延续至18世纪。
克雷莫纳除了以阿玛蒂家族为首开创的提琴制作艺术外，后来还诞生了安德里亚·瓜尔内里（Andrea Guarneri）为首的瓜尔内里家族和安东尼奥·斯特拉迪瓦里（Antonio Strapari）等大师。他们的大提琴不论在音质、设计和工艺等各方面都有着各自独特的风格，堪称经典样式。
此外，朗切斯科.鲁杰利（ Francesco Ruggieri）也是不可不提的大师。他是尼可洛·阿玛蒂最出色的学生之一。他和他儿子们制作的大提琴作品至今在大提琴领域里还享有很高的声誉。
朗切斯科.鲁杰利最大的贡献是首先把大提琴的尺寸确立为750毫米左右，这有预见性的创举比安德里亚·瓜尔内里（Andrea Guarneri）和安东尼奥·斯特拉迪瓦里（Antonio Strapari）等大师采用这个尺寸至少早了20年。直到今天，现代的大提琴依然沿用这个尺寸。
而斯特拉迪瓦里早期制作着一些像阿玛蒂家族那样大型号的大提琴。在1707年后，可能发现鲁杰利制作750毫米的大提琴的优势，于是斯特拉迪瓦里经过改革设计出命名为“B”型大提琴的内模，将之前的大尺寸调整到750毫米，由此诞生了一批极高质量的乐器如被大提琴演奏家罗斯特罗波维奇所使用过的，制于1711年的“Duport” 和那把经杜普雷和马友友使用过，制于1712年的“Davidoff”-(这把大提琴查看这篇文章–>大提琴演奏家马友友使用的顶级大提琴)。B型琴型为后来的大提琴设计奠定了基础。
大提琴直到17世纪，才逐渐成为一种独奏乐器。其乐器本身的演变过程也经历了漫长的变革。
最初的大提琴是没有尾柱的。演奏时是通过演奏者两腿夹住端坐着演奏，或是用带子挂在肩上的演奏方式。后来比利时籍的大提琴演奏家阿德里安·赛尔维（Adrien Servais）在1845年左右为大提琴添加的可调整的尾柱，旨在增加左手大幅运动的情况下提琴的稳定性。大提琴家罗斯特罗波维奇(Rostropovich)为演奏要求而设计的一种弯曲的尾柱样式，这种用铰链结合的有角度弯曲的尾柱为大提琴提供更高角度面的演奏，使弓的重心更直接地压在弦上。
早期的大提琴使用的指板是圆弧形的，并没有C弦下那个斜面，德国籍的大提琴演奏家伯恩哈德·罗姆伯格（Bernhard Romberg，1767-1841年）对指板实施了更进一步的改进：他把指板在C弦下部分弄平，给这根最重的弦更多的振动空间，从而减少了弦与指板表面间摩擦产生的噪音。
除此之外还有一些其他的改进，诸如早期的大提琴使用的是羊肠弦，装配也都是巴洛克式的。随着对演奏技术要求的提高，促进在高把位的演奏，大提琴的琴颈也像小提琴那样由巴洛克时代直接用钉子固定于琴身的方式演变为用燕尾槽镶嵌技术的转变。通过琴颈和指板的加长，扩展了每根弦的音域。对大提琴的低音樑的长度和高度都进行加长加高，为低音域带来更强有力的支撑。琴码也加高、并呈扇形，从早期的巴洛克式而发展出现代大提琴琴码的两种基本风格：法国式的和比利时式的。
大提琴的琴码式样不像小提琴和中提琴那样统一，可以根据其不同的音色效果来选用。法国式琴码因其码脚形状较矮而稳重、对低频滤音效果大等特点，针对音质较粗糙的大提琴是非常适用的，可以帮助过滤低频粗音。
而另一种比利时式琴码由于它的码脚相对法式琴码高、泛音丰富，因此对音质清晰的大提琴就很合适，用以强调其明亮音质。
从19世纪到20世纪，人们还根据大提琴的演奏性能对其进行一系列细节上的完善。如弱音器扩大了品种，金属丝裹起来的羊肠弦和金属弦的广泛使用，弦钩的出现等等使大提琴对现代音乐的发展发挥出其更大的魅力。
大提琴的时代历经十九世纪的发展，以及二十世纪大提琴家的努力，今天的大提琴早已不再只是三百年前仅作为低音伴奏的乐器。它丰富的表现力以及强力的抒情性格，深深的受到世人的喜爱。在卡萨尔斯后，我们甚至可以很骄傲的宣称大提琴的黄金时代已经到来。如今在二十世纪我们所尝到的是五百年来大提琴发展所累积下来的丰盛果实。
