远在古代，中原的汉族人民，把居住在北方和西北方的少数民族统称为胡，对他们所用的乐器、音乐以及服饰等，也都冠以胡字。《后汉书·五行志》中有：“灵帝好胡服、……胡箜篌、胡笛、胡舞，……”。汉刘熙《释名》载：“批把本出于胡中”之句，琵琶以出胡中，而名胡琴。唐初四川射洪大诗人陈子昂，曾以千金买一胡琴，即是琵琶，直至唐宋之时，对琵琶、忽雷等弹弦乐器，还称之为胡琴。所以，胡琴是我国古代北方、西北方少数民族所用乐器的统称，近代才作为奚琴类拉弦乐器的专称。奚琴始于唐代。在宋代音乐理论家陈旸于公元1099年所著的《乐书》（卷一二八）中载有：“奚琴本胡乐也，出于弦鼗而形亦类焉，奚部所好之乐也。盖其制，两弦间以竹片轧之，至今民间用焉。”据书中附图（图）所示，两弦轴的装置方向与今日二胡相反，不用千斤。奚族在南北朝时称库莫奚，居住在我国东北地区的西拉木伦河流域，唐末之时，一部分奚人西徙妫州（今河北省怀来县），别称西奚，五代十国时，东、西奚渐与契丹人相融合。据陈旸所考，奚琴当为唐代末年我国北方西奚所用的一种乐器。它是在古代弹弦乐器弦鼗的基础上衍变发展而成的，其演奏方法与轧筝相似，完全是受到唐初汉族轧筝的影响所致，不同之处是奚琴只有两条琴弦，轧时竹片不在弦的上（外）面而处于两弦之间。
宋代的奚琴又称稽琴。宋代高承公元1080年撰辑的《事物纪原》中有：“杜挚赋序曰：秦末人苦长城之役，弦鼗而鼓之，记以为琵琶之始。按鼗如鼓而小，有柄，长尺余。然则击弦于鼓首而属之于柄末，与琵琶极不仿佛，其状今稽琴也。是稽康琴为弦鼗遗象明矣。”照此记述，稽琴在北宋之时，仍靠弹拨琴弦来发音，而不是轧弦发音的拉弦乐器。在宋代陈元靓《事林广记》（卷八）中，则明确地记载着稽琴是拉弦乐器。文中说：“稽琴本稽康所制，故名稽琴。二弦，以竹片轧之，其声清亮。”把稽琴归于公元3世纪的稽康所制，显然是伪托古人的一种附会，这可能是陈氏效其“阮咸造阮”之说吧。同是宋人，又同是记述稽琴，却记载着两种不同的演奏方法。这充分说明，宋代稽琴仍处于由弹弦乐器向拉弦乐器的过渡阶段。
宋代晚期，我国北部边疆地区已经开始使用以马尾作为弓毛拉弦擦奏的乐器了。在陕西榆林石窟第十窟的壁画中，画有一飞天用马尾弓拉奏卷首、二轸、二弦、圆筒形琴筒的乐器。此窟年代约当西夏（公元1038年—1227年）时期，即与中原的宋代相交错。在山西省繁峙县岩山寺的经幢（为“特赐广济大师之塔”）上，有一线刻乐器图形，一人正盘腿而坐，手持马尾弓拉奏。有关学者认为，繁峙在元代之前即为蒙古管辖，并以大元为年号，此经幢为“大元二十三年十月十日”建成，即公元1236年，也正值宋代末年。上述两处之乐器图像，均与今日之二胡维妙维肖。这种用马尾弓代替竹片擦弦发音的乐器，是我国北方长期过着游牧生活的少数民族的创造，它是拉弦乐器向前发展的一个里程碑。
