传说，马头琴最早是由察哈尔草原一个叫苏和的小牧童做成的。苏和是由奶奶抚养大的，婆孙俩靠着二十多只羊过活。苏和每天出去放羊，早晚帮助奶奶做饭。十七岁的苏和已经长得完全像个大人了。他有着非凡的歌唱天才，邻近的牧民都很愿意听他歌唱。
一天，太阳已经落山了，天越来越黑。可是苏和还没有回来。就在人们十分焦急的时候，苏和抱着一个毛茸茸的小东西走进蒙古包来。人们一看，原来是匹刚出生的小马驹。苏和看着大伙惊异的眼光，对大家说：“在我回来的道上，碰上了这个小家伙，躺在地上直动弹。我一看没人收拾它，怕它到了黑夜被狼吃了，就把它抱回来啦。”
日子一天一天过去，小白马在苏和的精心照管下长大了。它浑身雪白，又美丽又健壮，人见人爱，苏和更是爱得不得了。
一天夜里，苏和从睡梦中被急促的马嘶声惊醒。他想起小白马，便急忙爬起来出门一看，只见一只大灰狼被小白马挡在羊圈外面。苏和赶走了大灰狼，一看小白马浑身汗淋淋的，知道大灰狼一定来了很久了，多亏了小白马，替他保护了羊群。他轻轻地抚摸着小白马汗湿的身子对它说：“小白马呀！多亏你了。”
一年春天，草原上传来了消息说，王爷要在喇嘛庙举行赛马大会，因为王爷的女儿要选一个最好的骑手做她的丈夫，谁要得了头名，王爷就把女儿嫁给谁。苏和也听到了这个消息，邻近的朋友便鼓动他，让他领着小白马去参加比赛。于是，苏和牵着心爱的小白马出发了。
赛马开始了，许多身强力壮的小伙子，扬起了皮鞭，纵马狂奔。到终点的时候，苏和的小白马跑到最前面。王爷下令：“叫骑白马的上台来！”等苏和走上看台，王爷一看，跑第一名的原来是个穷牧民。他便改口不提招亲的事，无理地说：“我给你三个大元宝，把马给我留下，赶快回去吧！”
“我是来赛马的，不是来卖马的呀。”苏和一听王爷的话，顿时气恼起来。我能出卖小白马吗？他这样想着，不假思索地说出了那两句话。
“你一个穷牧民竟敢反抗王爷吗？来人哪，把这个贱骨头给我狠狠地打一顿。”不等王爷说完，打手们便动起手来。苏和被打得昏迷不醒，还被扔在看台底下。王爷夺去了小白马威风凛凛地回府去了。
苏和被亲友们救回家去，在奶奶细心照护下，休养了几天，身体渐渐恢复过来。一天晚上，苏和正要睡下，忽然听见门响。问了一声：“谁？”但没有人回答。门还是碰碰地直响。奶奶推门一看：“啊，原来是小白马！”这一声惊叫使苏和忙着跑了出来。他一看，果真是小白马回来了。它身上中了七八支利箭，跑得汗水直流。苏和咬紧牙，忍住内心的痛楚，拔掉了马身上的箭。血从伤口处像喷泉一样流出来。马因伤势过重，第二天便死去了。
原来，王爷因为自己得到了一匹好马，心里非常高兴，便选了吉日良辰，摆了酒席，邀请亲友举行庆贺。他想在人前显示一下自己的好马，叫武士们把马牵过来，想表演一番。
王爷刚跨上马背，还没有坐稳，那白马猛地一踹，便把他一头摔了下来。白马用力摆脱了粗绳，冲过人群飞跑而去。王爷爬起来大喊大叫：“快捉住它，捉不住就射死它！”箭手们的箭像急雨一般飞向白马。白马虽然身上中了几箭，但还是跑回了家，死在它最亲爱的主人面前了。
白马的死，给苏和带来了更大的悲愤，他几夜不能入睡。一天夜里，苏和在梦里看见白马活了。他抚摸它，它也靠近他的身旁，同时轻轻地对他说：“主人，你若想让我永远不离开你，还能为你解除寂寞的话，那你就用我身上的筋骨做一只琴吧！”苏和醒来以后，就按照小白马的话，用它的骨头、筋和尾做成了一只琴。每当他拉起琴来，他就会想起对王爷的仇恨；每当他回忆起乘马疾驰时的兴奋心情，琴声就会变得更加美妙动听。从此，马头琴便成了草原上牧民的安慰，他们一听到这美妙的琴声，便会忘掉一天的疲劳，久久不愿离去。
成吉思汗西征的时候，大规模移民，将马头琴在内的蒙古文化传到了欧洲，俄罗斯也就有了马头琴，并受到人们的欢迎，直到今天。
