关于土族的先祖，学术界尚无定论，大多数倾向于吐谷浑说。吐谷浑是辽东鲜卑族，先迁牧于阴山之北，在4世纪初迁牧今青海省南部和甘肃南部，后逐渐建立吐谷浑王国，疆土据有今青海整个牧区以及新疆、甘肃的一部分。这个政权先后存在350多年。公元663年，吐蕃攻占吐谷浑全境，吐谷浑王诺曷钵避走凉州（今甘肃武威），后又迁居今宁夏，其部属之一部分散居祁连山之南也就是今天的互助县一带。后来经过与其它民族融合，在元末明初时形成土族，史书上称之为“土人”，当地回、汉族称为“土民”，藏族称为“霍尔”，据说霍尔就是吐谷浑。互助土族则自称“蒙古尔”、“察汗蒙古尔”，民和土族自称“土昆”。可能各地土族在族源上不尽相同。