李白的先祖为陇西李氏，在隋朝时期流落西域。隋朝时期前往西域的汉人数量不少，其中有经商、从军、避乱、被突厥掳掠、因罪谪居这几种。李白一家属第五种，其先祖是作为罪徒徙居碎叶的。

《新唐书·文艺传》说李白：“其先隋末以罪徙西域”，出自李白口授的李阳冰《草堂集序》说：“中叶非罪，滴居条支”。范传正《李公新墓碑》也说：“隋末多难，一房被窜于碎叶”。在609年隋朝击破吐谷浑之后，隋朝疆域到达了今天新疆的若羌一带（且末郡），同年隋场帝“发天下轻罪徙居”西域，随后数年吐谷浑复国，中原与西域再度断绝，李白的祖先应当是由且末经于阗、疏勒，或是自鄂善、伊吾经焉者、龟兹，沿着十数年后玄奖走过的路程，几经辗转最后终于在碎叶定居了下来。