据1世纪蒙古族的传说，大约距今多年，蒙古部落被别的游牧部落击败，仅剩两男两女，遁入额尔古涅——昆，生息繁衍。后来人多地狭，意欲出山，于是做风箱化铁溶山，开辟通道，全体迁徙出来。
以后，每于除夕之夜，成吉思汗族人要把少许的铁烧红，放到砧子上锤打，以示不忘祖先故事。“蒙兀”是“蒙古”一词最早的汉文译名，始见唐代。“蒙古”最初只是蒙古诸部落中的一个部落的名称。1世纪初，以成吉思汗为首的蒙古部统一了蒙古地区诸部，逐渐形成了一个新的民族共同体。“蒙古”也就由原来的部落名称变成为民族名称了。
据记载，蒙古部落最初只包括涅古斯和乞颜两个氏族，他们被其他突厥部落打败后只剩下两男两女，逃到了额尔古涅昆（额尔古纳河畔山岭）一带居住下来，公元8世纪，由于人口的不断增长，不得不向外迁徙，这时已分出了70个分支了，这70个分支被称为“迭儿勒勤蒙古”。
《蒙古秘史》和《旧唐书》记载：苍狼和白鹿是成吉思汗的祖先，他们奉上天之命降生到人间。然后共同渡过腾汲思，在斡难河源头、不儿罕山前开始繁衍生息，生下了巴塔赤罕。这里所说的巴塔赤罕就是成吉思汗的始祖。其实，苍狼和白鹿在蒙古语中分别读为：勃儿帖赤那和豁埃马兰勒，只是汉译为苍狼和白鹿。
在蒙古民族的真正族源问题上，现代、当代多数学者认为蒙古族出自东胡。东胡是包括同一族源、操有不同方言、各有名号的大小部落的总称。据记载：“在匈奴东，故曰东胡。”公元前5至前世纪，东胡各部还处于原始氏族社会发展阶段，各部落过着“俗随水草，居无常处”的生活。4世纪中叶，生活在潢水和老哈河流域一带的鲜卑人的一支，自号“契丹”。居于兴安岭以西（今呼伦贝尔地区）的鲜卑人的一支，称为“室韦”。室韦，始见于《魏书》，作失韦。室韦与契丹同出一源，以兴安岭为界，“南者为契丹，在北者号为室韦”（《北史》卷94《室韦传》）。6世纪以后，室韦人分为南室韦、北室韦、钵室韦、深末恒室韦、大室韦等5部，各部又分为若干分支。后来，达怛又成为蒙古诸部的总称。