成吉思汗陵原为全体蒙古民众供奉的“总神祗”——八白宫(室)，即八座白色的毡帐，是供奉祭祀的地方，而不是埋葬金身之地。由于蒙古民族是游牧民族，八白室的建立正是适应了游牧的特点，可以随时迁移，以便随地祭祀。1227年，成吉思汗去世后，始建于鄂尔多斯的祭灵白室，起初一直处于隐避状态。根据历史文献所载，成吉思汗归天后，分别在漠北草原和木纳山南（今鄂尔多斯）建立了成吉思汗白色宫帐，视为“全体蒙古的总神祗”，进行最高规格的供奉祭祀。“这一白色宫账，就是以后形成的‘八白宫’的原型”，但“从窝阔台到忽必烈这一段时期，因征战频繁，成吉思汗祭奠也一直处于较为简朴的传统祭奠”。

1264年（元至元元年）忽必烈取得了政权争夺斗争的胜利，并将蒙古都城从漠北的哈拉和林迁到了燕京（今北京），随后改称“大都”。1266年（至元三年）忽必烈在大都建立太庙，在听取了伯颜等人的建议之后，将太庙“定为八室”，这无疑从制度上、法律上对八白室做了根本的定型。成吉思汗八白宫所供奉的神物，虽在不同历史时期有过一些变化，但其核心一直没有变，即成吉思汗与夫人的宫帐始终处于中心地位。因此，八白宫在人们心目中始终是一个整体，其基本内容没有什么变化 。 

约1460年，守护、祭祀成吉思汗宫帐的部落鄂尔多斯部于明天顺年间从漠北高原开始进入宝日陶亥地区（即黄河河套平原），1469年（明成化五年）满都鲁率蒙古鄂尔多斯部入套，八白室也随之迁入套内。1496年（弘治九年）鄂尔多斯部大量入驻宝日陶亥地区，成吉思汗漠北的奉祀之神和四大鄂尔多也随着鄂尔多斯人逐渐迁移至该地区，与始建于鄂尔多斯的成吉思汗奉祀之神合并，形成诸多白色宫帐，俗称八白宫（室）。1510年左右，达延汗统一蒙古各部后，曾在八白室前举行盛大的祭典。此后鄂尔多斯部便由达延汗的孙子衮必里克墨尔根济农统领，驻牧于河套地区，并在这里供奉八白室。河套地区从此才被称为“鄂尔多斯”（意为有诸多宫殿的地方，来源于成吉思汗宫帐“鄂尔多”（斡尔朵）一词，即指有成吉思汗八白宫等诸多鄂尔多的地方）。

1649年（清顺治六年），成吉思汗后裔、鄂尔多斯济农、伊克昭盟首任盟长额璘臣将八白宫及苏勒德等圣物，从黄河南岸的伊克召迁移至郡王旗，安奉在巴音昌霍格河畔的草地上。从此，这个地方被称之为“伊金霍洛”（意为圣主的院落）。