逝世劉邦在討伐英布叛亂時，為流矢所中，病得很厲害，不想見人，躺在皇宮之中，詔令守門武士不得讓群臣進入。群臣中如周勃、灌嬰等人都不敢進宮。這樣過了十多天，樊噲推開宮門，闖了進去，後麵群臣緊緊跟隨。看到劉邦枕著一個宦官躺在床上。樊噲等人見到劉邦之後，痛哭流涕地說：“始陛下與臣等起豐沛，定天下，何其壯也！今天下已定，又何憊也！且陛下病甚，大臣震恐，不見臣等計事，顧獨與一宦者絕乎？
且陛下獨不見趙高之事乎？”於是劉邦笑著從床上起來。之後病情惡化。呂後請了良醫為他醫治，劉邦詢問病情，醫生進言：“病可治。”劉邦聽了不但不高興，還罵醫生說：“吾以布衣提三尺劍取天下，此非天命乎？命乃在天，雖扁鵲何益！”不願意繼續治療，賜給醫師五十斤黃金，令醫師離去。之後呂後問劉邦：“陛下百歲後，蕭相國即死，令誰代之陳道明版劉邦？”劉邦說：“曹參可。”
呂後問還有誰，劉邦說：“王陵可。然陵少戇，陳平可以助之。陳平智有餘，然難以獨任。周勃重厚少文，然安劉氏者必勃也，可令為太尉。”呂後再問，劉邦說：“這以後，也不是你會知道的。”意指呂後也無法活那麼久。
四月甲辰，劉邦駕崩於長樂宮中，呂後和審食其商量說：“諸將與帝為編戶民，今北麵為臣，此常怏怏，今乃事少主，非儘族是，天下不安。”呂後過了四天還不發喪，打算發兵殺儘功臣將領。有人轉告這些話給將軍酈商。酈商去會見審食其，說：“吾聞帝已崩，四日不發喪，欲誅諸將。誠如此，天下危矣。陳平、灌嬰將十萬守滎陽，樊噲、周勃將二十萬定燕、代，此聞帝崩，諸將皆誅，必連兵還鄉以攻關中。
大臣內叛，諸侯外反，亡可翹足而待也。”審食其把這些話轉告了呂後，於是在丁未日發喪，大赦天下。丙寅，葬劉邦於長陵。己巳，太子劉盈繼位，是為漢惠帝。漢惠帝來到太上皇廟。群臣們都說：“帝起微細，撥亂世反之正，平定天下，為漢太祖，功最高。”上諡號為高皇帝，廟號為太祖。又下令全國各郡國諸侯建太祖廟，每年按時祭祀。至今在江西客家地區還有漢高帝信仰，尤其是江西寧都縣漢帝信仰最普遍，幾乎每個村都建有漢帝廟。
為政舉措善用人才統一中國建立漢朝之後，劉邦以文治理天下，征用儒生，詔令天下，廣韓信泛求賢。即位的同年6月，劉邦在洛陽的南宮開慶功宴，宴席上，他總結了自己取勝的原因：“論運籌帷幄之中，決勝於千裡之外，我不如張良；論撫慰百姓供應糧草，我又不如蕭何；論領兵百萬，決戰沙場，百戰百勝，我不如韓信。
可是，我能做到知人善用，發揮他們的才乾，這才是我們取勝的真正原因。至於項羽，他隻有範增一個人可用，但又對他猜疑，這是他最後失敗的原因。”劉邦的總結確實說對了，戰爭的勝敗，人的因素總是最重要的。定都關中後來，劉邦定都長安是因為一個叫婁敬（因被賜姓劉，又稱劉敬）的士卒的提醒，婁敬從山東趕來見劉邦，說劉邦得天下和先前的東周不一樣，所以不應該像東周那樣以洛陽為都城，應該到關中定都，這樣便可以在秦地固守險地，國家才能長治久安。
張良同意婁敬的建議，他說關中是“金城千裡，天府之國”，退可守，攻可出。劉邦聽了表示同意，於是很快將都城遷到了長安。地方區劃劉邦接承秦朝的中央集權製和郡縣製，同時廢除了秦朝的苛刻法律刑法。劉邦攻入鹹陽之時，便立即廢除秦朝的苛法。與民約法三章，封存府庫，對百姓秋毫無犯，製定《九章律》的蕭何深得民心。法律思想在平定天下後，劉邦以儒家思想為主，以法家思想為輔，取消秦朝“嚴刑峻罰”的做法，廢除連坐法及夷三族，提出了“德主刑輔”。
即以教化為主，刑罰為輔，達到寬柔相濟，嚴鬆相當的統治效果。劉邦命蕭何參照秦朝法律“取其宜於時者，作律九章”，即“漢律九章”。這是在戰國時期李悝所製訂的《法經》六篇（盜法、賊法、網法、捕法、雜法、具法）基礎上補充了戶律（戶口管理、婚姻製度和賦稅征收）、興律（主要規定征發徭役、城防守備）和廄律（主要規定牛馬畜牧和驛傳方麵），一般所說的漢律就是指《九章律》。
劉邦重用叔孫通整理朝綱，叔孫通製定了一套適合當時形勢需要的政治禮儀製度，撰寫了《漢儀十二篇》、《漢禮度》、《律令傍章十八篇》等儀法法令方麵的專著，為漢朝的建立和鞏固起了重要作用，也為後人留下了一筆寶貴的文化遺產。
分封異姓王劉邦雖然做了皇帝，但他也沒有敢對自己的皇位掉以輕心。他在設盛宴招待英布等大臣時，曾經對在場的父親劉太公誇耀說：“原先您老經常說我是無賴，沒有賴以生存的賺錢之道，沒有二哥能理家治業。如今我做了皇帝，您看在是二哥的財富多，還是我的財富多呢？”不過在享受的同時他也采取措施對皇權進行了鞏固。
第一個讓他不放心的就是在各地的異姓王。他們都有兵將，有的還有三心二意。第二個問題就是其他將領，為功勞大小和賞賜的多少爭鬥不止，如果安撫不當，就會投奔那些異姓王作亂。還有原先六國的後代也不能掉以輕心。在中央，丞相的權力對他這個皇帝也構成了威脅。劉邦從做了皇帝，到最後病死，中間有八年時間，基本上都用在了解決這些讓他不放心的問題。
他先收拾的是韓信。在公元前201年，即高祖六年，有人告發韓信謀反。劉邦問怎麼辦，大家說發兵討伐。但陳平卻反對，他說楚國兵精糧足，韓信又善於用兵，發兵很難取勝。他建議劉邦以巡遊雲夢為借口，讓各諸侯王都到陳縣（今河南淮陽），到那時韓信一定會來，然後再抓他問罪。劉邦依計行事，果然將韓信抓住了。韓信聽到對他的指控，大聲喊冤：“古人說的果然不錯：‘狡兔死，良狗烹；高鳥儘，良弓藏；敵國破，謀臣亡’天下已經平定，我這樣的人也早就該烹殺了。”
劉邦將韓信押到了洛陽，但又沒有明確的證據，便釋放了他，但降成了淮陰侯。這使韓信懷恨在心。第二年，韓信謀劃讓陳豨在外地反叛，使劉邦親自前去平叛，然後自己襲擊留守都城的太子和呂後。但還是事情敗露。呂後采用了蕭何的主意，將韓信誘騙入宮抓捕，最後被斬於長樂宮鐘室，留下一個“成也蕭何，敗也蕭何”的成語。
除了韓信，其他諸侯王如彭越等人也被消滅，隻剩下了長沙王吳芮。對於其他將領，劉邦也頗費心機。開始，劉邦先是分封了蕭何等二十餘人官職，但眾將領因為互不服氣，爭功不止，劉邦就沒有封官。一次，在洛陽南宮，劉邦看見眾將坐在沙地上不知在說什麼，問身邊的張良怎麼回事，張良說他們在謀反。
劉邦問為什麼，張良說怕他以後不會封他們高官。劉邦又問怎麼辦，張良就問他最恨的人是誰，劉邦說是雍齒，因為他雖然功勞多，但太張狂，自己曾經想將他殺掉。張良聽了就讓他封雍齒為侯，這樣，大家就覺得被劉邦記恨的雍齒都能受封，他們就更不用著急了。於是，劉邦大擺慶功宴，封雍齒為什方侯，還當場命丞相和禦史抓緊時間草擬論功行賞分封的名單。張良的計策果然奏效，眾將的心都安定了。
對於六國的後裔，劉邦則將他們和地方的名門望族共十幾萬人全部遷到關中居住，置於中央控製之下，消除了後顧之憂。強化皇權關於丞相的過大權力，劉邦通過把蕭何下獄來打擊削弱相權。在劉邦平定了黥布叛亂回到長安後，蕭何提議把上林苑開放，讓百姓去耕種，因為上林苑基本上已經荒蕪，並不是養獸供皇帝狩獵的地方。劉邦一聽就惱了，硬說蕭何拿了商人的賄賂，所以才替他們說話，借百姓之名為商人牟利。