謝安病重，日複一日，愈加不堪重負。王獻之、車胤、桓伊來到病榻前，謝安昏迷少時，又緩緩醒來，王獻之作揖道：“丞相...丞相，可安好些？”
“陛下何在？”
王獻之道：“陛下往東山圍獵，得知丞相病重，正星夜兼程，趕回京師。”
“克定中原，收複二京，乃崇德太後夙願，大晉一統，原本指日可待，隻恐未捷先喪，不能親眼再見。”
“前敵軍情，丞相就不必多慮了，如今安心養病才是。”
謝安道：“老臣一生，僅有正妻一人，先逝於我，膝下二子二女，各安其命。家無餘資，更無田產，一生清寡散淡，孤身而來，獨身而去，無可慮也。”
“丞相......”王獻之、車胤、桓伊一起跪倒，飽含熱淚，難以自抑，車胤作揖道：“丞相大公無私，白璧無瑕，管仲遜色，孔明不及。有何托付，儘管說來，我等照辦。”
謝安遲鈍了一下，說道：“老朽昨夜，秉筆直書，上奏天子，加封武子吏部尚書，唯恐日後陛下用人失當，不能任人唯賢，耽誤大事。”
車胤道：“丞相放心，下官出任吏部，定當唯賢是舉，廣納賢才。”
謝安道：“我死之後，叔夏文武兼備，秉性忠義，可為護軍將軍，拱衛京師，方可稱心。”
桓伊道：“丞相放心，末將謹遵此托。”
謝安聽了微微點頭，又說道：“收複中原，統一天下，時至今日，未能實現，諸公致信謝玄，早過黃河，收複鄴都，統一之日，方可含笑九泉。”
王獻之道：“丞相自從政，久無官邸，尚書房往來嘈雜，不如選個安靜府邸，安養餘年。”
“家無餘資，生不帶來，死不帶走，何必再置辦館署，連累國家，尚書房足矣。”謝安說罷，合眼氣絕，不省人事，作彆千古。王獻之、車胤、桓伊三人伏地痛哭，送謝安歸天。
東晉太元十年、公元385年10月12日，謝安病逝於建康尚書房，享年六十六歲。孝武帝聞訊後，在朝堂裡哭吊三天。
朝廷又賜棺木、朝服一具，衣一套，錢百萬，布千匹，蠟五百斤，追贈太傅，諡號“文靖”。
因為謝安一生清貧，不愛金帛富貴，自家沒有私宅，孝武帝於是詔令在尚書房，備辦喪事儀式。追封為廬陵郡公。後有朱長孝做詩《晉相》一首傳吟至今，詩曰：
北伐錚錚難離鞍，征塵勞頓久未完。最難社稷為半壁，苦厄悠心是江山。
胡騎嘶鳴阻寒嶺，晉師長笛踏雄關。無雲先有淚流過，多雨總悲人不還。
兩袖清風隨浪逝，一生威績掃胡頑。中原待靖馬遲步，丞相身死捷未傳。
百載紛爭期一統，千年相頌是美談。
東晉東西兩線，節節勝利，不斷推進，黃河南岸接連收複。雖說已得中原大部土地，但是仍未越過潼關，關西戰亂，卻已波及長安。前秦另一路叛軍，由姚萇統率，五萬餘眾，兵臨長安。此時的長安城，天王苻堅再也調不出一支人馬，抵禦姚萇。
隻得孤處宮中，等待勤王之師，搖晃燈火，久久未熄，太子苻宏，快步來到明光殿，已經多日不曾朝見大臣的苻堅，半睡半醒斜臥在龍椅上。
苻宏奏道：“啟奏父王，姚萇叛軍，已臨渭水，大軍將至長安，此地不可久留。”
苻堅道：“漢中、西蜀，皆已被晉軍收複，孤王不在長安，還能去往何地？”
“叛軍封鎖道路，張蠔、竇衝等人正在設法趕赴長安，父王不如暫且規避，待勤王之師，平定關西叛軍，再回長安。”
雖然還有幾路人馬效忠前秦，但苻堅心中清楚，再趕赴京師，也擋不住近在咫尺的叛將姚萇。苻堅道：“叛軍明日便可殺至長安，京師難保，大勢已去，姚萇必然殺主自立，孤王欲留皇兒一條血脈，以防宗室滅門。”
“那父王之意？”
“皇兒帶皇親眾人，走武關南去，投奔晉國。”
“滅晉一統天下，乃父王夙願，兒臣怎可背離父王，屈身投敵？”
苻堅道：“這些年，孤王大興儒學，忠孝治世，禮化萬民，就是為了效仿漢人，天下大同，仁愛長存。事到如今，大秦亡國，隻在旦夕。皇兒若想活命，唯有投奔晉國。漢人懷柔五胡，仁德厚重，唯有如此，方能活命。”
“那父王不如隨兒臣，一同南去，歸順大晉。”