“东山再起”常用来形容一个人退隐后再度出任要职，也比喻失势后重新得势。出自《晋书·谢安传》：“隐居会稽东山，年逾四十复出为桓温司马，累迁中书、司徒等要职，晋室赖以转危为安。”淝水之战是中国古代著名的以少胜多的战例，其中一方的指挥就是当时晋朝的宰相谢安。当时前秦军队由苻坚率领，其步兵、骑兵，再加上车辆、马匹、辎重，队伍足有千里长，这使得晋孝武帝和京城的文武百官都慌了神儿，但谢安指挥若定，最后取得了胜利。
谢安是陈郡阳夏人，出身士族，年轻的时候，跟王羲之等人关系很好，经常在会稽东山游乐，吟诗谈文。他在当时的封建士大夫阶层中名望很高，大家都认为他是个非常有才能的人，但是他宁愿隐居在东山，不愿出来做官。有人曾推举他做官，他上任一个多月，就辞职回家了。于是士大夫中开始流传：“谢安不出来做官，百姓怎么办？”到了四十多岁的时候，他才又重新出来做官。由于其长期隐居在东山，所以后人就把他重新出来做官的事称为“东山再起”。
另有一种说法认为“东山再起”指的是宋代宰相李纲。李纲是北宋的主战派，曾力荐岳飞担任抗金的统帅。岳飞为秦桧陷害后，他自己也被贬到离京城最远的海南岛崖州。由于路途遥远和水土不服，李纲到海南东山岭时大病一场，无法继续前行，于是就暂时住在那里。有一次，他去庙里上香算卦，遇高僧指点，便上山修行。后来宋孝宗继位，秦桧被杀，李纲得到赦免并官复原职，一直做到宰相。
这两个故事都是开始时隐居或被罢官，后来再次有所成就。“东山”是他们再起的地点，故有“东山再起”之说。今天我们常用这个词语表达经历失败后再次成功。