多難興邦，最早來源於《左傳 昭公四年》：“鄰國之難，不可虞也。或多難以固其國，啟其疆土；或無難以喪其國，失其守宇。”其意思是，當國家民族處於多災多難的非常時期，往往會激起人民發憤圖強，團結一致，戰勝困難，因而使國家強盛起來。
劉琨是兩晉時期著名文學家音樂家，愛國將領。東晉後期的國家可謂是多災多難。八王之亂中的王爺，幾乎一個不拉的被殺，最後的勝利者司馬越，也是戰亂中暴斃。公元307年，劉琨臨危受命，赴任并州刺史，他孤弱之師，力敵乘亂而起的匈奴“漢帝”劉淵劉聰父子，為晉朝在并州打出了一片天地。更可悲的是公元313年，洛陽失陷晉懷帝被劉聰俘獲。事過三年，在長安即位三年、年僅17歲的晉愍帝又遭到了同樣的命運，在長安被圍后，孤苦無助地投降了。劉琨得此噩耗，復仇心切，與石勒決戰於太行山，致使敗於石勒。劉琨在只剩下千餘人的情況下，來到幽州與段匹磾結為聯盟，以圖再戰。劉琨父母妻子俱被害，失去經營了十年的并州，心情可想而知，可以說他是在自身飽受戰爭傷害的時刻，仍保持着昂揚的鬥志。
可是再看大傷元氣的晉王室，只有左丞相司馬睿鎮守建康（今南京），還有點實力。只是他缺少劉琨那種寧為玉碎，不為瓦全的敢於亮劍的精神，眼看中原廣大地區淪陷，百姓遭殃，卻穩坐江南，縮手縮腳。劉琨對此是看在眼裡，急在心上，但他別無選擇，只能把振興中華的希望寄托在司馬睿身上，於是親自寫好《勸進表》，遣溫嶠去建康送上。他勸司馬睿繼任帝位，把國家大事勇敢地擔當起來。鼓勵他發憤圖強，不要怕困難。劉琨在《勸進表》中寫道：或多難以固邦國，或殷憂以啟聖明。意思是說：國家接連遭到這麼多的危難，使朝廷深深憂慮，是可以理解的。但是若能從危難中獲取教訓，奮起救危赴難，那麼壞事也許就可以變成好事。“多難”反倒可以激勵我們復興晉朝，鞏固邦國；“深憂”也可使皇上認清形勢，痛下決心。“或多難以固邦國，或殷憂以啟聖明。”從這兩句話，後來就演化出“多難興邦”這句成語。
這樣，司馬睿就在那時當上了東晉的第一代皇帝，即晉元帝。可是晉元帝到底沒有北伐的決心，劉琨終被殺害。青年時代與劉琨“聞雞起舞”的祖逖也憂憤而死。東晉偏安東南的局面一直繼續了一百多年。
但“多難興邦”這句成語卻流傳了下來。歷代的愛國志士，每當國家遭遇困難憂患的時候，往往用這句成語來自勵和激勵別人。同時，它也向人們傳達着劉琨和那段歷史的悲情。