枕戈待旦一語首次出現在劉琨的《給親故書》中，劉琨說：吾枕戈待旦，志梟逆虜，常恐祖生吾着鞭耳。
書信寫給誰的，已無法考證，但是他表達的含意卻是那樣的真實。戈是指古代的一種兵器；旦是說早晨。意思是立志殺敵，枕着武器睡覺等天亮，時刻準備作戰。
公元306年，長達十幾年的八王之亂終於結束，而此時，劉琨已經整整三十六歲。他對這場骨肉相殘的爭鬥，早已厭倦，盼望建功立業的情懷，始終激勵着他衝出被諸王利用的怪圈。次年，這個機會終於來臨。由於司馬氏各王自亂，匈奴人劉淵自稱漢王，接下來自立為漢帝，至使并州大部落入胡人之手，陷入極度混亂中。這時晉王朝實力大不如從前，攝政王司馬越希望能有力挽狂瀾的將才為其江山出力。於是劉琨在哥哥劉輿的推薦下，出任并州刺史，加振威將軍，領匈奴中郎將。
刺史在當時也算是封疆大吏了，可是司馬越實際上只給了他一項官帽子。一切要劉琨自己去拼搏，去從胡人的口中奪。他面對的敵人當然就是劉淵。
劉淵何人呢？南匈奴的左賢王。因為在漢朝時有與匈奴和親的習慣，劉邦的宗女嫁給他的祖上為妻，故此世襲劉姓。劉淵自幼生長在中原，武藝高強，在匈奴中威望很高，看到司馬氏族自相殘殺，他便乘機回到左國（今天的山西省離石一帶），起兵自稱漢王，以後又稱帝。史稱五胡亂中華，就是從他這開始的。他的兒子劉聰，和大將石勒，在歷史上都很有名，一個在劉淵死後奪取了帝位，一個當了後趙的皇帝。所以說非常厲害。前并州剌史司馬騰，被劉淵打的落荒而逃。那司馬騰是誰呢，司馬越的親弟弟，試想他都打不過劉淵，讓劉琨去吃這個燙山芋，劉琨能好受嗎。但是劉琨無所畏懼，明知山有虎，偏要虎山行。就帶着新招募的約一千人的隊伍出發了。
京都洛陽離并州府晉陽（今山西省太原市）近千里地，中途要經過胡兵割據的許多地方，其艱難險阻可想而知。只是作為文學家，具有浪漫主義情懷，毫不氣餒，在穿越波瀾壯闊的黃河時，他劍指河水：“不消滅胡虜，有如大江！”路經板橋，劉琨以千人的隊伍，打敗了劉淵大將劉景率領的萬餘名胡兵的堵截。他後來在寫給皇帝的奏摺中寫道：臣自涉州疆，目睹睏乏，流離四散，十不存二，扶老攜幼，不絕於路。死亡委危，白骨橫野。哀呼之聲，感傷和氣。輒以少擊眾，冒險而進。群胡數萬，周匝四山，動足遇掠，開目睹寇……
如此危險的時刻，劉琨怎麼能睡上一個安穩覺？他枕戈待旦，隨時隨地地準備武器與敵決戰，成了家常便飯。
劉琨帶領着招募來的這點人馬，跋山涉水，衝破匈奴漢帝劉淵部的重重障礙，於在元嘉元年(307年)三月轉戰到了晉陽。這時，經歷了戰亂和饑饉洗劫之後，并州已經剩下不到兩萬戶，而晉陽僅是一座空城，“府寺焚毀，殭屍蔽地，其有存者，飢羸無復人色，荊棘成林，豺狼滿道”(《晉書 劉琨傳》)。即便如此，劉淵的部眾還常常來騷擾搶掠。在這種極端困難的條件下，劉琨率領軍民，剪除荊棘，收葬枯骸，安撫百姓，招徠流民，一面加強軍事防禦，一面抓緊生產自救。老百姓攜帶著武器下地耕耨，士兵在周圍警惕地守衛。
這其中，最令人敬仰的是，作為臨危受命的將軍，他造府朝，建市獄，為晉陽古城寫下最為光輝的一筆。晉陽城是春秋末年趙鞅的家臣董安於建造的，歷經了800餘年的滄桑巨變，再加上風雨剝蝕、戰火熏烤，形同西晉王朝的一處破院。董安於當年建造的晉陽城，雖然為趙國的奠基發揮過重要作用，卻也不過“城周四里”。此小城、危城，又如何能抵擋得了匈奴人？劉琨便決定擴建晉陽城，想構築起晉陽百姓的一處安樂窩。於是，一座新的晉陽城便在汾河岸邊拔地而起。“城周二十七里”，比起原來的老城擴大了許多倍。就這樣，農人復耕，商賈得市。“一日之中歸者數千”，逃亡的百姓也紛紛回來了，“雞犬之聲復相接矣”。
劉琨還根據自己的切身感受，抒寫出了著名的《扶風歌》：朝發廣莫門，暮宿丹水山據……鞍長嘆息，淚下如流泉……烈烈悲風起，泠泠澗水流。揮手長相謝，哽咽不能言……去家日已遠，安知存與亡。慷慨窮林中，抱膝獨摧藏……資糧既乏盡，薇蕨安可食……君子道微矣，夫子故有窮。惟昔李騫期，寄在匈奴庭；忠信反獲罪，漢武不見明。我欲竟此曲，此曲悲且長；棄置勿重陳，重陳令心傷。
鎮守并州十年間，劉琨面對強敵，幾乎天天是打打殺殺的日子。圍繞晉陽城，多次和匈奴人開展拉鉅戰。正如他在上表中寫道的：“勒據襄國，與臣隔山，寇騎朝發，夕及臣城……”此形勢下，他如何不“枕戈待旦”？
總結劉琨的一生，如果說聞雞起舞飄揚着他青春的旗幟，而枕戈待旦則是他人格價值的體現。從他抗擊匈奴漢帝劉淵的實踐看，枕戈待旦也同時是對他生命戰歌的生動寫照。