他隨父親和鐵路職工逃到黃河以南，去了武漢。1938年夏天，他從報紙上得知延安抗日軍政大學招生的消息，懷著抗日救國的熱情，來到陜北延安抗日軍政大學學習。今年冬天，在行軍途中，他加入了中國* * *生產黨。
1939年5月，劉知俠從康達大學畢業後，留校學習軍事專業。學習結束後，劉知俠隨分校去了山東抗日根據地，並被分配到康達山東分校藝術團工作。1943年，康達分院改編為山東省軍區教導總隊，劉知俠隨文工團調到山東省文聯。這壹年，沿海抗日根據地舉行了全省戰鬥英雄模範大會。會上，劉知俠見到了飛虎隊的英雄們，並被他們的戰鬥事跡所感動。他決定把這些英雄事跡寫進文學作品。他兩次穿越敵人封鎖線到山東南部的棗莊和微山湖，在飛虎隊深入生活，為小說《飛虎隊》收集了豐富的素材。
全國解放後，劉知俠擔任濟南市文學藝術界聯合會主任。山東省文學藝術界聯合會成立於1950，歷任總編輯、秘書長、黨組成員。在此期間，他寫了短篇小說《鋪草地》，深受讀者喜愛。他的小說《飛虎隊》發表於0953+0952-1953，後被改編成電影文學劇本搬上銀幕。據統計，《飛虎隊》原版加上各種刪節本和縮略本* * *已出版300多萬冊，並被翻譯成英、俄、法、德、韓、越等8種語言在國內外發行。
1953，劉知俠調入上海作家協會從事專業創作。他將建國後發表的短篇小說匯編成《草集》，創作了《飛虎隊小隊員》。1959，山東省文學藝術協會選舉劉知俠為山東省文學藝術協會副主席、中國作家協會山東分會主席，並擔任《山東文學》雜誌總編輯。同年當選為中國文學藝術界聯合會委員、中國作家協會理事。1960年創作了短篇小說《紅姐》和中篇小說《沂蒙山的故事》，之後他將這些作品編成了《沂蒙山故事集》。1979期間，劉知俠任山東省文聯黨組書記期間，寫了中篇小說《大嫂方林》。
1986年劉知俠定居青島後，晚年以超人的毅力完成了40萬字的長篇小說《沂蒙飛虎》、40萬字的《俠客短篇小說選》和20萬字的《戰地日記》(即淮海戰役的所見所聞)。為了寫作，他從西鎮壹位老同誌家裏借了壹間空房來寫作。他每天走四五裏路，中午吃兩三個饅頭，壹壺開水。
劉知俠關心年輕作家，經常在百忙之中抽出時間進行輔導。他也很好客。他給妻子立了壹個不成文的規矩:凡是外地來青島的老同誌、老戰友、老朋友，壹定要留他們吃飯。每年夏天他們家都住滿了客人。有壹家叫國際旅行社的房子，是給自費來旅遊的客人住的。他幫別人拿稿費，交了三萬塊會費，但他勤儉樸素。他總是不願意扔掉用過的火柴盒，所以他去買壹些散落的火柴桿，放在裏面以備不時之需。
9月30日上午，劉知俠因突發腦溢血去世。但他的作品依然激勵和教育著壹代又壹代人。可以說生是香的，死是香的。