1911年，張駕伍出生於陜西省米脂縣壹個農民家庭。
1918年，就讀於米脂桃鎮小學，
1928年，考入米脂三民第二中學。在校期間，經常閱讀進步書刊，加入中國***產主義青年團，擔任地下交通，還與同學上街、下鄉宣傳革命。大革命失敗後回家務農。
1933年，參加米東區革命活動，加入中國***產黨，任村支部書記和米東二區區委宣傳委員。
在國民黨軍“圍剿”期間，與張漢武、郭文華等鉆山窯上寨子，晝藏夜出，堅持鬥爭。
1934年，參加紅軍遊擊隊。
1935年，夏季時擔任紅軍十五支隊經濟員，後相繼任六支隊政委、獨立團營政委、紅二十八軍壹團營政委、獨立四營政委，隨軍轉戰佳縣、吳堡、綏德、米脂等縣。
1936年，紅軍東征前後，帶領四營三上神府，多次打敗敵人圍追堵截，完成護送過往負責人和歸隊傷病員任務。
抗日戰爭初期，任八路軍壹二○師三五九旅七壹八團營政治教導員。
1938年，赴瓦窯堡抗日軍政大學第壹大隊學習。畢業後留校工作，任十隊政委等。冬季，奉命進入山西靈壽縣陳家鎮，參與抗大二分校籌建，為晉察冀培養政治軍事人才。曾任大隊總支書記、供給處政委。
1943年，返回延安。
1946年，赴東北參與開辦東北軍政大學（原抗大），任大隊政委，協助解放區開展減租減息、土改運動和剿匪。
1947年，3月，任軍大西滿分校政委。後隨軍南下，任軍大江西分校、湖南分校政委。
建國後，任中南軍政大學江西分校副政治委員，湖南分校政治委員。第二十二步兵學校政治委員。
1951年後擔任第二十二步兵學校政委、第壹高級步校政治部主任、副政委。
1956年起擔任中央軍委軍事檢察院副檢察長兼總政治部保衛部副部長。
1963年6月3日，張駕伍將軍在北京病逝。