湖南省永興縣人，1902年10月1日出生於永興縣下青村一貧苦農民家庭。1922年考入湖南省立第三師範。1925年加入中國共產黨。1926年春由中共湖南區委選派赴廣州政治講習班、國民革命軍總政治部訓練班學習。結業後參加北伐戰爭，任國民革命軍營、團指揮員。蔣介石叛變革命後，由湖南省委介紹，潛回家鄉恢複革命工作。1928年1月，率農民武裝響應湘南起義，跟隨朱德、陳毅部隊上井岡山。紅軍時期，曆任紅四軍團長、紅五軍政治部主任、紅三軍團代理政治部主任、總政治部組織部長等職，參加了中央革命根據地的曆次反“圍剿”鬥爭和長征。

抗日戰爭期間，曆任八路軍三四四旅政委、縱隊政委、司令員，新四軍三師師長兼政委、蘇北軍區司令員、政委，領導創建冀魯豫、蘇北根據地，是八路軍、新四軍名將。1945年在中共七大上當選為中央候補委員。

解放戰爭之初，他向中央建議多派部隊去東北以創造大的戰略根據地，並率部3萬人挺進東北，創建西滿根據地。曆任軍區司令員、東北民主聯軍副司令員、東北野戰軍二兵團政委。入關後，任中共天津市委書記、湖南省委書記。參加了遼沈戰役、平津戰役、渡江戰役等，為全國解放和接管大城市作出了傑出貢獻。

湖南和平解放以後，他奉黨中央之命，出任中共湖南省委第一書記，兼任湖南軍區政委和湖南人民軍政委員會副主席，按照中共七屆二中全會精神和毛澤東主席對湖南工作指示，創造性地開展既是革命老區又是新解放區的湖南省工作，很快打開了新局麵。在三湘初定、百廢待興的情況下，他特別強調工作重心的轉移，樹立“為生產而鬥爭”的意識，大力爭取城鄉財政經濟狀況的好轉，發展工農業生產和各項事業。他注重調查研究，善於從實際出發製定決策和方針，強調“理論要與實踐一致，思想要與行動一致”。他堅持黨要管黨的原則，重視抓黨風、抓幹部作風，嚴肅黨的紀律，維護黨的團結統一，並模範開展統一戰線工作。任湖南省委書記3年，成績斐然。葉劍英曾評價說：“無論黨的工作、政權工作、財經工作、軍事工作都具有很大的成績。”1952年11月，他奉中央命令進京任人民解放軍副總參謀長兼總後勤部部長、政委。離湘之際，他以“由衷地戀舊，奮起以迎新”兩句話表達對湖南的熱愛和對黨的事業的忠誠。