1930年春夏，毛澤東為安排紅四軍政委一職頗傷腦筋。
他需要為23歲的軍長林彪選擇一個能夠合得來的搭檔。林彪是黃埔軍校四期畢業生，打起仗來比較靈活，毛澤東對他是器重的。但林彪這個人性格卻很古怪，個性強，固執己見，不願聽別人的批評，平時一副沉默寡言的樣子，別人頗難同他共事。
從左至右依次為劉亞樓、林彪、羅榮桓
自從上井岡山他擔任二十八團團長以來，同歷任黨代表大都搞不好關係。紅四軍下井岡山時，二十八團黨代表何挺穎在大餘戰鬥中負了重傷。雖然軍黨代表毛澤東曾指示一定要照顧好他，但身任團長的林彪對何關心不夠、照顧不周，結果竟使何挺穎在夜行軍中從馬背上摔下來犧牲了。
後來林彪當了軍長，而軍政委未到職，代理軍委書記赴黨中央開會未歸。作為紅四、五、六軍前委書記，毛澤東必須物色代理紅四軍政委的合適人選，這個人除了具備豐富的政治工作經驗，還必須具有堅定的原則性，又有在非原則問題上的靈活性。毛澤東經過反覆而慎重的考慮，終於選中了貌不驚人的羅榮桓。
羅榮桓
羅榮桓是個老實人。他是在武昌中山大學讀書時參加中國共產黨的。1927年大革命失敗之際，他在鄂南組織農民自衛軍，擔任自衛軍的黨代表，因他是大學生，又兼任管賬先生，在率領農軍參加秋收起義的途中，竟讓兩個自告奮勇前來“幫忙”的農軍士兵把裝錢箱子拐走並逃之夭夭。丟了兩百塊錢，他才明白到革命隊伍裡混飯吃、找出路的，大有人在。
果然到三灣改編時，原參加秋收起義的四個團只剩下兩個營了。羅榮桓堅定地留了下來。毛澤東喜歡這位革命意志堅定的大學生，任命他為三營九連黨代表。在開闢井岡山革命根據地的鬥爭中，羅榮桓表現出色，治理連隊有方，受到毛澤東的欣賞。
三灣改編
紅軍在遂川藻林鎮打土豪時，遇到一家有錢有勢的大地主。紅軍初到地主家時，地主先把財寶埋藏起來，鎖上家門後逃跑。紅軍向群眾調查，多數人都不知道地主下落，有的人知道不敢講，害怕地主回來報復。羅榮桓率人經深入調查得知，地主家僱有三個長工，地主逃走後，不放心家裡，常暗中打發長工來回報告情況。
羅榮桓遂派人到一個長工家用假逮捕的辦法把他捆綁起來押到連部，然後親自給他鬆綁，同他談心、拉家常，給他做飯吃。這個長工一開始很害怕，看到當官的對他這樣和藹又有些糊塗，當他弄清紅軍把他捆來是為他安全考慮時，很受感動，便把地主躲藏的地方及埋財寶的地方報告給紅軍，紅軍分了地主的財產給群眾。這樣既打擊了地主，又爭取了群眾。
井岡山時期，為加強伙食管理，紅軍各個伙食單位都建立了監廚和採買制度。這兩項工作通常是由正副班長們輪流擔任。監廚負責監督做飯和伙房衛生，掌握開飯時間，給出差人員留飯等；採買則協助司務長和軍需上士購買一天所需的菜蔬。
1928年秋的一天，輪到九連四班班長擔任連隊採買。早飯後他和軍需上士到墟上買菜，因上士拉肚子，把買菜的一塊大洋交給班長，讓他先去買菜。結果大大咧咧的班長把一塊大洋搞丟了。丟了一塊大洋全連隊一天吃不上菜，上士埋怨不停。班長心裡也著了急，心想回去一定得受處分。
回到連隊，班長和上士去見黨代表羅榮桓。班長把買菜丟錢的經過報告了黨代表。羅榮桓聽後皺了皺眉批評說；“你怎麼這麼粗心大意呀?你不知道公家現在困難得很嗎?別說一塊錢，就是一毛、一分錢也來之不易呀!”
班長慚愧地說：“我也知道丟了公家這麼多錢叫公家受了損失，太可惜了。這隻怪自己太不小心，以後一定注意改正。我現在請求黨代表給我處分，丟了公家的錢，就從分給我的伙食尾子裡慢慢地扣吧!”
“你想受什麼處分呢?扣你的伙食尾子，這要扣到哪一年才能扣得清呀?”
“連裡給我什麼處分我也沒意見。伙食尾子什麼時候扣清什麼時候算。”
羅榮桓見班長認錯還挺誠懇，便嚴肅而和藹地說：“算了，這次不給你什麼處分了，伙食尾也不扣。不過錯誤可不能再犯，這次你雖然是偶然不小心，也是要不得的……這樣不經心是會壞大事的。你已經當了這麼久的班長了，要處處給大家作模範才行，以後可不能那麼孩子氣了!”
既沒受處分，又沒扣錢，而是得到嚴肅耐心的批評教育，四班長心裡特別感動。
毛主席
羅榮桓堅決擁護毛澤東的建軍思想和建軍路線，並且是模範的執行者。他歷來反對由舊軍隊遺留下來的軍閥殘餘作風，強調通過思想教育，啟發士兵自覺遵守紀律。士兵們有了缺點錯誤，他都是耐心地給他們講清道理，指出錯在哪裡，應該如何改正，從來不發脾氣，使士兵口服心服。連隊碰到許多棘手的問題，他都能圓滿妥善地解決。
在行動上，羅榮桓能夠率先垂範、以身作則。凡是要求戰士做到的，他自己首先做到。打仗時衝鋒在前，退卻時掩護在後，行軍時為病號扛槍，宿營時下班查鋪，吃飯時帶黨員出去站崗放哨，有時甚至自己餓著肚皮。因此羅榮桓深受士兵們的愛戴，在他們當中享有很高的威望。士兵們都願意接近他，有什麼問題就去找他商量。後來他調到三十一團三營任黨代表時，全連同志都戀戀不捨，不願讓他走，他離開時，有許多戰士灑淚相送。
羅榮桓出任三十一團三營黨代表後，由於他出色的工作，使三營成為一支拖不垮、打不爛的紅色“鐵軍”。
1928年湖南省委代表錯誤指揮造成“八月失敗”，毛澤東親率三營南下接二十八團，行程數百里，打了十幾仗，卻沒有一個開小差的，創造了鞏固部隊的好記錄。毛澤東慧眼識英才，覺得羅榮桓值得信任和重用。經過他的介紹，羅榮桓以一個下層工作幹部在紅四軍黨的九大上當選為前委委員。毛澤東相信羅榮桓會成為一個優秀的政工幹部。他評價說：“榮桓是個老實人，而又有很強的原則性，能顧全大局，一向對己嚴，待人寬，做政治工作就需要這樣的幹部。”
羅榮桓走馬上任，不少人為他捏了一把汗。但羅榮桓在紅四軍中開展既生動活潑又紮紮實實的政治工作，使全軍指戰員始終保持了非常旺盛的戰鬥情緒。羅榮桓把軍事訓練、後勤工作也抓得井井有條。性格褊狹的林彪也感到沒有什麼好挑剔的了。於是，軍長和政委之間，一直相安無事。老實、厚道、忍讓，有時不免要吃虧，在有些人看來是軟弱的表現。但毛澤東卻從羅榮桓的樸實中，發現了他在原則問題上的堅定不移，在非原則問題上的容人之量。
毛澤東發現的這位人才，成了人民軍隊政治思想工作的巨匠。後來，羅榮桓歷任八路軍一一五師政委，解放軍第四野戰軍政委、中央軍委總政治部主任，軍隊政治工作幹部中惟一獲得元帥軍銜的人。