为了保存实力，朱德利用和国民党第十六军军长范石生的关系，使部队暂时挂上十六军第一零四团的番号。范石生是朱德云南讲武学堂的同班同学，他让朱德化名为王楷，凭此，范石生给予了部队部分给养。不久，蒋介石发觉驻守在犁铺头的队伍竟然是南昌起义的余部，就严令范石生“就地解决”，朱德只得率部迅速撤向敌人力量薄弱的广东乳源县北部与湖南宜章县边境。
1928年1月12日，朱德带领伪装成国民党军的起义部队，开进宜章县城，宜章县长不知真假，还在县咨议局为他们举行接风宴会，酒过数巡，王尔琢指挥一个排按照预定计划，逮捕了反动官吏及地主豪绅20多人。接着，王尔琢又率队包围养正书院，解除了县团防局的武装，收缴了近400支枪，并打开监狱，释放了在押犯人。第二天，全纵队正式改为工农革命军第一师，全师共1200余人，由朱德任师长，陈毅任党代表，王尔琢任参谋长。因为智取宜章的时间是在旧历年前十天，所以又被称为“年关暴动”。
2月29日，林彪带领一个连护卫着后勤辎重从永兴赶往耒阳，走至耒阳东南小水铺时，已是深夜，大地一片漆黑，山路崎岖不平，小雨淅淅沥沥下个不停。突然间，数百名国民党民团团丁从暗处杀出，紧急时刻，林彪命令部队收缩，拼死抵抗，好不容易才将敌人击退。林彪清点一下部队人数，发现伤亡30余人，押运的军用物资被抢劫一空。林彪领着剩余的战士沮丧地来到耒阳城，知道情况后，朱德大为震怒，平时就不善言辞的林彪更是羞愧得一言不发。林彪决心复仇，朱德批准了他的计划。
3月3日晨，林彪一行化装成“国民革命军第十九军”向小水铺开来。驻扎在小水铺的民团头头谭孜生，刚刚抢得林彪押运的辎重，他做梦也没有想到来的这群人是林彪部队化装的，立即设宴款待。宴会上，林彪举杯为号，大厅里的20余名“国军”军官一起举起枪向谭孜生开火。这次行动，林彪不仅夺回了被抢的全部辎重，还俘虏了数百名团丁。
接下来林彪做的几件事，让朱德对他有了一个全新的认识。3月初，国民党桂系第十九军李宜煊师将起义军逐出耒阳城。参谋长王尔琢指挥起义军主力从耒阳城西门发起反攻，以收复耒阳城，激战一个多小时，毫无进展。李宜煊从枪声中听出起义军只有少量轻机关枪，根本没有重武器，于是下令打开西门，向我军主动发起冲锋，王尔琢见势不妙，命令起义军撤出阵地。当朱德等人准备放弃耒阳城时，连长林彪站了出来。他对众人分析说：“现在耒阳城内，敌人多半是在领功请赏，戒备必定松懈，我军应该趁敌不备，连夜大举反攻。”按照林彪的设想，朱德所部最终收复了耒阳，消灭敌军百余人，抓获俘虏80余名，缴获枪枝500 余支。
随后，林彪又找到朱德，提出应一鼓作气，兵分三路，把耒阳境内敌军全部歼灭。朱德看着这个20岁的“娃娃”连长，再次采纳了他的建议，派出 3个连分3路直捣新市街的耒阳县常备队和驻在大陂市的耒阳挨户团总局。耒阳战役后，林彪威镇三湘。朱德发现林彪是个做大事的材料，1928年3月，提拔他为二营营长。如果在军事指挥上把林彪比作“千里马”的话，那么，朱德就是发现千里马的“伯乐”。
红四军参谋长王尔琢倒下了，他升起来了
1928年3月底，蒋介石从湘粤桂调集7个师的兵力，从南、北、西三路夹攻朱德、陈毅等人领导的湘南工农革命军。紧急时刻，朱德接到中央发来的一封信，信中说：“在桂东的北边茶陵、酃县以至江西莲花，均有毛泽东同志所带领的农军驻扎，不知你们已和他联络否？”“你们应确实联络，共同计划发动群众，以这些武力造成割据的暴动局面，建立工农兵代表会议--苏维埃政权。”根据中央指示，朱德决定撤出湘南，与湘南各县的农军一起向井冈山转移。
1962年朱德在《从南昌起义到井冈山》一文中说：“1928年4月28日，我们南昌起义保留下来的这部分队伍和湖南地方武装，在宁冈县的砻市同毛泽东直接领导的工农革命军胜利会师。”后来，何长工、肖克等老同志的回忆也都认为会师的时间是4月28日。1928年5月4日，两军会师大会和红四军成立大会在砻市举行。会上宣布成立工农革命军第四军。朱德任军长，毛泽东任党代表，王尔琢任参谋长，下设第十、十一、十二师。21岁的林彪任第十师第二十八团一营营长，何长工任该营党代表。
井冈山会师后，革命的武装力量更加壮大了。后来，蒋介石调集湘、赣两省军队多次“进剿”井冈山，少的时候有八九个团，最多的时候达18个团。在井冈山的反“围剿”斗争中，特别是在毛泽东亲自指挥的三打永新和龙源口激战中，林彪机智灵活、善用疑兵的战术风格赢得了毛泽东的赏识。
