1927年大革命失败后,国内政治局势急剧逆转,中国革命进入低潮。八七会议后,毛泽东作为中央特派员到湖南改组省委,并发动和领导了湘赣边界的秋收起义,许多人纷纷响应,有些抗日青年也加入了进来。在攻打中心城市受挫后,以毛泽东为书记的前敌委员会当机立断,毅然改变原定部署,决定到敌人控制比较薄弱的山区寻求立足地。10月,毛泽东率领湘赣边秋收起义的工农革命军到达罗霄山脉中段的井冈山地区,开展游击战争,进行土地革命,恢复和建立共产党的组织,建立革命政权和赤卫队。与此同时,经过团结、教育、改造工作,将袁文才、王佐两支农民自卫军编入工农革命军。至1928年2月底,包括宁冈全县,遂川西北部,永新、酃县、茶陵等县部分地区的井冈山革命根据地初步建成。4月,朱德、陈毅率领工农革命军由湘南到达井冈山,同毛泽东领导的工农革命军会师,合编为工农革命军第4军,后改称红军第4军。
1928年4月底,朱德、陈毅率领南昌起义保存下来的部队和湘南农军到达井冈山,和毛泽东领导的工农革命军会师,成立了中国工农红军第四军。5月,组成了以毛泽东为书记的中共湘赣边界特别委员会;接着成立了袁文才任主席的湘赣边界苏维埃政府。红军在赤卫队和人民群众配合下,接连打破了江西国民党军的多次“进剿”。至6月,井冈山革命根据地拥有宁冈、永新、莲花3个县,和遂川、酃县、吉安、安福等县的部分地区。之后,又打破了湘赣两省国民党军的两次“会剿”。12月,彭德怀、滕代远率领红5军主力到达井冈山,同红4军会师。此后,红军粉碎了敌人的多次“围剿”,根据地不断扩大。1929年1月,毛泽东、朱德率领红4军主力向赣南、闽西挺进后,留下一部红军坚持井冈山的斗争。
井冈山,地处湘赣边界罗霄山脉中段,介于湖南酃县和江西宁冈、遂川、永新四县之交,总面积约四千平方公里。大革命时期,这几个县都建立了党的组织和农民自卫军,群众基础比较好;山由的茨坪、大小五井等地都有水田和村庄,周围各县农业经济可供部队筹措给养;这里离中心城市较远,交通不便,国民党统治力量薄弱;崇山峻岭,地势险要,森林茂密,只有几条狭窄的小路通往山内,进可攻,退可守。这里过去长期有"山大王",现有袁文才、王佐两支绿林式的农民武装,各有一百五六十人、六十支枪。王佐部驻在山上的茨坪和大小五井等处,袁文才部驻在井冈山北麓的宁冈茅坪,互相配合,互相呼应。
工农革命国要在井冈山落脚,不得到袁文才、王佐的允许是根本不可能的,而事情并不那样简单。他们两人虽然参加过大革命,袁文才还是共产党员。但他们对前来的这支工农革命军毕竟没有多少了解,还担心这支比他们力量大得多的部队上山会不会"火并山寨",夺取他们原有的地盘,心中难免存有疑虑。在古城会议期间,袁文才的代表曾表示:可以接济工农革命军一些给养,但请工农革命军"另找高山"。怎样说服和争取这两支农民武装?毛泽东选定先从已加入中国共产党的袁文才入手,再通过他去做王佐的工作。 他从袁文才的代表陈慕平的谈话中已经知道,他们最看重枪,人可以少一个,枪却不能少一支。袁部有一百五六十人,只有六十支枪。于是,毛泽东向前委提议,准备一下子送他们一百支枪,将袁文才的全部人员都武装起来。前委成员听到这个大胆的设想,有的人表示怀疑,余洒度坚决反对。经过毛泽东反复说明,才以多数通过。 古城会议后,毛泽东从绿林重义气、多猜疑的特点出发,只带几个随员到宁冈大仓村去会见袁文才。那是十月六日。袁文才原来还有些怕,预先在林家祠堂埋伏下二十多人,二十多支枪。见到毛泽东只来几个人,他就比较放心了,埋伏的人始终没有出来。见面中,毛泽东说明是由江西省委介绍来找他们的,充分肯定他们"劫富济贫"的革命性,同时说到工农革命军品目前的困难。双方谈得很投机。毛泽东当场宣布送给他们一百支枪,这很出袁文才的意料,也使他很受感动。袁文才向毛泽东表示,一定要竭尽全力帮助工农革命军解决各种困难,随即回赠给工农革命军六百块银元,并同意革命军在茅坪(这是一个有六十多户人家的村子)建立后方医院和留守处,答应上山做王佐的工作。当然,问题并不是在一次见面中就能全部解决的。袁文才当时对毛泽东说:"你们既然来了,就有福同享,有难同当,伤员和部队的粮油我管,但钱宁冈有限,还需要到酃县、茶陵、遂川一带去打土豪。"话讲得很客气,但显然已包含着推托的意思。至于王佐的态度如何,那时还不知道。解决这些问题,需要一些时间而不能操之过急。因此,毛泽东决定工农革命军主力在井冈山周围盘旋打游击,先向湘南的酃县方向挺进,筹些款子,熟悉周围环境探听南昌起义军进入广东后的情况,而把留守部门和伤病员安置在茅坪,请袁文才代管。不久,又应袁文才的要求,派游雪程、徐彦刚、陈伯多等党员军事干部到袁文才部队里帮助他们进行政治和军事训练,工农革命军和袁、王部队的关系一天天密切起来了。 工农革命军到了井冈山后的第一件事,就是抓军队和地方的建党工作。没有一个坚强有力的党组织形成核心,军队也好,根据地也好,都会松散无力,难以巩固和发展。所以,毛泽东把这件事看作一切的根本。