紫荆山在广西桂平县金田村西北，方圆两百多平方公里。这里除有世代居住的汉族外，还有壮、瑶等少数民族和来自广东的客家人。居民大多以 “种山烧炭” 为业，生活极为贫苦，有反剥削反压迫的斗争传统，而封建统治力量相对比较薄弱，是组织和积蓄革命力量的好地方。
冯云山 (约1815—1852) 于1844年11月深入紫荆山地区，先受雇于曾槐英家，住在曾家的牛棚里，挑担挖土，割禾打谷，捡粪积肥，样样都干，借以糊口，接近群众，宣传拜上帝会的宗旨，物色骨干力量。后来他又到曾玉珍家当过塾师，在书房门前贴过一幅对联： “暂借荆山栖彩凤，聊将紫水活蛟龙”，含蓄地表达自己的志向。
经过冯云山两年多的努力，加入拜上帝会的成员已达两千多人。基本群众是农民、烧炭工人、矿工、运输工人，有些是天地会成员，此外还有少数地主和士绅。在这些人中，涌现出杨秀清、萧朝贵、韦昌辉、石达开以及秦日纲、胡以晃等核心人物，后来成为起义的骨干。
1847年8月，洪秀全再次去广西。他和冯云山开始秘密商讨起义计划，制定拜上帝会成员行动准则的 《十款天条》，还带领群众破坏偶像、捣毁神庙。1848年10月28日，捣毁象州的甘王庙神像，影响很大。
1848年1月，地主团练以 “阳为拜会，阴为谋叛” 的罪名逮捕了冯云山，经过近10个月的斗争，才以“无业游民” 为由释放他。起义的准备工作正在加快地进行。