马成，字君迁，南阳棘阳(今河南南阳南)人。年轻时，在棘阳县里做小吏。刘秀将兵攻打颍川(郡治阳翟，今河南禹县)，马成前去投奔，被任命为安集掾。不久，刘秀又让他到新占领的郏县(今属河南)做代理县令。刘秀不愿在更始皇帝刘玄手下做事，带了一支人马渡黄河北上，去开辟自己的天地。马成闻讯，把县令印扔在桌上，悄然北去，几经辗转，终于寻见刘秀。刘秀感叹他一片忠心，留他在身边做侍卫官。建武元年(25)，刘秀即皇帝位，随他征战的将士各有封赏，马成被授予护军都尉的官衔。
建武三年(27)，割据庐江郡(郡治舒县，今安徽庐江西南)的李宪自立为天子。此人乃许县(今河南许昌东)人氏，王莽末年在庐江郡做连率(即郡守)。王莽败死后，据郡自守。刘秀当然不会容忍出现第二个皇帝。翌年秋八月，他拜马成为扬武将军，督率诛虏将军刘隆、振威将军宋登、射声校尉王赏三位将校，进击李宪。刘秀亲临寿春(今属安徽)，为他们送行。马成督军横渡长江，向李宪的老巢舒县推进。进抵舒县城下，马成命各军深沟高垒，围而不打。李宪屡屡派人挑战，马成皆坚壁不战。整整围困了1年又4个月，至建武六年(30)春正月，舒县城中粮尽，马成方麾兵攻城，一战而克，阵斩李宪。
建武八年(32)夏四月，刘秀御驾亲征割据陇西的隗嚣，马成随行，被任命为天水(郡治平襄，今甘肃通渭西南)太守，扬武将军如故。这年冬，刘秀又把他征还京师。翌年，以代理中郎将的身份率兵西征，攻占武都郡(郡治武都，今甘肃西和西南)。
建武十二年(36)九月，大司空李通辞官，刘秀命马成代理大司空。马成虽是代理，然行事不亢不卑，如同真的大司空一样。他做了六个月的代理大司空，建武十三年(37)三月，又回到扬武将军任上。
第二年，刘秀把他派到北部边陲，率重兵驻屯常山(国治元氏，今河北元氏西北)、中山(国治卢奴，今河北定县)，防守边疆，备御匈奴。不久，刘秀又命他代骠骑大将军杜茂缮治边防线上的障塞。马成不辞劳苦，指挥士卒修建了一座座障塞，每隔10里设一要塞。一有战事，即燃烽燧报警。这道防线对防御匈奴入寇起了重要作用。
马成在北部边陲一干便是五六年。他治军很严，严禁将士骚扰百姓，深得当地吏民的拥戴。故当刘秀觉得马成太劳累，召他回京休养时，边地吏民纷纷上书，恳请让马成留下。刘秀感叹良久，批准了他们的请求，拜马成为中山太守，挂上将军印，仍领屯兵。
直到建武二十四年(48)秋七月，长江南部的武陵郡(郡治临沅，今湖南常德)发生了少数民族的反叛，刘秀才急召马成移师南下进讨。马成出师不利，刘秀改派伏波将军马援统兵围剿。回到京师，刘秀让马成交还中山太守印。
马成从此赋闲京师。他一生的事业至此划上一个不太圆满的句号。
建武二十七年(51)，刘秀重新分封诸将，马成被封为全椒侯。全椒(今属江苏)东眺长江，风景颇美。马成离京南下，去封国安度晚年。
建武三十二年(56)，马成寿终正寝于全椒。