伏恭字叔齐，琅邪东武(今山东诸城)人。他出身于一个名门望族，是光武帝时大司徒伏湛的侄子。他的生父是伏湛的哥哥，他还有个叔父，叫伏黯，字稚文，继承家学，以明晓《齐诗》而知名。他修改确定章句，并撰写了《解说》九篇，是当时有名的学者。伏黯的仕途很顺利，官至光禄勋，但美中不足的是膝下无子。于是，伏恭就成了伏黯的养子。
伏恭生性孝顺，侍奉养母无微不至，就像亲生母子一样。伏恭自幼跟随养父读书，继承了养父的学问。因为是名儒之后，东汉初年，伏恭被任命为郎。
建武四年(28)，伏恭被任命为剧县(今山东昌乐西)县令。他在剧县一干就是13年。实行德政，廉洁奉公，受到百姓的爱戴。青州刺史考察官吏，以政绩把伏恭列为第一等。
建武十七年(41)，伏恭被召到洛阳，参加由太常主持的考试，考儒家经典，伏恭名列第一，被拜为博士。后来又被任命为常山(今河北真定)太守。伏恭身为二千石的官员，仍然教学不辍。他在常山设立学校，招收门徒，并亲自讲学。伏恭的名气越来越大，北方的各个州郡都有不少儒生千里迢迢来到常山，拜在他的门下。伏氏学的影响也越来越大。
永平二年(59)，伏恭被擢升为太仆。永平四年(61)十月十九日，汉明帝刘庄亲临辟雍(国立大学)，在仪式举行的过程中，拜伏恭为司空。对此不仅伏恭本人受宠若惊，当时天下的儒者也都引以为荣。
伏恭在任期间，征辟东汉著名水利工程专家王景到司空府为官。当时，由于水利设施长期失修，黄河泛滥成灾，给人民造成极大危害。永平十二年(69)，伏恭向汉明帝推荐了王景治理黄河。东汉政府调集了几十万民夫和士卒在王景的领导下修渠筑堤，西自荥阳(今属河南)，东到千乘(今山东高青东北)海口，计一千余里，每隔10里立一个水坝闸门，使其能够互相调节，不再有崩溃或漏水的危险。这项工程花了一年多时间，耗资数以亿计，终于战胜了黄河水患。此后数百年时间，黄河再也没有改道，水灾也减少了。
伏恭在司空任上没有看到王景水门控制的成功和治理黄河工程的完成。永平十二年(69)七月二十四日，伏恭因病辞去了司空之职。回归故里。汉明帝下诏赐予伏恭千石俸禄终身。
永平十五年(72)，汉明帝到东方视察。在琅邪(今山东诸城)，汉明帝特地用三公的礼节召见了伏恭。
建初二年(79)春，汉章帝刘炟举行“养老礼”，任命伏恭为三老，伏恭时年84岁。所谓三老，就是指深知三德，即正直、刚毅、柔顺的人。古代君王设立三老，用尊敬父兄的礼数去尊敬他。伏恭穿麻布大袍，戴进贤冠(前高七寸，后高八寸，长八寸)，手扶玉杖，手杖的上端，镶嵌一个玉石雕刻的斑鸠。据说，斑鸠是一种不会噎食的鸟类，用以祝福老人良于进食。汉章帝进入明堂，直到“礼殿”，坐在东厢，派使节用安平(一匹马所驾的小车)迎接三老伏恭前来讲堂。皇帝亲自到门口屏风前迎接。行过君臣之礼，皇帝在前引导，先到东阶，三老径走西阶—— 《仪礼》上讲： 古代宾主相会，宾客自西登阶，主人在东迎见。皇帝依礼作揖，迎候伏恭上了台阶，面向东方而坐。由三公(太尉、司徒、司空)摆上桌案，九卿把木屐放妥，汉章帝亲自卷起袖子，分割祭肉，连同甜酱，一并送到伏恭面前，举起酒杯敬酒，祝福他身体健康，咽喉不受鱼刺伤害，食道不患难咽的疾病。
元和元年(84)，伏恭逝世，享年90岁。为了表彰这位德高望重的老臣，汉章帝下诏把伏恭安葬在汉明帝的显节陵下。
伏恭的儿子伏寿官至东郡(今河南濮阳)太守。