灌婴，砀郡睢阳(今河南商丘南)人。他早年以贩卖丝绸为生，是秦王朝统治下的一个自食其力的小商人。不过灌婴也不是一个安分守己的人物，一旦时机成熟，风云际会，他就有可能成为时代的弄潮儿。
随着秦王朝赋役征发的不断加重，灌婴的日子也是每况愈下，苦不堪言，怨恨之心油然而生。秦二世元年(前209)七月，陈胜、吴广在大泽乡揭竿而起，全国震荡，群雄蜂起，灌婴瞅准时机，投奔到刘邦麾下。
二世三年(前207)十月，刘邦受楚怀王之命，率领一支不足万人的队伍开始了向咸阳的进军。刘邦一军由砀(今安徽砀山南)出发，直下城阳(今山东菏泽北)，接着与秦军在杠里(今河南范县西)夹壁对战，击破其二军。灌婴在战斗中初次崭露头角，由于勇敢善战被赐爵七大夫，并受到了刘邦的重视。三月，刘邦率军围攻开封(今河南开封南)，未能成功。转军北进，与秦将杨熊激战于白马(今河南濮阳)，再战于曲遇(今河南中牟境内)，大破秦军，灌婴因为力战有功，赐爵执帛，称为宣陵君。其后，灌婴又追随刘邦西进武关，战于蓝田，把秦王朝仅余的一点兵力消灭净尽。汉元年(前206)十月，刘邦率军进驻霸上(今陕西蓝田境内)，此去咸阳，不过百里之遥。这时候，秦王子婴据守着咸阳一座空城，既无可守之险，又无可战之兵，已经山穷水尽了，终于投降了刘邦。刘邦论功行赏，封赏手下有功之臣。灌婴在这历时一年零一个月，行程三千余里的西进途中斩关夺隘，略地克城，战功卓著，被赐爵执圭，称为昌文君。
汉元年(前206)四月，刘邦被项羽分封为汉王以后，任命灌婴为郎中，从入汉中。八月，汉王刘邦用韩信之计，从故道北进，暗渡陈仓(今陕西宝鸡东)，突袭雍王章邯，章邯败走，汉王围之于废丘(今陕西兴平东南)。塞王司马欣、翟王董翳降汉。关中落入刘邦之手，这是楚汉战争的前奏。在平定三秦的战役中，灌婴因功被晋升为中谒者。汉二年(前205)十月，灌婴随刘邦东向自临晋(今山西大荔东)渡过黄河，降服了殷王司马卬; 又在定陶(今属山东)以南袭击项羽的大将龙且和魏相项他，经过激战取胜。灌婴累积战功，被刘邦赐为列侯，称昌文侯。
几个月以后，灌婴随刘邦攻入楚都彭城(今江苏徐州)取得了楚汉战争以来最大的一次胜利，但不久项羽突然回军把汉军打得大败。刘邦狼狈西逃，灌婴紧随至雍丘驻扎下来。这时，王武、魏公申徒背汉归楚，灌婴随刘邦讨伐平息了叛乱，并向西进军驻扎于荥阳，帮助刘邦建立了阻止楚军西进的防线。自此后，楚汉长期相持于荥阳、成皋之间，互有胜负，汉不能东，楚亦不能西。在相持中，楚军中有一支往来飘乎、如疾风骤雨的骑兵，对汉军威胁很大。刘邦为了对付楚军，打算组建骑兵部队，在军中选拔可以充当骑将的人才。大家公推李必和骆甲，他们两人当时任校尉，原是秦国的骑士，可以任骑将。刘邦也准备让他们二人为将，但他们却推辞说： “微臣原是秦民，恐怕士兵信不过我们，所以我们希望由大王左右善于骑马的人来教导。”在诸将中，灌婴虽然年轻，但已经身经百战，战功赫赫，深为刘邦器重，被任命为中大夫，统帅骑兵部队，由李必、骆甲担任左右校尉，辅佐灌婴。灌婴率领所部在荥阳以东袭击楚军骑兵，打了大胜仗。接着，他又率部袭击楚军，截断了楚军从阳武到襄邑的粮食补给线，在鲁下击败了楚将项冠，斩杀楚军右司马和骑将各一人。随后，灌婴又率部击败拓公王武和他的别将桓婴的部队，斩杀都尉一人，楼烦将五人，连尹一人。此后，灌婴率骑兵到河南，把刘邦送到洛阳，并北迎韩信的部队到达邯郸。回到敖仓，灌婴升为御史大夫，以列侯爵位得杜平乡为食邑，留在刘邦身边效力。汉三年(前204)六月，项羽包围成皋，灌婴与刘邦同车逃出成皋北门，在极度危险的情况下保护刘邦安全脱险至韩信军中。
根据刘邦的部署，灌婴以御史大夫的身份率领所属郎中骑兵接受韩信统一指挥，参加东向伐齐的战斗。汉四年(前203)十月，灌婴随韩信突袭历下(今山东济南)的齐军主力，乘胜攻克齐都临淄(今山东淄博)。项羽派大将龙且率二十万大军救齐，齐王田广招集散兵，与楚军汇合于潍水东岸。汉军与齐楚联军隔河列阵。龙且非常轻视韩信，在半渡淮水之际，不意为韩信放水所淹。齐楚联军死于水中无数，龙且在乱军中被杀，亚将周兰被灌婴生擒。韩信乘胜追击，全歼救齐之楚军，擒杀齐王田广，活捉齐相田光。随后齐将田横自立为王。灌婴击败田横军于嬴下(今山东莱芜西北)，田横只身逃走，随后，灌婴又斩杀齐将田吸于千乘(今山东高青)。至此，西起太行，东至海滨的三齐之地为汉所有。
齐国平定之后，韩信自立为齐王。灌婴受韩信派遣为别将，攻打楚将公杲于鲁北。打败公杲之后，转而南下，打败薜郡长，灌婴本人俘虏骑将一人。淮水之北，灌婴所到之处，所有城邑无不降服。项羽闻讯派项声、薜公、郯公收复淮北，又被灌婴击败。灌婴乘胜追击，取下邳，击败楚军骑兵于平阳，攻占了楚都彭城，生俘楚柱国项佗，驻扎在附近的楚军纷纷投降。紧接着，灌婴又挥军向西进击，在颐乡(今河南鹿邑境内)与刘邦会师。之后，随刘邦攻克陈(今河南淮阳)，灌婴所部斩杀楼烦将二人，俘获骑将八人。灌婴的食邑因此增加为2500户。
项羽兵败垓下，率八百骑兵突出重围向东南遁逃。灌婴奉命率领五千轻骑迅速跟踪追击。项羽渡过淮河之后，随从人员只剩百余人，至阴陵(今安徽淮南东)迷路，陷大泽中，为汉军追及。项羽东走东城(今安徽定远)，只有二十八骑跟随，这时灌婴手下的数千汉军已将他们团团围住。项羽以世罕其匹的勇气和部下拚死力战，连斩汉将及士卒数百人，迫使灌婴率军辟易数里。东城一战，项羽的二十八骑大部分战死，项羽却凭着他的英勇、机智和顽强，再次突出重围，向东南方向狂奔。灌婴率领汉军穷追不舍。在乌江(今安徽和县东北)边上，灌婴亲眼看着这位一代叱咤风云的英雄项羽在他的马前结束了自己的生命。紧接着，灌婴又率汉军主力一部迅速渡过长江，肃清了江南的楚军残部，使长江流域的大部分地区归附到刘邦统治之下。
汉五年(前202)七月，灌婴以车骑将军的官职从刘邦征伐反叛的燕王臧荼。第二年十二月，他又跟随刘邦伪游云梦，擒楚王韩信。十二月二十八日，刘邦论功行赏大封功臣。灌婴被封为颍阳侯，食邑2500户，剖符为信，世世代代为侯，永不断绝。
汉七年(前200)十月，灌婴随刘邦征伐投降匈奴的韩王信，受命节制燕、赵、齐、梁、楚诸国前来助战的车骑部队，打败匈奴骑兵，攻占平城(今山西大同)。后因中匈奴埋伏，与刘邦一起被围困于白登山七天七夜，全赖陈平之计得以脱险。汉十年(前197)，代相陈豨反，灌婴又跟随刘邦平定了代地。汉十一年(前196)七月，淮南王英布反叛。汉高祖刘邦御驾亲征。灌婴任车骑将军率领一支汉军为先锋，迅速赶至淮南向叛军攻击，穷追溃敌于淮河之畔，立下首功。英布之乱平定后，刘邦凯旋回朝，灌婴的食邑因此增加到5000户。
灌婴追随刘邦南征北战十多年，战功卓著，在汉初功臣中仅次于曹参、周勃。他击败敌军16部，降城46，平定一个封国、两个郡、52县，俘虏将军二人、柱国、相国各一人，二千石的官吏十人，为汉王朝的建立和巩固立下了巨大功勋。
但汉高祖刘邦去世之后，灌婴被冷落了。在汉惠帝和吕后统治的十多年中，他没有担任具体的行政和军事职务。
高后八年(前180)，吕后去世。吕后虽然死了，吕产、吕禄却受命统领着南军、北军，严密地控制着宫廷和京城。齐王刘襄以征伐吕氏的名义号召诸侯，自己首先发兵往西边打过去。吕产这时忽然想起了灌婴，于是任命他为大将，率军东向迎击齐军。灌婴带兵进至荥阳，就屯兵不再东进。他对亲信的将士们谋划说： “吕产、吕禄他们统领大军，占领关中，明明是要夺取刘家的天下。我们攻打齐王，不是助纣为虐了吗?”留驻荥阳，遣使告谕齐王及诸侯，要与他们联合，并等待时机共同诛诸吕。齐王听了以后就还兵西界，等待消息以便完成约定。吕禄、吕产想在关中起兵，但内怕绛侯周勃等大臣，外怕灌婴背叛，想等待灌婴破齐后再动手，正在犹疑不定。灌婴又派人联络周勃、陈平，叫他们从里面发动起来，里外夹攻，消灭吕氏。灌婴手握重兵，据有战略要地荥阳，其向背有举足轻重的作用。他的毅然倒戈，使诸吕在军事上彻底孤立，因此周勃、陈平得知灌婴和他们一条心后就不再犹豫，立即行动。一举诛灭了吕氏集团。周勃、陈平诛杀诸吕之后，齐军罢兵归国，灌婴也领兵回朝，和周勃、陈平一起谋划，共同立代王刘恒为皇帝，是为汉文帝。汉文帝即位后，论功行赏，任命灌婴为太尉，地位仅在周勃、陈平之下，并加封食邑3000户，赏赐黄金一千斤以表彰灌婴对刘氏的忠心。
文帝三年(前177)十一月，绛侯周勃免相，文帝任命灌婴为丞相，并罢除了太尉官位，将兵权并于丞相。不久，匈奴骑兵大举侵入北地郡(今宁夏一带)，文帝命灌婴率领骑兵八万五千人前去迎击，击退了匈奴。恰在此时，传来了济北王刘兴居谋反的消息，文帝于是下诏让灌婴停止讨伐匈奴的军事行动，回长安处理平叛事宜。济北王的叛乱很快被平定了，可是灌婴以垂暮之年疲于奔命，过于辛劳，仅仅一年之后就得了重病，死于丞相任上。汉文帝对这位历仕三朝的元老重臣的死很是伤心，亲临祭奠，厚葬了灌婴，以表彰他一生的赫赫功勋。