韩歆字翁君，南阳(郡治宛县，今河南南阳)人。地皇三年(22)，汉朝宗室刘縯、刘秀兄弟起兵讨伐王莽。刘氏兄弟是南阳蔡阳(今湖北襄樊东)人，与韩歆算是同乡。韩歆投奔刘氏兄弟麾下，南征北战，立下了汗马之功。刘秀做了皇帝后，封他为扶阳侯。不久，又任命他为尚书令，负责朝廷的日常工作。
在尚书令任上，韩歆勤勤恳恳，恪尽职守，在他的各项功劳中，最为人们所称道的是提倡古文经的功劳。
汉武帝“罢黜百家，独尊儒术”之后，儒学以经学的形式成为汉王朝的官方统治思想。董仲舒用阴阳五行说解释《春秋公羊传》，以巩固皇权，开创今文经学。西汉王朝立于学官的《五经》是用当时流传的“今文”(隶书)写的，“五经”十四博士都是今文经学者。正当今文经学垄断教育和学术，在西汉后期达到鼎盛局面的时候，新崛起的古文经学对它的地位提出了挑战。古文经是汉武帝末年鲁恭王刘余为扩建宫殿，毁坏孔子故宅，在孔府住宅墙壁中发现的，有《尚书》、《礼记》、《论语》等数十篇。这些书是用秦以前的文字写成，所以被称为古文经。不过，今文经和古文经的区别，主要还不在于书写文字上的差异，而在于基本观点的不同。古文经偏重于史家的解释，而今文经着眼的却是“挖掘”其中的“微言大义”。西汉有个今文经师解释《书经》上的“尧典”两字就用了十多万字。王莽秉政以后，对今古文采取了兼收并蓄的态度，下令将古文经立于学官。然而，在新莽末年的社会大动乱中，礼乐分崩，经学一度呈现寥落的局面。
东汉王朝建立以后，太学生出身的汉光武帝刘秀十分重视经学的复兴。今文经的十四博士很快都立于学官。为了反王莽之所为，取消了古文经学官的资格。但是，这时候的古文经学在朝野已有相当的势力，治古文经的学者迫切要求将古文经立于学官，取得与今文经同等的地位。韩歆适时向刘秀上书，要求将古文的《费氏易》和《左氏春秋》立为博士，结果引起今文经师范升等人的激烈反对，双方互相辩诘，形成了颇为热闹的一场论战。在韩歆的一再坚持下， 《左氏春秋》(即《左传》)终于得立于学官。经过这场辩论，朝野相信古文经的人数逐渐增多，连享有至尊地位的皇帝也对古文经显出了浓厚的兴趣。这种变化与韩歆的努力是分不开的。
建武十三年(37)三月十二日，刘秀擢升在沛郡(郡治相县，今安徽濉溪西北)做太守的韩歆为大司徒，官职得到升迁自然是令人高兴的，但韩歆没有想到，侍奉皇帝左右，稍有不慎就会给自己招来灾祸。韩歆性情梗直，说话没有技巧，直来直去，不知道隐讳，即使在皇帝面前也是如此。这一点，恰恰是刘秀所不能容忍的。
建武十五年，除了卢芳逃入匈奴苟延残喘以外，刘秀次第平定了渔阳的彭宠、秦郡的秦丰、梁地的刘永、齐地的张步、庐江的李宪、天水的隗嚣、巴蜀的公孙述，基本上完成了统一全国的伟业。对于这一点，刘秀是颇为自得的。一次上朝的时候，刘秀让人给大臣们念公孙述与隗嚣的来往书信。公孙述和隗嚣都是一时豪杰，公孙述称帝，隗嚣称西州大将军，各据一方，对抗东汉王朝十余年，刚刚被刘秀消灭。刘秀很是得意，不时想炫耀一下。可是公孙述和隗嚣，尤其是隗嚣很有才能，也很得人心，他们虽然失败了，可是天下同情他们的人很多。因此韩歆在此时不识时务地说了一句： “亡国之君都很有才能，夏桀和商纣也很有本事。”说者无心，听者有意，刘秀听了，以为是讽刺自己，不禁勃然大怒。可韩歆却不知收敛，又在皇帝面前，肯定地预言天下将发生重大的饥馑荒年，指天划地，言辞恳切但过于激烈。刘秀一怒之下，在建武十五年(39)正月二十三日罢免了韩歆大司徒的官职，并把他遣返回家乡。
然而，刘秀仍愤愤不平，他越想越气，又派使者送去诏书责备韩歆，言辞十分激烈。韩歆性格刚烈，宁折不弯，竟然在接到诏书后与儿子韩婴一起自杀了。韩歆名重天下，又因为他的努力使古文经重新立于学官，从而受到天下读书人的尊敬和感激。如今他无罪被逼死，人多不服。刘秀为了安抚人心，又追赠金钱粮食奠仪，厚葬了韩歆，并不因其死于非命而降低了葬礼的规格。