匡衡，字稚圭，东海承县人。世代务农，到匡衡时喜好读书。匡衡得中甲科，选任为平原郡文学。元帝刚即位，乐陵侯史高以外戚的身份被任命为大司马车骑将军,兼任尚书,前将军萧望之为副手。萧望之是名儒，皇帝很重用他，他在推荐人才方面颇多贡献。史高则空有名位罢了，和萧望之产生隔阂。长安县令杨兴劝说史高说：“将军凭借亲戚关系辅助政事，名位高贵，举世无双，然而在众人的议论中，好的名声、荣誉不全在将军身上，为什么呢？因为将军的幕府，世人没有不仰望羡慕的，而将军所推举的人不过是私家宾客。一个人富贵在身士人却不称赞他，就像是拥有狐皮大衣却反穿着它，古人认为这是弊病。平原文学匡衡的才能智慧绰绰有余,但随着选补的文牒转到远离京师的地方作官。将军如果征召匡衡到幕府任职，天下学士一定纷纷跟从他，让他参与议论政事，根据他的特长，推荐给朝廷，一定会成为国家的栋梁之材。您将这件事做给众人看，您的美名也就会在世上流传。”史高认为杨兴讲得有理，就任命匡衡为议曹史，将他推荐给皇上，皇上让他做郎中，后升为博士，兼任给事中。
　　这时，发生了日食、地震等灾异变化，皇上询问这些变化与政治得失的关系，匡衡上疏，皇上听了他的话后很高兴，进升匡衡为光禄大夫、太子少傅。匡衡在任太子少傅的几年中，多次上疏陈述皇上应该做的事情。建昭三年，接替韦玄成担任丞相，受封乐安侯，享有食邑六百户。
　　元帝去世后，成帝即位，匡衡上疏讲述经学、礼节的法则。皇上敬纳他的建言。当初，元帝在位时,中书令石显主持朝廷事务,从前任丞相韦玄成到匡衡都害怕石显,不敢违背他的意思。到成帝初即位，匡衡才与御史大夫甄谭一起上奏弹劾石显，一一追究他的旧恶，并追及他的党羽。这时司隶校尉王尊上奏弹劾说：“匡衡、甄谭担任大臣的职务,知道石显等人独断专权，但匡衡、甄谭不按时地上奏弹劾，惩罚他们，反而附和下面，欺瞒皇上，没有尽到大臣辅助朝政的职责。上奏弹劾石显等人后，又不陈述自己对皇上不忠之罪，反倒张扬先帝任用颠覆国家的坏人的过错，犯下了不守臣道的罪。”皇上下诏说不要弹劾匡衡。但匡衡仍感到惭愧和恐惧,上疏认罪,并称病请求告老还乡，缴上丞相乐安侯的大印。皇上回答说：“你的道德修养很高，担任三公的要职，我很高兴能与你同心同德共同治理国家。现在司隶校尉王尊狂妄地诋毁你，我很同情你。我正下诏让有关部门查明情况，你为什么心怀疑惑上书请求退休呢？这是彰显我不明察 (的过错）啊。《易传》不是说吗：‘只要礼节道义没有过错，为什么要担忧别人的议论呢！’希望你明白这一点。”于是赏赐他上等酒和御厩饲养的牛。匡衡又重新负责朝政事务。皇上因为刚刚即位，对大臣多加以褒奖，但是朝廷臣僚大多认为王尊是正确的。匡衡很忐忑不安，每次遇到发生水旱灾害，风雨不调时，便连连上书告老退职请求让位。皇上总是用诏书安慰勉励，没有答应。
　　后来，匡衡的儿子匡昌任越骑校尉，酒醉后杀人，被抓入狱。越骑官员们与匡昌的弟弟准备合谋劫狱解救匡昌。事情被发觉后，匡衡脱下官帽，光着脚去请罪，皇上派使者恢复匡衡的官帽朝鞋。但是有关部门上奏弹劾匡衡暗中多占封地，匡衡最终受牵连被免官。