湖南湘乡人。原名子诚，字伯涵，号涤生。清嘉庆十六年十月一日（1811年11月26日）生于湘乡县荷叶塘（今属双峰县）。父麟书，有田产，不事耕种，醉心功名，然童试17次皆不第，父设馆授徒。曾国藩幼从父学。道光十三年（1833）入县学为秀才。翌年就读于长沙岳麓书院，同年中举人。此后赴京会试，一再落榜。十八年，始中第三十八名贡士，旋赴殿试，中三甲第四十二名，赐同甘共苦进士出身。朝考选翰林院蔗吉士。自此供职京师，结交穆彰阿、倭仁及唐鉴等。二十七年任四川乡试正考官，明年升侍读。后年升侍讲学士。二十七年授内阁学士，兼礼部侍郎衔。二十九年任礼部右侍郎，旋兼兵部右侍郎。三十年兼署工部右侍郎。咸丰二年（1852）兼署吏部左侍郎。是年四月出任江西正考官，行至安徽太和县境，以母丧回籍。
其时，太平军由广西进入湖南，在永州、道州等地与湖南会党势力结合，吸收煤矿工人参加，人数大增，军威远扬，清廷大震。曾国藩奉诏帮办湖南团练，于咸丰三年春赴长沙。在上咸丰帝奏章中提出：“治乱世用重典，以锄强暴”，“即臣身得残忍严酷之名，亦不敢辞”。但鉴于对抗大股太平军“断非旧时团练所能奏功”，遂改变方法，将办团与练分开，重点放在练勇。
曾国藩到长沙办团练不久，与提督鲍起豹发生矛盾，标兵寻衅威胁，即移驻衡州练勇。在衡州造船办水师，物色褚汝航、杨载福、彭玉麟等人为营官，组成湘军水师，计分10营，共5000人；陆军13营，以塔齐布、周凤山等为营官统领。水陆军合计1.7万馀人，此即曾国藩所练湘军。咸丰四年（1854），亲率一支湘军到湘潭、岳州，与太平军作战。在出兵时发布《讨粤匪檄》，号召“抱道君子”，“赫然愤怒，以卫吾道”。并纠集地主士绅， 礼之幕府，待以宾师。并奏请清廷发给空白执照4000张，内捐虚衔执照、捐监生执照各一半，派专人在湖南、江西、四川等省募捐，又通过盐漕、关税、杂捐直接榨取，使得湘军粮饷较绿营高出1倍有馀。
曾国藩督率水陆湘军在长沙、湘潭、岳州一线作战时，遭到太平军迎头痛击。咸丰四年（1854）三月靖港一战，损失惨重。羞愧交集，投水自尽，获救。旋得塔齐布等在湘潭获胜仗，才得以重整湘军，再占岳州。六月，从长沙遣湘军三路出境作战，八月陷武昌、汉阳，十月败太平军秦日纲部于田家镇，加兵部侍郎衔。
咸丰五年（1855）初，湘军到江西九江、湖口一带，后防尽空。曾国藩败于湖口，孤军僵持于九江城下，坐视武汉为太平军克复，无能为力。败走南昌后，急调周凤山军以固省防。正月，太平军石达开率轻舟百馀，自小池口袭击湘军。焚其战船百馀艘；陈玉成部再复汉阳，秦日纲部再克武昌。曾从此困守江西，两年中无所进展。六年秋，“天京事变”发生后，才得乘机反扑。冬，再陷武昌。
咸丰七年（1857），曾国藩、国荃兄弟以父丧回籍，湘军水师交杨载福统领，陆师由彭玉麟协理，并请鄂抚每月筹饷5万交水营，以资接济。未几，奉旨“墨絰从戎”，复出领军。上书沥陈办事艰难竭蹶情况，请增大权力，邀准。次年五月，至江西督师。令曾国荃争夺景德镇，肃清江西，保持通浙道路，以取闽浙粮饷供给湘军。十月，率军进攻安徽，遭太平军陈玉成、李秀成部痛击，李续宾、曾国华败死三河，湘军锐气大挫。
咸丰十年（1860）闰三月，陈玉成、李秀成合攻江南大营，和春、张国梁败死，李秀成部进取苏州，直入浙江。曾国藩奉诏署两江总督，督办江南军务；并领兵援浙，“保全东南大营”。保荐左宗棠帮办军务援浙，李鸿章往上海“借洋兵以助剿”，自己仍留皖。七月，太平军李秀成、杨辅清等部进入皖南，攻祁门，湘军大营一度受困。次年四月，将祁门大营移至安庆对岸，命曾国荃主攻，各路助攻，安庆之战，异常激烈。八月，陷安庆。十月，奉命统辖苏、皖、赣、浙四省军务，巡抚、提镇以下悉归节制。同治元年（1862），升任协办大学士，派左宗棠入浙江，遣李鸿章到上海，伙同英人戈登“常胜军”，法人德克碑“常捷军”夹攻太平军。派曾国荃扎营雨花台，专力围攻天京。三年六月十六日（1864年7月19日）天京陷落，湘军分段搜杀劫掠，日夜火光不息。以功加太子太保，封一等侯爵。
同治四年（1865）四月，曾国藩督办直隶、山东、河南三省军务，镇压捻军。五月进驻安徽临淮，旋移驻江苏徐州。在临淮、济宁、周家口、徐州等地驻兵设防；令地主士绅修筑圩寨，实行坚壁清野，建立马队等。五年夏，提出东以运河，西以沙河、贾鲁河，南以淮河为防线，北自朱仙镇至汴梁及黄河南岸挖濠设防，以围困捻军。八月，开封南面芦花岗堤墙为捻军冲破，河防设计破灭。十一月，回任两江总督。在此前后，与李鸿章在上海创办江南制造总局，制造枪炮、轮船。六年升大学士，次年调任直隶总督。九年五月，在总督任内，奉命查办天津教案。屈从外国侵略者压力，接受法人无理要求，杀“滋事人犯”20人，充军25人，赔款20万两，抚恤28万两，大遭舆论谴责。然亦自感“外惭清议，内疚神明”，即调离直隶，仍回两江总督原任。
同治十年（1871）秋，曾国藩与李鸿章奏请派陈兰彬、容闳领学生出国留学，学习军事、船政、步算、制造诸学，并呈所拟挑选幼童赴泰西肄业章程12条。其论学，称义理、考据、词章三者，缺一不可；所为古文，卓然成家，论者多以为桐城派之殿军。十一年二月初四日（1872年3月12日），病殁南京，年62岁。谥文正。所著多收入《曾文正公全集》中。近人辑有《曾国藩未刊信稿》、《曾国藩全集》等。