长沙县人。字筱山，嘉庆八年（1803）生。道光十五年（1835）中进士，选翰林院庶吉士。历任刑部主事、郎中，山东登州知府、河南南汝光道。咸丰元年（1851），因镇压泌阳人民起义， 擢署布政使。次年，受任为广东布政使，仍留河南署任。太平军进入湖北后，赴信阳扼要设防。三年，受钦差大臣琦善命，总理信阳粮台。后管理江北大营粮台，移驻徐州。旋实授河南布政使，仍总粮台事。四年春，河南巡抚英桂出驻汝阳，他始赴河南布政使本任，率官绅兴办团练，倡捐经费，请兵勇布防黄河各渡口，阻遏捻军。三月，受命暂署巡抚。次年，仍回事任。
咸丰八年(1858)，郑敦谨以欠解甘肃两年协饷降职，改任太常寺少卿。同年出任山东学政， 擢大理寺卿。其后数年，历署户部侍郎，山西、陕西、直隶等省布政使。同治三年(1864)授河东河道总督。次年改湖北巡抚。七年暑山西巡抚，擢工部尚书，仍留署巡抚任，继续筹划镇压捻军和回民起义军。八年，调兵部尚书，还京。翌年，调刑部，受命会同调任两江总督曾国藩前往南京，与江宁将军等会审刺杀原两江总督马新贻案。案结，他与曾会衔入奏，以“海盗挟仇”罪处刺客张文祥凌迟极刑。
同治十年（1871）春，郑敦谨还京途中病作，上疏辞官，遂返长沙。他通医术，同治中，慈禧太后卧病，曾以300里火牌受命入京医治。光绪十一年（1885）六月病死，年83岁。谥恪慎。