字正夫，号南陔(也作蓝陔)，清衡阳县人。乾隆五十七年(1792)生。父英瑚，嘉庆年间进士，候补知县，藏书至3万馀卷，常大淳得以博览群籍。道光三年(1823)中进士，选翰林院庶吉士，散馆授编修。几次上书指陈时弊。十三年任山东道监察御史。十六年，湖南镇筸镇军官扣发军饷发生兵变，营官遭杀。他上琉弹劾镇压不力官员，提出镇压兵变措施，并善后建议5条。十七年出任福建督粮道，署按察使。二十七年护理布政使。将片战争期间，受命驻漳州、泉州一带，设防抵御英国侵略军进犯海口。战后返回福州。
二十二年，常大淳调任浙江盐运使。时私船贩运定海岱山盐到松江出售，价贱而盐洁。他以有利可图，力主收归官有，遭盐商强烈反对，发生抗官事件，副将张惠等被杀。因此被降四级。后亲率军镇压这次起事。又历任安徽按察使、湖北布政使等。三十年升任浙江巡抚。在任讨平海寇，整顿盐政，奏免折漕，拨款赈灾。咸丰二年(1852)，调任湖北巡抚。时太平军进军湖南，湖北形势危急。他到任后，即加强水陆防范，整顿军队，招募水军船只，阻断水上交通，以扼太平军入鄂。是年八月，调任山西巡抚，仍留湖北。十二月初四，太平军攻克武昌时，投井自杀。