长沙县人。字尧衢,号敏斋,晚号倦知老人。生于清咸丰四年（1854）。逾冠补县学生员。光绪八年（1882）中举人。十二年成进士。官工部主事。因襄办光绪大婚典礼，以知府分发湖北补用。屡榷汉川、宝塔洲、汉口诸牙厘,充两湖书院提调,廉干有声。擢补武昌、汉阳知府。在任禁酷刑,蠲苛税,察州狱；主持修荆州万城堤,永丰峡江索道,注重农田水利和民生事业；建凤山书院斋舍，改鹿门书院为学堂，创办荆州中、小、蒙养、方言、工艺诸学校十馀所。三十年擢山东按察使。明年夏,改江西按察使。
光绪三十二年（1906）初，法国天主教南昌主教王安之，杀南昌知县江召棠于教堂，民情大愤，杀毙王安之等人，并焚毁英、法教堂。英、法兵舰一时并入南昌相恫吓。余肇康不畏强暴，发露王安之罪状，认为系“自取其咎”。后以外务部媚外求和，他与巡抚胡廷斡、布政使周浩等均被撤职。不久起复,授法部左参议。甫抵京，因姻家军机尚书瞿鸿禨被罢官，他因受牵连免职。
余肇康回籍后，任湖南粤汉铁路总公司坐办，旋任总理。任内争路权、拒借债，主持修筑长株段铁路。辛亥革命后，避居山中，足迹不履城市。居数年，因南北军阀在湘混战，乃迁居上海，以遗老兼寓公生活自遣。1930年病卒。著述有《读书杂识》20馀卷,《奏议》1卷,《政书》60馀卷,《日记》70馀卷,《务时敏斋随笔》10馀卷，《书牍》50馀卷，《文集》4卷，《诗集》6卷。