清宁乡县人。字果臣，道光十四年（1834）生。咸丰四年（1854）投湘军罗泽南部。随军赴江西、湖北等地与太平军作战，参与攻陷宁州（今江西修水县）、通城、蒲圻、崇阳等城，累擢千总，加守备衔。六年，参加武昌之战，晋守备。未几，广西龙胜县发生兵变，奉命与巡检徐俊等率队前往镇压。事定升都司。八年，奉令回湘募兵，建果勇营，充营官。同年，随同湖南候选知府蒋益澧入广西，先后镇压罗华观和陈开两支农民起义军，累升参将。旋任广西右江镇总兵。
同治元年（1862），蒋益澧援浙江，高连升率部3000人随同入浙。同年十二月，攻陷金华城，以提督记名，遇缺题奏。次年七月，参与围攻杭州太平军。三年二月，杭州城焰，邀赏穿黄马褂。同年七月，与总兵杨政谟等率水陆两军进攻湖州获港。十月，升任浙江提督。
天京陷落后，太平天国侍王李世贤率馀部转战入闽，占领漳州俯城。高连险与淮军提督郭松林等领军，在外国洋枪队帮助下，乘轮由海道到达福建，分路合国漳州，李世贤率部由西门败走。同治四年四月，他调任广东陆路提督。六月，太平天国康王汪海洋与佑王李远继领军入广东，攻占镇平、龙南等城，他又奉左宗棠命，率部尾追6昼夜，中伏大败。十月，汪海洋进取嘉应州(今梅县)。他屯军黄竹洋，与康国器等部围攻嘉应州。汪海洋中弹重伤牺牲，嘉应州陷落。他获赏云骑尉世职。
同治六年（1867），高连升奉左宗棠调改任甘肃提督，率部溯汉水而上，由陕西白河县蜀河口登陆，以阻止西捻军进入陕南和四川。不久，西捻军突破清军包围，选军陕北。他奉调到陕甘边境镇压回民军。在陕西宜君县何家庄，遭到回民军迎击。
同治八年三月，高连险驻军宜君县杨家店，奉命“严察惩办”营内哥老会会众，激起会众反抗。哥老会头目丁玉龙秘密串连各民会众，并联络回民军，准备在二月二十八日举行起义。高听到风声，亲往弹压。丁玉龙等见事已泄，便提前举事，于二月二十一日凌晨，率众冲入营帐，高连升被杀死。