日所背图囊交给卫士杨霖超，里面装着他的任职令、履历表以及日常用品，还有一条写有“大忠大孝，成功成仁”八个字的手帕，嘱咐杨霖超：“如我发生不幸，你将这些物件带到融县交给我妻子，叫她不要过分悲伤。儿女的教育费用国家必有照顾，要他们勤奋自修，切勿疏懒。”接着，又对其他官兵说：“我死之后，师长职务由郭副师长代理。”“桂林的防守失败了，相信中国是不会亡的！”说完后，他以稍事休息为由，走进寝室，将灯熄灭，随即举起手枪，对准自己的右边太阳穴，扣动了扳机，自戕殉国，时年44岁，履行了自己与桂林城共存亡的誓言，表现出了一个抗日志士的伟大民族气节。众官兵闻声冲入房内，但已抢救不及。大家悲泣不已，连忙把阚将军的伤口包扎好，用师旗包裹遗体，放入在城内找到的棺木，就近葬入战壕内。
抗战胜利后，国民政府于1945年10月追晋阚维雍为陆军中将师长，国葬于桂林七星岩霸王坪，建纪念亭于墓侧，在东镇路阚宅基地建烈士纪念碑。以供后人瞻仰。1946年3月29日在桂林举行广西各界追悼抗日阵亡将士大会，颁发陆军中将师长阚维雍优恤状。