他亲自拉开弓射向他的妻子，他的妻子中箭倒地而亡。时间一点点的过去，尧君素也知道事情的结果注定了，自己根本就无法阻挡李渊收复河东的脚步，他也想过自己的下场必定是死。
但是，尧君素每次说到隋朝时，都是叹息不已，哽咽难言，又常常对他的将士说道：“我是诸侯府邸的老臣，说到大义，不能不死。现在粮食还能支撑几年，粮食吃光了，也足以知道天下之事的结局了。隋朝如果一定倾覆败亡，那是天命有此结局，我应该砍下头来交给你们。”
众人也是一阵叹息，哽咽难言。自此之后，他们时常听到江都覆灭的消息，而且粮食也吃光了，甚至到了后来，发展到交换孩子相吃，众人的心离散惊惧。城池内经常发生自相残杀的惨剧，即使到了晚上都能看见闪着银色白光的兵器在不断地挥舞着，坚持了半个多月后，尧君素被身边的人杀害。
众人已经忍受不了这种自相残杀的生活，他们纷纷想要逃离此处，于是他们几人一起商量着，然后决定将尧君素杀死，献城投降。终于，经历了一个多月的时间消耗，李渊将整个河东之地收复了，一下子李渊的兵力增加到二十万余人，将关中以及河东一带完全收复了。