三人紧赶慢赶，在雀鼠谷的时候，就听到李渊于五月十五日的时候已经正式的宣告起兵；

太原宣布之后，六月份李渊就建立了大将军府，除了他血液关系的儿子之外，李渊也十分信任他这个女婿，授柴绍右领军大都督府长史之职。

这个职位非常的重要，几乎相当于总揽全将军府事宜，非心腹不能胜任；

在龙门附近，隋将屈突通派遣桑显和前去偷袭大唐的王长谐等人，王长谐被困，出师不利；

柴绍和史大柰则率领轻骑从侧后方突然袭击桑显和所带来的部队，桑显和大败，带着残余势力逃回了河东；

李渊攻克长安后，为了避免落人口舌，他拥杨侑即位，但实际的军政大权都在李渊手中掌握，大肆封赏亲信；

作为女婿，柴绍进右光禄大夫，被封为临汾郡公。

公元618年，李渊正式建立唐朝，改年号为武德，封柴绍为左翊卫大将军。

之后他的功劳也和其余人差不多，都是跟着秦王殿下李世民四处征战，

参加大唐内部的统一战争，就是先后平薛举，破宋金刚，败王世充，擒获窦建德。

跟着秦王殿下还愁自己身上没有战功吗？柴绍也因这些功劳被封为霍国公，食邑一千二百户，并转为右骁卫大将军。

武德五年，吐谷浑侵犯大唐边界，进击洮、岷二州，边境动荡不安；

柴绍奉命率兵前去支援，十五日吐谷浑及党项又侵犯大唐的河州，唐河州刺史卢士良率领士兵将这些敌军击败。

十几天之后，柴绍与吐谷浑的军队正面作战，他被围困在一个山谷当中；

而土谷浑在上首直接居高临下向下射击柴绍大军，形势特别的危急，完全是被人埋伏了，一个不小心就是全军覆没；

深处山谷，头上是敌军的弓箭，大唐的士兵眼见着没有生路，周围的同僚都被敌军射击的像是刺猬一样，控制不住的慌乱成一团。】