高祖杀了窦建德之后，紧接着又给窦建德旧部传诏，要求他们尽快投诚归附。

窦旧部范愿、董康买、曹湛、高雅贤、王小胡等人既愤窦建德被杀，又见王世充降后，部将同样不能保全，心头十分恼怒李唐的行事作风，哪里肯听从诏令。

李渊派过去颁诏的人直接被他们给宰了，紧接着他们就在河北竖起了反旗，公然对抗李唐。

他们先去找窦建德旧将刘雅，要求他出来带领窦建德余部继续与李唐对抗，刘雅比较怕事，不肯再出来打仗，范等怒斥刘雅不义，将他杀了，很快又找到刘黑闼。

刘黑闼骁勇善战，本就不是甘于平庸之人，当年跟随窦建德的时候，堪称其帐下第一勇将，再加上他与窦建德感情极深，听了范、董等人的来意后，二话不说，立即同意出山。

刘黑闼在窦部本就极有威望，现他站出来振臂一挥，窦建德许多旧部立即闻风而至，刘黑闼带着最先归来的一批人，以风雷不及迅耳之势攻破了漳南县城。

河北两岸的百姓听闻李唐杀了夏王窦建德，心头又悲又怒，窦建德被杀之日，河北无岸无数闻讯的百姓自动为其披孝，现听闻窦旧部反唐，民众欢呼雀跃，投奔者众。

借此民心，刘黑闼拿下漳南县城之后，立即向贝、魏两发起了攻击，贝州刺史戴元详，魏州刺史权威纷纷身死败亡。

刘黑闼拿下这两州之后，将这两地兵将全部打散，重新编于麾下，八月下旬，刘黑闼在贝州漳南设坛，泣泪祭奠窦建德，自称大将军，正式大举反旗于漳南起兵，向李唐宣战。

九月初，刘黑闼攻陷历亭，屯卫将军王行敏战死，窦建德故将旧吏纷纷倒戈相向，杀死唐朝官吏，响应起义。

九月中，深州人崔元逊杀其刺史裴晞，叛附于刘黑闼。九月底，唐兖州总管徐圆朗也起兵响应。

十月初，刘黑闼攻陷瀛州，抓获刺史卢士睿，又攻陷观州，至此，河北两岸原属于窦建德的势力大半都竖起了反旗。

刘黑闼行动的速度太快，等到八月底高祖收到奏报的时候，河北两岸已有一半地盘被他抢去，高祖和一众朝臣惊怒交集。再想起之前秦王在大殿上的激烈反对，大家只觉得这脸被打啪啪生痛。

尤其是裴寂，有几次他都发现高祖盯着他的眼神十分不善，心里不由直打鼓，生怕高祖一怒之下将他揪出来宰了。

好在他的担心没有发生，高祖不知是出于什么心里，并没有纠他出来当替罪羊的意思，李渊没有处理裴寂，可这个时候，让他派秦王出去平叛，他也开不了口。