竇建德原是清河郡漳南縣人，他同情窮苦農民，熱心幫助別人，在當地百姓中擁有很高的威信。當初隋煬帝徵召農民準備討伐高句麗，竇建德被選為二百人長，他的同鄉孫安祖也在被徵召的隊伍中。可是，孫安祖家遭水災，妻子餓死，他不願意參軍打仗，拒絕前去高句麗，結果遭到縣令的鞭笞。孫安祖一怒之下，刺殺了縣令，之後去找竇建德商議對策。竇建德讓他去高雞泊聚眾起義。於是，孫安祖帶著竇建德為他招募的幾百個人在高雞泊正式起義了。當時，清河鄃縣（今山東夏津）人張金稱聚集了一百多人，渤海蓨縣（今河北景縣）人高士達聚集了一千多人，共同組成了高士達起義軍。高士達起義軍在清河起義，往來於漳南一帶，四處燒殺搶奪，唯獨沒有騷擾竇建德住的村子。郡縣的官員懷疑竇建德和高士達起義軍私通，就殺害了他的全家。竇建德忍無可忍，聚集了二百多人參加高士達的起義軍。後來，孫安祖被張金稱殺死，孫安祖手下的幾千人馬也全部歸竇建德掌握。大業十二年（616年），隋朝涿郡通守郭絢率領一萬多人進攻高士達，高士達任命竇建德為軍司馬，負責指揮作戰。竇建德帶領七千精兵前去迎敵。他們先假裝投降，麻痺郭絢，等到郭絢放鬆警惕之後，竇建德突然出擊，大敗隋軍，殺了數千名隋軍，繳獲了千多匹馬，郭絢也被斬首。這次大捷，使得起義軍聲威大震，竇建德的威信也得到了提高，獲得了起義軍眾多將士的擁戴。之後不久，高士達在與隋軍的戰鬥中犧牲，竇建德正式成為河北起義軍的領袖。