创业艰难
杜伏威是齐郡章丘县人，年轻时潦倒失意，也不经营谋生之业，家庭贫用不能养活自己，经常穿壁翻墙偷东西。与辅公祏是生死之交。辅公祏的姑姑家以牧羊为业，公祏多次偷羊来送给杜伏成，公祏的姑姑心有怨恨，于是告发了他们偷盗的事倩。郡县紧急追捕他们，杜伏威与辅公祏一起逃命，聚集了一帮人组成强盗集团，他当时年仅十六岁。
大业九年(613年)，杜伏威逃窜到长白山(今山东章丘东北)地区，组织山贼，与辅国祏率众起义。两人就近参加了一只小起义军，刚加入时只是小卒，但杜伏威十分勇猛，出则居前，入则殿后，很快就取得了大家的尊敬和信任，被推为首领，这是杜伏威势力的开始。
江淮一带隋朝的力量比较强大，杜伏威意识到自己的小部队实力太弱，如果不尽快壮大就根本无法生存，于是努力寻找机会去联合和吞并附近的其他起义军。比较典型的例子有两个，其一是下邳苗海潮，杜伏威派辅公祏对他们说:"现在我们共同遭受隋朝暴政之苦，各自为正义而起兵，力量分散势力薄弱，经常担心被抓获，为什么不联合起来使力量变得强大些呢，就不会担心隋军来制约我们了。
如果你能够做首领，我定当恭敬地跟随您，如果你估量自己不能胜任，可以前来听从我的指挥，不然的话，我们就打一仗来一决高低。"苗海潮害怕了，立即率领他的同伙归附了杜伏威。
另一个例子是海陵赵破阵，赵破阵听说杜伏威的士兵少就轻视他，派遣使者召唤他，要求和他合并兵力。杜伏威命今辅公祏整肃军队屯驻赵营外以防事态变化，亲自带领十个将士带着牛肉和酒进去拜见。赵破阵非常高兴，拉着杜伏威进入营帐内，把所有的头目召集到一块，举行盛大宴会并尽请痛饮。
杜伏威在席上斩杀了赵破阵，然后兼并了他的同伙。从此，杜伏威军队的势力逐渐强盛起来。实力大增后，杜伏威自称将军，纵横淮南，屯并六合，威胁江都(在今江苏省扬州市境)，江都留守派校尉宋颢前来镇压，杜伏威用计将其引入芦苇荡中，放火将其烧死，不久又屠安宜城。
死里逃生
大业十一年(615年)十月，东海李子通率所部万余人来淮南投靠杜伏威。这个李子通也是隋末一家反王，起兵时是依附在长白山(是山东的，不是东北那个)左才相手下，后来因为太得人心，被左才相嫉恨，只得离开长白山，这次到淮南其实有些逃难的意味。
李子通部的加入使杜伏威势力增强，杜伏威当然高兴，不料李子通也是个胸有大志不肯屈居人下的人，竟然突然兵变，妄图吞并杜伏威的地盘。杜伏威措手不及，全军大乱，杜伏威本人在李子通的追杀下身负重伤，关键时刻，杜伏威的养子(杜在军中挑选壮士收为养子，共有三十余人)兼大将王雄诞背负他藏匿到芦苇丛中，侥幸躲过了追杀。
这次兵变，杜伏威的势力受到很大打击，从此与李子通结仇。祸不单行，趁杜伏威兵败，隋军也前来进攻，杜此时正在养伤，无法指挥，结果全军大败，其部将西门君仪的妻子勇而多力，背了杜伏威夺路而逃，王雄诞领着敢死队拼命断后，杜伏威这才逃得一命。
连败隋将
连续两次死里逃生，杜伏威部伤亡很大，失去了称霸的实力，只好四处游击，不断吸收流民加入以扩充势力。经过半年的恢复，杜伏威又有了数万人的实力，并控制了江都附近的六合县作为根据地。与此同时，左才相往来淮北，李子通占据海陵，都有数万兵力，江淮一带即以这三家起义军为首。
大业十二年(616年)七月，杨广因北方多事，不顾群臣反对，离开长安前往江都巡幸，杜伏威部正好就在江都眼皮底下，为了保障皇帝巡幸的安全，隋派出虎牙郎将公孙上哲率军前往镇压，双方战于盐城(今江苏盐城)，公孙上哲军队被全歼，随后，大将陈陵带八千经锐讨伐杜，陈、杜多次交手，毕竟陈陵的军队训练和器械远强于杜，杜伏威军连连失利。但陈陵兵力不多，想剿灭杜伏威也不容易，双方打成僵持。
同年十二月，隋炀帝车驾到达江都，护驾骁果十余万人，声威赫赫。按理隋军应该军心大振，杜伏威难逃灭亡，不料正是杨广的到达给了杜伏威崛起的机会。
正逢当年是荒年，老百姓本来就已无以为生，再被官府如此压榨，终于造成了一场大饥谨。据记载，老百姓先是吃树皮树叶，后煮土为食，"诸物皆尽，乃自相食"。大量百姓揭竿而起，杜伏威乘机吸收了大批手下，势力迅速膨胀。这时杜伏威与陈陵强弱之势已经倒转，于是主动向陈挑战。
陈陵也知道战局不利，因此龟缩不出，任由杜伏威自己去耀武扬威。杜伏威于是派使者给陈送了一套妇女衣裳，并送了陈陵个外号叫陈姥(就是陈老太太的意思)。陈陵怒火中烧，全军出战。这一仗打得十分机烈，杜伏威亲自上阵，不小心被一员隋将暗箭色中，杜怒吼说:"不杀了你，箭矢不拔!"，然后就直冲过去，把那吓呆了的色手斩于马下，又拿着那个弓箭手的首级连续杀了几十人，隋军士气大挫，被打了个全军覆没，陈陵单骑逃回江都去了。
杜伏威趁势扩大战果，占据了高邮、历阳等重镇，并在历阳自称总管，封辅公祏为长史。这时的杜伏威吸取了以前的教训，从部队中挑选最经锐的成员组成自己的卫队，称为 "上募"，兵力为五千人。杜把上募作为自己的子弟兵，平时非常宠爱，但要求也非常严酷，每作战必以上募为先锋，战后检查每人身上的伤痕，如伤在背后，即刻处斩，因为那表示其临阵退后。
每次战胜，杜伏威都把抢掠到的资财赏给全军，如果手下战死，就以死者的财产甚至妻妾殉葬，因此杜所部皆为杜伏威尽死力，人自为战，所向无敌。杜伏威号令所到之处，江淮间各路小起义军争相归附，郡县纷纷投降。
历史影响
杜伏威在隋末暴政、群雄并起的时势下毅然起义，与辅公祏领导的江淮义军沉重打击了隋朝的统治，并建立了政权。虽然杜伏威志向不高，只求在乱世中保全一方，阻碍了统一的进程，但因江淮义军一定程度上消耗了隋军的有生力量，所以在一定意义上也为李唐王朝推翻隋朝、消灭诸义军并夺得天下做出了贡献。
