粟末靺鞨部居靺鞨的最南方,早在唐初就已归附唐。七世纪末,粟末靺鞨首领大祚荣统一各部落(确切地说,是统一附唐的各部落),建立了政权。后来唐玄宗封大祚荣为渤海郡王,加授渤海都督府都督。从此,粟末靺鞨建立的政权,就以渤海为号。
渤海境内有十多万人户,经济很发达。他们派人到长安学习,带回许多汉文书籍。他们把土特产人参、貂皮以及马、铜等输入内地,受到内地的欢迎。
靺鞨本字应作靺羯,是自“勿吉”音转而来,对此学界早有定论。靺鞨的粟末部实即勿吉的粟末部。最早记载勿吉粟末部的史书是《魏书》。《魏书》卷100《勿吉传》记载,从和龙出发,经善玉山、祁黎山、如洛瑰水、太鲁水,“又东北行十八日到其国。国有大水,阔三里余,名速末水”,“国南有徒太山,魏言‘太白’”。此勿吉居于松花江流域,南不包括长白山,北不包括黑龙江,显然是指勿吉的粟末部。《魏书·勿吉传》大部分内容都是对粟末勿吉历史的记载。对于勿吉人的其他部落,《魏书·勿吉传》仅提到“有大莫卢国、覆钟国、莫多回国、库娄国、素和国、具弗伏国、匹黎尔国、拔大何国、郁羽陵国、库伏真国、鲁娄国、羽真侯国,前后各遣使朝献”。所以,《魏书·勿吉传》所载于延兴年间赴北魏朝贡的乙力支,是出自粟末部的使者。据乙力支自称:“其国先破高句丽十落,密共百济谋从水道并力取高句丽”。可见,《北史》卷94《勿吉传》、《隋书》卷81《靺鞨传》所载粟末部“每寇高丽”是正确的,至晚在北魏延兴(471-476)以前,粟末部已与高句丽连年征战。
自夫余衰弱以后,肃慎系各部即逐渐向东南迁徙,入居松花江流域,因而才因水为名,号为粟末。与此同时,高句丽也不断北拓,攻占原属夫余的领土,435年李敖出使高句丽时,发现高句丽的疆界已“北至旧夫余”。粟末部与高句丽战争的起因当是为了争夺对夫余故地的控制。494年,“夫余王及妻孥以国来降”,投奔高句丽,高句丽人称其为“勿吉所逐”。当是粟末靺鞨也占有了部分夫余故地。但在此后与高句丽人的战争中,粟末部却渐处于不利地位,最终降隋内附。