石勒战败以后，听说汲桑已被杀死，又听说胡部大张㔨督、冯莫突等人率兵数千，驻扎在上党一壁垒里，石勒前往投奔了他们，为他们所喜爱、器重。

    于是石勒乘势劝张㔨督说：刘单于起兵讨伐晋朝，部大抗拒而不服从，这样就能够独立吗？

    张㔨督说：不能。

    石勒说：如果不能独立，兵马就应该有所归属。现在，部落都已受单于赏赐、招募，常常有人聚集在一起议论，想要背叛部大而归属单于，应该早早想办法。

    张㔨督等人一向没有谋略，又害怕部下背叛自己，于是，偷偷地跟着石勒单骑归顺刘渊。刘渊任命张㔨督为亲汉王，冯莫突为都督部大，任命石勒为辅汉将军、平晋王，以统率张㔨督、冯莫突等。

    石勒于是让张㔨督为兄长，赐姓石氏，名叫会，意为张㔨督是自己遇到的知己。

    乌丸人伏利度也有兵众二千，驻守在乐平壁垒，刘渊屡次招募而不能使他归顺。石勒假装在刘渊手下犯有罪过，因而投奔了伏利度。伏利度非常高兴，与石勒结为兄弟，并派石勒率诸胡人四出劫掠，所向无敌，于是，众胡兵都畏服石勒。

    石勒知道众心已经归向自己，于是乘机抓住伏利度，并告诉众胡兵说：现在起大事，我与伏利度谁适合作主帅？

    众胡兵都推举石勒。石勒于是释放伏利度，率领伏利度的部下归顺了刘渊。刘渊加封石勒督山东征讨诸军事，把伏利度的部众交给石勒指挥。

    永嘉二年正月，汉赵王刘渊派遣抚军将军刘聪等十名将军向南占据太行，派辅汉将军石勒等十名将军向东到赵、魏地区。

    刘琨派护军黄秀等人救援壶关，石勒在白田击败黄秀，黄秀死，石勒于是攻陷壶关。刘渊命令石勒与刘零、阎罴等七位将领，率兵三万攻击魏郡、顿丘诸壁垒，大都被攻陷。

    刘渊暂任石勒为垒主将军、都尉，挑选强壮的五万人作为兵士，其余老弱的都安居如故，军队没有私自掠夺的现象，百姓们都怀念他。

    刘渊称帝时，派遣使者授予石勒持节、平东大将军，校尉、都督、王和以前一样。石勒率军进攻邺城，邺城守军溃散，和郁逃到卫国。石勒又在三台活捉魏郡太守王粹。进攻赵郡，斩杀冀州西部都尉冯冲。又在中丘攻击乞活将军赦亭、田禋，都斩杀了他们。不久，刘渊又授予石勒安东大将军、开府，设置左右长史、司马、从事中郎。石勒又进攻钜鹿、常山，杀死二郡守将。又攻陷冀州郡县堡垒百余个，兵众达到十余万，将其中的名人贤士集中在一起，称为君子营。于是，石勒引用张宾作为谋主，开始设置军功曹，以刁膺、张敬作为得力助手，以夔安、孔苌作为爪牙卫士，支雄、呼延谟、王阳、桃豹、逯明、吴豫等人作为将帅。

    石勒又派将领张斯率领骑兵到并州北山诸县劝说众胡人、羯人，告诉他们安危得失。众胡人害怕石勒的威名，许多人来归附他。石勒又进军常山，分别派遣诸将领进攻中山、博陵、高阳诸县，投降的达数万人。

    王浚派将领祁弘率领鲜卑人段务勿尘等十余万骑兵讨伐石勒，在飞龙山将石勒打得大败，战死万余人。石勒退兵驻扎在黎阳，分别命令各位将领攻击尚未攻下和叛变了的壁垒，收降三十余座，设置守宰安抚他们。又进攻信都，杀死冀州刺史王斌。

    于是，车骑将军王堪、北中郎将裴宪从洛阳率兵讨伐石勒，石勒烧毁兵营和粮食，回军迎战他们，驻扎在黄牛垒。魏郡太守刘矩率全郡归附石勒，石勒派刘矩统率他壁垒中的兵众作为中军的左翼。

    石勒赶到黎阳，裴宪丢下士兵逃到淮南，王堪退兵驻守仓垣。刘渊授予石勒镇东大将军，封为汲郡公，持节、都督、王都未变。

    石勒坚决辞让，不接受汲郡公。石勒又与阎罴攻击者圈、苑市二壁垒，都被攻下，阎罴被流箭射死，石勒统率了他的兵众。石勒又偷偷地从石桥渡黄河，攻陷白马，活捉男女三千余人。向东袭击鄄城，杀死兖州刺史袁孚。

    接着，趁势攻陷仓垣，杀死王堪。渡黄河进攻广宗、清河、平原、阳平诸县，这些地方投降石勒的有九万余人。向南渡黄河，荥阳太守逃往建业。

    当时，刘聪进攻河内，石勒率骑兵与他相会，在武德进攻冠军将军梁巨，晋怀帝派兵前来救援。石勒留下一些将领守武德，自己与王桑在长陵迎战梁巨。梁巨请求投降，石勒不准许，于是梁巨越墙而逃，被兵士抓住。石勒快马赶往武德，活埋降兵万余人，又一一列举梁巨的罪行并斩杀了他。晋军退回，黄河以北的众堡垒大为震惊，都请求投降，并送人质给石勒。

    永嘉四年，匈奴汉帝刘渊死，刘聪称帝，加封石勒为征东大将军、并州刺史、汲郡公，持节、开府、都督、校尉、王不变。石勒坚决辞让将军之职，刘聪同意了。

    刘粲率兵四万进攻洛阳，石勒将辎重留在重门，率骑兵二万在大阳与刘粲会师，在渑池将晋军打得大败，于是到达洛川。刘粲出兵頧辕，石勒出兵成皋关，在仓垣围攻陈留太守王赞，被王赞击败，于是退兵驻扎在文石津。又打算向北攻击王浚，碰上王浚的将领王甲始率领辽西鲜卑万余骑兵在津北击败赵固，石勒于是烧毁船只，丢下营垒，率军转向柏门，去迎护重门的辎重，到石门，渡黄河，在繁昌攻击襄城太守崔旷，杀害了他。