同年10月，起义南下部队一部由朱德率领到达赣南会昌一带，李硕勋受朱德委派，赴上海向党中央请示工作。他日夜兼程，风餐露宿，到达上海向党中央汇报了南昌起义军在赣湘粤边艰苦转战的情况。后被党中央留在上海从事党的白区工作。1928年4月，被党中央派到武汉工作，因被敌人注意无法与党组织接头而返回上海，先后被任命为中共江苏省委秘书长、中共浙江省委常委、省军委书记，后又任浙江省委代理书记。1929年春再回上海，任中共沪西区区委书记。同年秋改任中共江苏省军委书记，和省委书记李维汉一起领导江苏的武装斗争，发动和领导了苏北的农民起义，把苏北南通、海门、如皋、泰兴等地的农民武装统一改编为中国工农红军第14军。1930年任中共江南省委（江苏、安徽、浙江和上海市）军委书记。

1931年5月，中央决定调他去中央革命根据地任红7军政委，他愉快地接受任务，取道香港，转赴红七军。当时，中共广东省委设在香港，迫切需要大批干部。为此，省委特别请求中央把李硕勋留在广东省委。中央遂任命他为广东省军委书记。同年7月，他在去琼州（今海南岛）检查指导工作途中，因叛徒出卖，不幸被捕。

在狱中，敌人对他用尽酷刑，妄图从他口中掏出党的机密。但他忠贞不屈，不论敌人如何严刑拷打，除了“我是共产党员”的回答外，没有让敌人得到一丝一毫的东西。敌人打断了他的腿骨，打烂了他的皮肉，但摧不垮他的浩然正气。他在狱中给妻子赵君陶写信，表达了视死如归的英雄气概和对妻儿的至深情感、无限期望。

1931年9月中旬的一天，李硕勋被国民党反动军警押出监狱。由于他的腿骨被打断，不能行走，敌人用竹箩把他抬到刑场。这位铁骨铮铮的共产党员慷慨赴死，从容就义，年仅28岁。新中国建立后，朱德为烈士题跋：“硕勋同志临危不屈，从容就义，是人民的坚强战士，党的优秀党员。”