1929年7月受命回到家乡开展活动，以开小店为掩护建立秘密联络站。不久出任小学校长，以教书作掩护建立秘密农会，组织“铁血团”，准备武装。1931年春，原计划的武装因敌军事先觉察，部分骨干受到辑捕外出隐蔽，未能如期举行。聂祖唐因未暴露身份，留下领导武东地区的秘密工作。 1932年2月，红12军恢复武平苏区，重建武平县委和苏维埃政府，聂祖唐任县委组织部长兼武东区苏维埃主席，组建武东游击支队开辟武东新区。不久，武东地区各游击队编为福建省军区地方红军，聂祖唐任独立第二团团长，率部重创地方军阀钟绍葵。此后，聂祖唐任闽西工农红军独立第十师副师长，从红军军官学校毕业后任福建省军区第一作战分区委员兼部主任，率部转战闽粤地区，牵制了大量敌人，有力地支援了中央苏区第四、第五次反“围剿”作战。 1934年12月17日在武平北部小湘坑战斗中不幸中弹牺牲，年仅24岁。