在工厂期间，顾顺章加入了上海滩的“青帮”，他从小好勇斗狠，很快在江湖上脱颖而出。由于顾顺章敢打敢杀，在工人中颇有“影响”，被其时领导上海工人运动的中共领导看中。而在搞工运时，顾顺章确实是一把好手。顾顺章1924年加入中共，在1925年的五卅运动中有突出的表现。由于顾顺章本领高强，一度担任苏联顾问鲍罗廷的侍卫。1926年，顾顺章与陈赓等人一起，被中共中央送到苏联，短期学习“政治保卫”。 1917年俄共执政后，成立了“全俄肃反委员会”，1922年则演变为“国家政治保卫局”，即所谓“格伯乌”（后又演变为“国家安全委员会”，即“克格勃”）。顾顺章等人到苏联，就是去拜“格伯乌”为师。他在苏联学得如何呢？“中统”老特务万亚刚说：“顾顺章在苏俄受训的时间并不长，但凭他聪明机警的天赋，学到一身本领回来。文的方面：
如化装、表演魔术、操作和修理机械、心理学等都很精；武的方面：双手开枪、爆破、室内开枪而室外听不到声音、徒手杀人而不留痕迹等等，可说是全能特务，够得上称为大师。在他以后，特务行列中，无人能望其项背。”顾顺章之所以能短期内学成“特务大师”，一来因为“素质”好，有着过人的“聪明机警”；二来因为本来在江湖上就打下了扎实的基础。 1927年初，顾顺章“学成归国”。上海工人“武装起义”时，任工人纠察队总指挥。1927年7月，汪精卫在武汉“分共”，“国共合作”全面破裂，共产党人在全国成为捕杀的对象，中共活动全面转入地下，中共中央也从武汉迁到上海租界内。中共中央本来设有军委，其时在中共中央机关工作、后成为“托派”的郑超麟回忆：“‘军委’是秘密的组织系统，不仅对党外的人守秘密，而且对党内的人守秘密。那时中国共产党有三种组织：
