妻子春妮从乡下来部队探望他，他却嫌弃妻子太土气，跟不上潮流。
新战士童阿男学生气十足，不请假就与同学到国际饭店吃饭，连长批评他“不配穿这套军装”，他一赌气，留下一张字条，扬长而去。
班长赵大大怎么也看不惯这大上海，闹着要到有仗打的地方去。
另一方面，国民党特务正在酝酿一场破坏行动。
就在童阿男离开连队，准备和他过去的同学林媛媛去南京投考军政大学时，她的姐姐童阿香却遭到特务分子的谋害。
幸亏路华、鲁大成及时搭救，逮捕了特务阿七，阿香才转危为安。
通过这件事，战士们认识到南京路上绝非“太平无事”。
指导员路华因势利导，请来老工人周德贵和童阿男的母亲，讲述了他们解放前的苦难遭遇及斗争经历，激发了战士们的革命斗志。
童阿男认识了自己的错误，决心听党的话，做毛主席的好战士。
陈喜也在指导员的耐心帮助下，认识到资产阶级“糖衣炮弹”的毒害，尤其看到妻子春妮写给指导员的信，更是悔恨不已。
他要求组织上给他处分，决心痛改前非。
半年以后，特务老K和曲曼丽不甘心失败，继续策划破坏活动。
在上海人民举行春节联欢的时候，他们利用林媛媛的表哥、一贯不问政治的罗克文，将装有定时炸弹的鲜花带入庆祝会场。
关键时刻，童阿男抢过将罗克文手中的鲜花，避免了一场爆炸事件。
特务老K、曲曼丽也落入解放军布下的天罗地网。
经过南京路上这场惊心动魄的斗争，八连的战士们经受了锻炼。
不久，朝鲜战争爆发，陈喜、赵大大、童阿男雄赳赳，气昂昂地走在赴朝作战的志愿军行列中。
影片《霓虹灯下的哨兵》根据沈西蒙同名话剧改编，其原型是大家熟悉的“南京路上好八连”。
南京军区前线话剧团的这台话剧公演后，在全国引起很大反响。
1962年，导演王苹因影片《槐树庄》获第二届电影百花奖最佳导演奖，周总理亲临颁奖大会，会后，总理把导演《霓虹灯下的哨兵》的任务交给了王苹，并鼓励她说：“你不要妄自菲薄，只要肯下功夫，一定可以搞好的。
” 影片将话剧中两条并置的情节线作了调整，把对敌特斗争的线索处理为背景，将镜头主要对准部队内部的思想斗争。
