初出茅庐，声名大振。旋即任台州知府，因为这里很富庶，倭寇袭扰很厉害，是明军抗击倭寇前线。
谭纶在当地招兵买马，一方面刻苦训练士卒，一方面不时打击入侵之敌，竟然连战皆捷，战果累累。被提升为浙江按察司副使。1556年，戚继光任浙江宁台绍三府参将。这时，谭纶与戚继光相交且共同谋划抗击倭寇。后来，每到关键时刻，谭纶都给戚继光以坚定支持。可以认为，是谭纶成就了戚继光抗击倭寇，名垂青史的丰功伟绩。两人结下深厚情谊，直到终身。
打仗需要素质优良的士兵，听从指挥，不怕牺牲，敢打硬仗、恶仗。戚继光感到自己的士兵有较大缺陷，主张重新招募新兵训练。
但组建新军困难重重，戚继光把自己的想法告诉谭纶。谭纶觉得很有道理，决定招募穷苦山地之民，选拔性格刚强、民风彪悍、能苦善战之兵。苦苦追寻，1558年戚继光在义乌八宝山看到一场矿工械斗，感叹道，“征战半生，天下横暴之徒，我大都曾见，但如义乌人之彪勇横霸，善战无畏，实未见过。”他对谭纶说，“若准我在义乌征兵四千，倭寇之乱必平！”
谭纶支持戚继光向总督胡宗宪写个奏文，并亲自找胡宗宪商议此事。在谭纶的斡旋、协调下，戚继光这个建议终于冲破障碍，得到朝廷批准。
戚继光训练新兵需要三年。在这漫长的时间，面对凶残的倭寇，谭纶在台州前线苦苦支撑。终于，等到了戚继光训练新兵圆满结束。
功夫不负有心人，几年辛苦磨练，终于练出了一支虎师。将新兵投入战场，谭、戚二人密切配合，在台州进行了历史上著名的“台州九战”。战事发生于嘉靖四十年（1561），历时月余，极其惨烈。戚继光率领新军正面进攻，谭纶指挥亲军侧面包抄，九战九捷。这场战役，浙江倭寇受到毁灭性打击。总兵力不足三千人的“谭戚”明军，“斩首倭寇上千人，溺死倭寇过万，总歼敌数量数万人，堪称明朝抗倭战争以来的最辉煌胜利。此战之后，饱受倭寇肆虐的浙江省，从此永享太平”。
