对于宪兵是否应保有司法警察业务，向有肯定说与否定说之争。目前赞成宪兵保有司法警察权者，其论点大抵如下：一、警察机关受限于人事及预算权受制于地方议会，及盘根错节的利益纠葛，因此在犯罪侦查上容易受制于人。相反地宪兵多属义务役士兵，纵系志愿役之宪兵官长，亦有军中的轮调制度，且宪兵专属于国家武力，其军官之任命属于统帅权范畴，县市议会等地方势力无置喙余地。二、宪兵具军人特质，思想忠贞、智虑忠诚，且服从性高，指挥容易，且其经受过严格之军事训练，因此在执行缉捕任务，特别是对抗火力强大的匪徒时，更能发挥打击力。
而反对宪兵拥有司法警察权者，其论点大致如下：一、有违宪法第一百四十条现役军人不得兼任文官的精神；二、立法机关无法监督宪兵行动。李震山教授即认为，宪法第一百四十条规定：「现役军人，不得兼任文官」，乃是军警角色分际之根本依据。若立法者以法令赋予军人有机会经常性或任意不定期性执行文官任务，该等军人虽在形式上不具文官身分，却已实质「兼任」文官工作，即已违反宪法文武分治精神。宪兵依刑事诉讼法，以司法警察身分，介入非军人犯罪侦查及一般警察任务之执行，若非在检察官指挥下，则实已逾越其「军事警察」角色。
反对宪兵拥有司法警察权之见解，非无可议之处。首先宪法第一百四十条之意旨，系为贯彻文武分治，防止军人干政而设。所谓之文官，应系公务人员任用法之常业文官，而宪兵具有司法警察官身分，得以侦查非军人犯罪，系基于刑事诉讼法所赋予之地位，仅系单纯依法执行职务，此处所谓司法警察官，显非属宪法第一百四十条文官范畴，应不在文武分治限制之列。
