明治新政府为了能够彻底掌握军队大权，便不能依靠由诸藩的兵力，因此明治六年颁布征兵令，开始实行征兵制，开始朝向现代化的军队迈进。然而征兵制实施初期，也产生不少来自政府要员、旧藩武士以及民众的反弹，因而发生了许多的暴动。
从明治建军开始，新政府最为担心者，乃如何严正军纪。由于明治初期的军队，纪律极为败坏，军队内出现诸多骚动，也出现官军精神教育不彻底的缺点，于是为了提高军队斗力，便必须不断向士兵灌输尽忠天皇的思想，加强思想的统制和纪律的管束。明治十一年，陆军卿山县有朋公布「军人训诫」，以忠实、勇敢、服从作为军人的主要品德，以封建武士道和效忠天皇作为支柱。
除了内在的精神教育外，更希望藉由引进宪兵制度，来取缔军人非违情事。
另外，在武装内乱结束后，日本国内再无武力之抗争行动，取而代之的是民权运动，对于新政府不平的份子很多，因此造成国内秩序混乱不安，即使负责取缔的警察自身，也潜藏着令政府必须提高警戒的危险份子，而且警力也有不足，所以有必要设置具有军队威力的警察。亦即，便有倡议为国内治安上的必要，应设置作为特殊警察军队的宪兵者。因此明治政府创设宪兵制度的直接动机，实际上在于：一、军事警察；二、因应非常事态的治安警察。
二、宪兵制度的成立
「宪兵」一词早在明治六年便已经出现。明治六年三月十二日所制定的「陆军省职制及条例」中，便出现了「宪兵」的字句。仅摘录该条例与宪兵有关的部分
