Saat Tentara Keamanan Rakyat (TKR) terbentuk belum tersedia perangkat hukum atau peraturan yang mengendalikan suatu organisasi bersenjata atau angkatan perang, oleh karena itu pengaturan kelompok-kelompok bersenjata tersebut menjadi sukar.
Dalam situasi tersebut timbul gagasan dari beberapa orang untuk mendirikan badan yang mengatur disiplin dikalangan organisasi bersenjata, umumnya mereka yang berpikiran demikian berlatar belakang penegakan hukum. Maka secara otonom di beberapa daerah mulai berdiri Polisi Tentara (PT)