Mulanya, PSHT bukanlah organisasi silat melainkan sebuah perkumpulan bernama Sedulur Tunggal Kecer yang didirikan oleh Ki Ageng Ngabehi Soerodiwirjo pada 1903.
Ia merupakan putra sulung dari Ki Ngabehi Soeromihardjo, seorang mantri cacar di daerah Ngimbang, Jombang, Jawa Timur.Semasa hidupnya, Ki Ageng Ngabehi Soerodiwirjo memiliki ketertarikan pada seni bela diri pencak silat. Ia pun sempat pergi ke berbagai daerah untuk mengasah kemampuan silatnya.
Ki Ageng Ngabehi Soerodiwirjo masih memiliki silsilah keluarga dengan Betoro Katong yang merupakan pendiri Kabupaten Ponorogo, Jawa Timur.Awalnya, ia pergi ke Parahiyangan, Bandung, Jawa Barat pada 1892 untuk mempelajari berbagai aliran pencak silat.Kemudian, ia pindah ke Jakarta, Lampung, Padang, dan Aceh hingga akhirnya kembali ke Surabaya pada 1902.Selang setahun, ia mendirikan Sedulur Tunggal Kecer sebagai sebuah perkumpulan dengan pencak silatnya bernama Joyo Gendelo Tjipto Muljo.Pada 1907, Ki Ageng Ngabehi Soerodiwirjo akhirnya mengubah nama Sedulur Tunggal Kecer menjadi Persaudaraan Setia Hati (PSH) di Desa Winongo, Madiun, Jawa Timur.Ia menggunakan kata 'persaudaraan' untuk mengikat rasa persaudaraan antaranggota PSH dan membentuk rasa nasionalisme di kalangan pemuda Indonesia yang kala itu masih dijajah Belanda dan di sebut juga Setia Hati Pemuda Sport Club (SH PSC).Setelah bersulih nama menjadi PSH, Ki Hadjar Hardjo Oetomo yang merupakan salah satu tokoh pergerakan kemerdekaan Indonesia didapuk menjadi pemimpin PSH sejak 1922 sampai 1948.
Pada masa kepemimpinan Ki Hadjar Hardjo Oetomo, Belanda sempat menganggap PSH merupakan tempat latihan pencak silat dalam rangka menghimpun perlawanan kepada Belanda.Maka dari itu, Belanda kemudian menangkap Ki Hadjar Hardjo Oetomo dan membuangnya ke beberapa daerah, mulai dari Jember, Cipinang, hingga Padangpanjang.Namun, pada masa kepemimpinan Ki Hadjar Hardjo Oetomo muncul usulan agar PSH berganti nama menjadi Persaudaraan Setia Hati Terate (PSHT).Usul ini berasal dari RM. Soetomo Mangkoedjojo, seorang pegawai bank yang merupakan murid Ki Hadjar Hardjo Oetomo.
