W latach 1921–1939 kontrwywiad wojskowy znajdował się w strukturach Oddziału II Sztabu Generalnego (od 1928 r. Sztabu Głównego), wiodącej wówczas służby informacyjnej II Rzeczypospolitej. W tym okresie wielokrotnie modyfikowano jego organizację. Od 1930 r. aż do wybuchu II wojny światowej działalność kontrwywiadu wojskowego organizował i prowadził Wydział IIb Zabezpieczenia Tajemnicy w ramach Oddziału II SGWP. Podlegały mu placówki terenowe utworzone przy każdym z dziesięciu dowództw okręgów wojskowych oraz przy dowództwie floty.

Najważniejszym zadaniem kontrwywiadu była ochrona państwa i sił zbrojnych przed obcą działalnością szpiegowską, zabezpieczenie tajemnicy państwowej, ochrona instytucji państwa i zakładów przemysłowych przed sabotażem oraz zwalczanie wrogiej propagandy wywrotowej. Największe zagrożenie w tym czasie powodowały służby wywiadowcze III Rzeszy i ZSRS.

W czasie pokoju z powodzeniem pracował wojskowy radiokontrwywiad. Do największych sukcesów polskiej kryptologii należy złamanie – uchodzącego za niemożliwy do odczytania – kodu niemieckiej maszyny szyfrującej "Enigma". Polscy matematycy, pracownicy Biura Szyfrów Oddziału II SGWP – Marian Rejewski, Jerzy Różycki i Henryk Zygalski – już w grudniu 1932 r. odczytali niemieckie depesze, a następnie zbudowali własną kopię "Enigmy". Do odczytywania często zmieniających się szyfrów posługiwali się specjalnie do tego celu skonstruowanym urządzeniem zwanym "bombą". Bezpośrednio przed wybuchem II wojny światowej Polacy przekazali Brytyjczykom i Francuzom swoją wiedzę dotyczącą "Enigmy".