Оно было создано на базе Управления особых отделов Народного комиссариата внутренних дел СССР. Руководителем структуры был назначен Виктор Абакумов.

Главная задача СМЕРШа заключалась не только в оказании противодействия немецкой разведке, но и во внедрении советских контрразведчиков в высшие эшелоны власти фашистской Германии, а также в уничтожении вражеских диверсионных групп, проведении радиоигр и в борьбе против изменников Родины.

В этом же году были образованы подобные управления в ВМФ и НКВД. Таким образом, в годы войны существовали три организации под общим названием. Все они действовали до мая 1946 года.