Московская губернская прокуратура сформировалась к осени 1922 года и разместилась первоначально по адресу: Столешников пер., д. 3. Уже тогда в ее составе появились первые районные прокуратуры по Москве. Их было шесть. Первым советским Московским губернским прокурором стал Сергей Николаевич Шевердин.

Прокуратура надзирала за законностью в действиях органов власти, вела борьбу с преступностью. С первых шагов своей деятельности прокуроры поняли, что не сумеют справиться со своей огромной работой, если не наладят прочную связь с местными партийными, советскими и профсоюзными органами. С.Н. Шевердин обратился с призывом к гражданам содействовать в укреплении законности путем доведения информации о случаях ее нарушений до сведения прокуратуры.

Граждане стали сообщать в прокуратуру о злоупотреблениях должностных лиц, о недостатках на фабриках и заводах. Уже в самом начале 30-х годов на предприятиях появились «группы содействия прокуратуры». Члены этих групп проявляли инициативу в борьбе с зажимом критики, рабочих предпочтений, преступной волокиты и бюрократизма. С помощью групп содействия прокуратуре проводились обследования предприятий по вопросам качества выпускаемой продукции, своевременной выдачи заработной платы, рабочего снабжения.

В начале 20-х годов прокуроры систематически отчитывались о своей работе на страницах газет. Так, 16 мая 1923 года в газете «Рабочая Москва» поместили отчет прокуратуры за 1922 год.

Работники прокуратуры часто выступали с докладами перед рабочими. Их выступления слушали с большим вниманием, задавали вопросы, а в конце собрания принималась резолюция с выражением доверия органам прокуратуры.

Московская прокуратура также систематически отчитывалась о работе с письмами трудящихся, с заметками, опубликованными в различных газетах. «В газете аукнется — в прокуратуре откликнется», — писали газеты.

Рассказывая о работе прокуратуры, помощник губернского прокурора А. Эстрин сказал: «Прокуратура должна стать стрежнем в работе всех учреждений и граждан, борющихся с преступностью».

Уже в 1923 году Московский губисполком дал лестную характеристику прокуратуре: «Московская прокуратура, стоя на страже революционной законности, сумела войти в тесное соприкосновение с деловой работой советских органов губернии и содействовала созданию условий, при которых каждый рабочий и крестьянин встречал бы в любом органе советской власти действительную защиту своих интересов».