Подавляющее большинство расстрелянных по политическим мотивам в годы советской власти были приговорены не общими судами или военными трибуналами, а решениями внесудебных органов. Это обстоятельство нуждается в пояснении.
Право внесудебной расправы было предоставлено ВЧК сразу после образования, и с самого начала это право осуществлялось высшим коллективным органом — коллегией (президиумом) ВЧК в Центре (в Москве) и коллегиями губернских ЧК на местах. Коллегии ВЧК и ГубЧК проводили специальные судебные заседания и выносили приговоры — от самых незначительных вплоть до высылок, заключений в концлагерь и расстрелов.
В ОГПУ СССР, созданном в 1923 году и наследовавшем ВЧК–ГПУ, правом вынесения приговоров обладали коллегия и — с 1924 года — особое совещание (ОСО) при коллегии ОГПУ, однако приговаривать к расстрелу имела право только коллегия. На заседаниях коллегии рассматривались дела, проведенные не только центральным аппаратом ОГПУ, но и местными органами (полномочными представительствами) ОГПУ. При этом следствие велось на местах (в Ленинграде, на Урале, в Сибири и т. д.), в Москву, за редким исключением, арестованных не этапировали, а направляли лишь следственные дела с предложениями о мерах наказания. В Москве дело рассматривалось в отделах центрального аппарата и либо ставилось с рекомендацией отдела на заседание коллегии для вынесения окончательного решения, либо отсылалось назад в местный орган (с рекомендацией о доследовании, прекращении, передаче дела в суд или прокуратуру и т. д.).
На коллегию (равно как и на особое совещание) ни обвиняемые, ни тем более свидетели не вызывались, представители защиты в рассмотрении дела также не имели права принимать участие. Заседания, формально делившиеся на распорядительные и судебные, сводились к ознакомлению с заранее подготовленными протоколами, краткому их обсуждению и подписанию. За несколько часов заседания выносилось 30–50, а иногда и более приговоров. В судебных заседаниях участвовала не вся коллегия, а специально выделенная для этого группа ее членов — обычно не более трех человек. Руководил судебными заседаниями коллегии в 1926–34 годах, как правило, зампред ОГПУ Г. Г. Ягода.
В 1920-х — начале 1930-х годов коллегия ОГПУ — основной орган, приговаривавший к расстрелу по политическим делам. Например, в 1926 году коллегия приговорила к расстрелу 517 человек, в 1927 — 779, в 1928 — 440, в 1929 — 1383, в 1930 — 1229. Трибуналы и суды в эту эпоху также рассматривали политические дела, но к расстрелу приговаривали значительно реже. Дело было не в «мягкости» обычных судебных инстанций, а в специально проводившейся селекции — на коллегию направлялись дела с точки зрения ОГПУ более важные.
Другое обстоятельство, понуждавшее отправлять дела не в общие суды, а в собственные судебные органы ОГПУ, — это слабая доказанность обвинений, явная во многих случаях их сфальсифицированность, откровенные нарушения требований УПК и т. п. В общих судах и трибуналах в 1920-х — начале 1930-х годов риск, что дело вернут на доследование или даже вовсе его прекратят, был гораздо выше, чем в случае рассмотрения дела на коллегии или ОСО.
Из такого рода дел в судебные инстанции направлялись лишь те, которые, по замыслу властей, должны были рассматриваться на открытых процессах (Шахтинское, Союзного бюро меньшевиков и т. п.). С образованием НКВД в июле 1934 года коллегия была ликвидирована.
В отличие от коллегии, особое совещание в НКВД было сохранено и просуществовало до осени 1953 года, однако право приговаривать к ВМН оно имело лишь в годы войны и осудило тогда к расстрелу более 10 000 человек.
Местные органы ОГПУ в 1920-е годы судебных прав не имели. Исключение (с 1924 года) составляли судебные тройки, создававшиеся при тех полномочных представительствах (ПП) ОГПУ, территории которых президиум ВЦИК объявлял «неблагополучными по бандитизму». Тройки эти учреждались на точно обозначенный срок, обычно на несколько месяцев, иногда на год. Они имели право рассматривать только те дела, которые были связаны с бандитизмом (фактически, конечно, тройки действовали шире), и приговаривать к любой мере уголовного наказания, в том числе и к расстрелу.
С 1927 года в некоторых полпредствах действовали тройки «по белогвардейцам» с теми же правами. Приговоры троек утверждала коллегия ОГПУ в Москве. Процедура принятия решений на тройках была еще более упрощенной, чем в коллегии: дела на тройку поступали прямо из отделов полпредств, распорядительных заседаний не было, сохранялся тот же принцип заочного рассмотрения дел без участия обвиняемых, свидетелей и защиты. В 1926–29 годах в стране функционировало ежегодно от трех до шести таких троек полпредств ОГПУ (Сибирь, Северный Кавказ, Закавказье и некоторые другие регионы), и за эти четыре года они вместе приговорили к расстрелу более 3000 человек.
В феврале 1930 года, для того чтобы сломить массовое сопротивление коллективизации, тройки были созданы при всех полпредствах ОГПУ. Они получили право выносить приговоры не только по делам о бандитизме, но по всему спектру обвинений в «контрреволюционных преступлениях». В результате в 1930 году тройками местных органов ОГПУ было приговорено к расстрелу («высшей мере социальной защиты») 18 966 (!) человек, в 1931 году — 9170. В 1932–34 годах права троек приговаривать к расстрелу были резко ограничены. Как и в прежние тройки, в тройки 1930–34 годов входили, кроме председательствовавшего в них полпреда ОГПУ (или его заместителя), представители местных партийных и прокурорских органов. Ликвидированы тройки были в июле 1934 года при преобразовании ОГПУ в НКВД СССР. Тройки полпредств ОГПУ 1930–34 годов — прямые предшественники широко известных троек УНКВД, действовавших в августе 1937 — ноябре 1938 годов и приговоривших за этот период к расстрелу более 400 000 человек.
В Москве в 1920-е годы тройки ПП ОГПУ не было, так как после упразднения в конце 1923 года московского губотдела ОГПУ никакого полпредства ОГПУ вместо него здесь не создавалось. Все дела по Москве и Московской губернии вел центральный аппарат ОГПУ. В 1929 году была создана Московская область (в нее вошли территории Московской, Тверской, Калужской, Рязанской, Тульской губерний), и вскоре (в феврале 1930 года) организовано ПП ОГПУ по Московской области. При полпредстве сразу же возникла и тройка. Первое свое заседание она провела 7 марта 1930 года, последнее — 10 июля 1934 года, за день до ликвидации ОГПУ. Таким образом, в Москве в 1930–34 годах одновременно действовали два органа ОГПУ, имевших право приговаривать к расстрелу — коллегия ОГПУ и тройка при ПП по Московской области.
Всего за 1931–34 годы тройка при ПП ОГПУ по Московской области вынесла более 71 000 постановлений, из них к расстрелу — более 200. Основная доля расстрельных приговоров по делам москвичей в эти годы по-прежнему приходилась на коллегию ОГПУ. В остальных регионах СССР в начале 1930-х годов создалась противоположная ситуация — подавляющее большинство приговоров к расстрелу выносили местные тройки, в Москву же на рассмотрение коллегии ОГПУ расстрельных дел отсылалось значительно меньше (в процентном отношении).