La période de la fin des années trente en URSS est appelée Grande Terreur. Ces années de violence et de purges se déroulent dans un contexte où Staline cherche à définitivement contrôler le parti dans une situation internationale grosse de périls.
La grande purge va toucher en profondeur l'encadrement du parti, les cadres de l'industrie, le corps des officiers, les élites culturelles...

Kirov
Premier incident lors du congrès du parti en 1934. Les discours prononcés à la tribune couvrent d'éloges Staline. Il semble pourtant qu'un courant plus modéré souhaite son départ et peut-être son remplacement par Kirov, chef du parti à Léningrad et dont le discours est davantage applaudi. Il semble aussi que lors du vote pour l'élection du nouveau Comité Central, Kirov obtient plus de voix que Staline. Le 1er décembre 1934, Kirov est assassiné : Staline est-il l'instigateur de ce crime ? Rien n'est certain même si le NKVD paraît impliqué.
La responsabilité du meurtre est imputée à Zinoviev et Kamenev. Les deux dirigeants sont condamnés à mort en 1936 ; d'autres suivront pour les mêmes raisons.

			Staline, successeur et continuateur (?) du père du socialisme soviétique : Lénine. Affiche de propagande

Purifier le parti
Le renouvellement du parti a pour conséquence la difficulté de ses dirigeants à le contrôler. La grande purge du parti en 1936 a donc pour but de contrôler le recrutement en son sein. À la fin de 1936, avant même que les grandes purges ne commencent, le Parti ne compte plus que 1 450 000 membres, soit une diminution de 750 000 en quatre ans. En 1937, première année de purge en profondeur, 500 000 autres membres disparaissent des registres, le plus souvent fusillés ou envoyés dans des camps. 1937 marque l'accentuation de la politique entreprise.

Accélération de la répression
En août 1936, Staline fait juger Kamenev et Zinoviev et 14 autres personnes, accusés d'avoir constitué un "centre terroriste trotsko-zinoviéviste", déjà responsable de l'assassinat de Kirov, et qui complotait d'assassiner Staline et la plupart des membres du Politburo, pour restaurer le capitalisme avec l'aide de fascistes allemands et japonais. Les preuves sont visiblement truquées ; en particulier celles attestant une rencontre entre les fils de Trotski et les accusés.
En septembre, Staline fait remplacer Iagoda par Ejov à la tête du NKVD pour renforcer la répression.
L'étape suivant date de la session du Comité Central de février-mars 1937 où, après des débats houleux, Staline, Molotov, Ejov finissent par l'emporter sur les partisans d'une ligne modérée. Ils obtiennent la tête de Boukharine et Rykov, aussitôt arrêtés (leur ancien collègue Tomski s'était suicidé). En mars 1938, Boukharine, Rykov, Iagoda passent à leur tour en procès. Par la suite Toukhatchevski et six autres maréchaux sont également jugés sommairement et exécutés. L'armée est décimée.
Ejov poursuit la basse besogne durant toute l'année 38.

		« Je considère que tes accusations sont une calomnie monstreuse, insensée, sauvage et, en fin de compte, imbécile. La vérité est que, malgré tout ce que l'on m'a fait endurer je reste à vos côtés, aux côtés de nous tous, même si chaque jour que Dieu fait vous me repoussez. La vérité est que je supporte des humiliations inimaginables. La vérité est que je ne réponds pas, mais je ne me laisse pas briser quand on me calomnie... C'est parce que je ne te lèche pas le cul et que je ne t'écris pas des articles à la Piatakov que je suis un "terroriste" ? Eh bien, dis-le ouvertement ! Mon Dieu, dans quel monde infernal de fous vivons-nous ! Et toi, au lieu de t'expliquer tu suintes de méchanceté envers moi, moi qui ne vis que pour une idée : aider à tirer la télègue [charrette] dans laquelle nous sommes tous embarqués, mais sans me transformer en lèche-cul, car des lèche-cul il y en a beaucoup et ce sont eux qui nous causent tant de mal !» Lettre de Boukharine à Staline, le 14 octobre 1930

Les camps ou goulags
Les déportations des koulaks dans les années trente et l'arrestation des opposants remplissent les goulags. Les prisonniers sont utilisés pour l'exploitation des ressources (bois, diamant, or) des régions inhospitalières du Nord et de la Sibérie, où le régime juge trop coûteux d'employer une main d'oeuvre salariée. Les zeks sont aussi utilisés dans les grands travaux du type des canaux Volga-mer Blanche ou Volga-Moscou.

Bilan chiffré
Conquest estime la population des camps à 8 millions en 1938 : prenant ensuite ce chiffre comme moyenne annuelle pour les années 1936-1950, et un taux moyen des décès annuels de 10 %, il conclut qu'il y a eu quelque 12 millions de morts dans les camps durant cette période. A quoi il faut ajouter environ un million de personnes fusillées entre 1937 et 1939. Au bout du compte, si nous ajoutons à ces chiffres l'estimation la plus basse des victimes de la collectivisation, 6 millions, nous obtenons un total général approchant les 20 millions de morts pour raisons politiques sous le règne de Staline. L'économiste Alec Nove, qui multiplie les précautions, aboutit à une estimation comparable. Ce chiffre de 20 millions de victimes du stalinisme est le plus couramment admis en Russie.

D'après Martin Malia, La Tragédie soviétique, Seuil

A la lumière des nouvelles archives, les chiffres indiqués plus haut doivent être très largement minorés. Selon N.Werth, il faut compter 6 millions de victimes des grandes famines de 32-33 (provoquées par l'absurde politique agricole de Staline) ; 700 000 exécutions en 37-38 ; 2 millions de prisonniers du goulag en 39.