El 30 de enero de 1933, Adolf Hitler fue nombrado canciller de Alemania. A los pocos meses estableció el primer campo de concentración en Dachau, y se confinó allí a comunistas, socialistas y líderes sindicales. El campo se convirtió en un centro de entrenamiento para guardias y oficiales de la SS que luego estuvieron a cargo de otros campos de concentración. El 2 de agosto de 1934, Hitler se declaró Führer de Alemania y en 1935 anunció las Leyes de Nuremberg, que despojaron a los judíos alemanes de sus derechos civiles como ciudadanos, definiéndolos como una raza separada. Se aprobaron muchas otras leyes que definieron lo que se denominó la raza aria.
La "Noche de los cristales rotos" tuvo lugar el 9 de noviembre de 1938, por orden del Ministro de Propaganda Joseph Goebbels. Las sinagogas, los hogares y los negocios judíos fueron destruidos, y aproximadamente 30,000 judíos fueron enviados a campos de concentración. El 1 de septiembre de 1939, Alemania invadió Polonia, iniciando así la Segunda Guerra Mundial.
Se establecieron inmediatamente guetos judíos en Polonia, y se obligó a los judíos a usar la Estrella de David como identificación. Los guetos estaban generalmente aislados del resto de la ciudad mediante barreras vigiladas, y la pena por atravesarlas era la muerte. En 1941 los nazis iniciaron un proceso de exterminio de judíos. Tropas de fusilamiento, llamadas "grupos de operaciones" ("Einsatzgruppen" en alemán), seguían a las tropas invasoras y disparaban a los judíos en el acto. Esta práctica continuó hasta el otoño de 1942, resultando en aproximadamente un millón y medio de asesinatos. Hitler reemplazó luego esta práctica por los exterminios masivos, más impersonales, en los campos de concentración.
Chelmno fue el primer campo de exterminio y comenzó a funcionar a fines de 1941. En enero de 1942, el oficial de las SS Reinhard Heydrich propuso la Solución Final en la Conferencia de Wannsee. Todos los judíos europeos (unos once millones) serían transportados a campos de concentración y exterminados. Todos los prisioneros de guerra rusos, así como los gitanos, serían también eliminados.
En 1942, en Polonia se abrieron campos en Auschwitz / Birkenau, Treblinka, Belzec y Sobibór, y se comenzó a disparar contra trenes llenos de prisioneros apenas llegaban. Hitler logró mantener en secreto los campos de concentración durante la mayor parte de la guerra. Los judíos creían que simplemente estaban siendo reasentados. 2.7 millones de judíos murieron en campos de concentración, y entre 5.2 y 5.8 millones fueron asesinados en total. Otras 5 millones de personas (incluyendo testigos de Jehová, homosexuales, gitanos, miembros disidentes del clero y presos políticos, entre otros) fueron también asesinadas.
Aunque la mayoría de los campos de concentración ya habían cerrado para fines de 1943, Auschwitz continuó operando hasta el verano de 1944. Las tropas aliadas rodearon Alemania hacia el otoño de 1944, y los nazis intentaron encubrir sus crímenes cerrando los campos. Entre fines de 1944 y comienzos de 1945, los prisioneros que quedaban fueron obligados a caminar a campos en el centro de Alemania en las "marchas de la muerte". Miles murieron.
Aunque la mayoría de los prisioneros de los campos de concentración cumplían las órdenes nazis, existieron grupos de resistencia, tanto en los guetos como en los campos de concentración. La resistencia armada tomó generalmente la forma de guerra de guerrillas. El 7 de octubre de 1944, un grupo de resistencia logró explotar un crematorio en Auschwitz, y la resistencia continuó hasta el final de la guerra.