Su nombre viene de un comercial del castillo de She-Ra en el que decía "El castillo de cristal es la fuente de todo poder". Se formaron en 2004 por iniciativa del programador Ethan Kath, cuando este descubrió a Alice Glass en un estudio mientras ella grababa para una banda punk. Ethan había encontrado el ingrediente que faltaba en su proyecto. Él le dio a Alice 60 pistas instrumentales para poder crear una letra y posteriormente grabar algo. En 2005 Alice grabó varias de estas pistas y así surgió "Alice Practice", el primer single, el cual fue grabado secretamente por el ingeniero y se convirtió en el primer éxito de la banda. Varios singles más vinieron en ediciones limitadas en vinilo 7" hasta que salió el disco homónimo. La revista NME los calificó con el N°39 en el "Top 50 álbumes más grandes de la Década". En octubre de 2014, a través de un mensaje de Facebook , Alice Glass anunció que se iba de Crystal Castles. Luego de esto el gerente de Crystal Castles informó de inmediato de que la banda continuaría, ingresando Edith Frances como vocalista.