Es formada en 2009 en Columbus, Ohio, por tres amigos universitarios. El nombre de la banda proviene de "All My Sons" de Arthur Miller , una obra sobre un padre de familia que vendía piezas para aviones durante la Segunda Guerra Mundial. Al momento de entregar su mercancía, éste se enteró de que sus piezas eran defectuosas, y él llega a una encrucijada moral: o hacia lo correcto no enviando las piezas, pero ensuciando su nombre; o las vendía defectuosas por el bienestar de su familia y la de su negocio, sabiendo esto de todas maneras mandó las piezas, lo que provocó la muerte de veintiún pilotos, y al final de la obra el hombre se suicida. Tiene una mezcla de piano (algunas veces un teclado eléctrico o una keytar), sintetizador, batería (también mezclada con batería eléctrica en algunas partes), y voz. Sus canciones están basadas en poesías (escritas por Tyler), y cuando la poesía es demasiado larga necesita empezar a rapear para hacer encajar las letras. Las personas suelen tener problemas para definir a la banda con un género en específico. Sin embargo, muchos fans (y ellos mismos) los han etiquetado como "pop Esquizofrénico" , un sub-género no oficial o no reconocido del pop. También se le puede clasificar como rock alternativo.
