Obsesionado con la guitarra y el piano, dejó los estudios temprano para trabajar en una tienda de música y actuar entre escenarios en "The Blue Note jazz club". Allí se encontró con Zoot Money, un pianista de su escuela, quien asentó con Andy los principios de "Zoot Money´s big roll band" en 1961. Se unió a "Strontium 90" de Mike Howlett (ex-bajista de "Gong"). Durante las sesiones de grabación de ese disco, que no vería la luz sino hasta veinte años después, conoció a Sting y a Stewart Copeland, en 1977. En Andy, Sting encontró lo que necesitaba para expandirse a nivel musical, además compartían influencias y gustos musicales. Así quedó conformado The Police, con la formación que los llevaría a la fama, con quienes publicó cinco álbumes: Outlandos D’Amour (1978), Reggatta de Blanc (1979), Zenyatta Mondatta (1980), Ghost in the Machine (1981) y Synchronicity (1983). En 1984 la banda se separó, retomando proyectos personales. Summers colaboraría de aquí en adelante con bandas de jazz y rock progresivo. También se le recuerda mucho por colaborar con Robert Fripp y Gustavo Cerati, conocido fan de The Police; en un cover de "Bring On The Night" que en español se llamaría "Tráeme La Noche", para un disco homenaje a The Police. Después de 23 años, Summers se presentó con The Police en los premios Grammy de 2007, con lo cual la banda inglesa partió de gira mundial hasta 2008, cuando decidieron retomar sus proyectos personales.