Anderson nació en Haywards Heath, un pueblo en el condado inglés de West Sussex. La mayoría de su niñez la pasó practicando deportes y conviertiéndose en músico de rock.

En su adolescencia, Anderson tocaba la guitarra en bandas de garage, como The Pigs y Geoff. En ésta última participaba su futuro compañero del grupo Suede, el bajista Mat Osman. A fines de los 1980, Anderson y Osman formaron Suede junto a la novia del primero, Justine Frischmann. Más tarde, encontraron al guitarrista Bernard Butler gracias a un anuncio publicado en el semanario musical NME. En 1991, y tras ser asesorados por el ex baterista de la banda Smiths, Mike Joyce, Simon Gilbert se unió a Suede como el baterista oficial. En esta época fue que Frischmann dejó a Anderson por el líder de Blur, Damon Albarn. Luego de ausentarse a muchos ensayos y ostentar su relación con Albarn frente a Anderson, Frischmann fue despedida del grupo. Eventualmente, se convirtió en la vocalista de la banda Elastica.

Incluso antes de que el primer álbum de Suede fuera lanzado al mercado, el estilo andrógino de Anderson y las imprecisas confesiones acerca de su sexualidad provocaron cierta controversia en la prensa musical británica. En 1993, Suede se posicionó en el primer lugar de las tablas de popularidad del Reino Unido. Combinando la postura homoerótica de Morrissey con el estilo glam de David Bowie, Anderson logró fama instantánea en su país. El público estadounidense aún estaba cautivado con la revolución grunge y el yodel de Anderson chocaba con el enfado de Kurt Cobain y Eddie Vedder. Debido a una disputa con la cantante estadounidense Suede, la banda fue obligada a cambiar su nombre en Estados Unidos a "The London Suede". Aunque el compositor Butler abandonó la banda en 1994, mientras grababan el segundo disco, Suede continuó lanzando material comercialmente exitoso y aclamado por la crítica en el Reino Unido.