El guitarrista Dean Wareham, el batería Damon Krukowski y la bajista Naomi Yang se habían conocido en la Dalton School, en Nueva York, pero comenzaron a tocar juntos en su tiempo como estudiantes en la Universidad de Harvard. Wareham y Krukowski habían formado un grupo llamado Speedy and the Castanets, cuyo bajista se había marchado. La vacante del bajo la cubrió Yang, y el nombre del grupo cambió a Galaxie 500, por el coche de un amigo (un Ford de los 60, el Galaxie 500).
El grupo comenzó a dar conciertos en Boston y Nueva York, y grabo una demo que mandaron al jefe y productor de la discográfica Shimmy Disc, Mark Kramer, quien aceptó ser el productor de la banda.
Con Kramer tras los controles, el grupo grabó el single “Tugboat” y el flexi-disc “Oblivious”, y continuaron con la grabación de su álbum Today, que fue editado en el pequeño sello Aurora. En 1989 firmaron con Rough Trade, y editaron su segundo álbum, On Fire, que es considerado el momento definitorio de la banda. On Fire llego al número 7 en la lista indie del Reino Unido, y recibió críticas muy favorables en dicho país. Sin embargo, no fue tan bien recibido por la prensa estadounidense, que citaba las limitaciones vocales de Wareham como una debilidad.
