För 'Forever And Counting' var bandet tvunget att få ett kortlivat namnbyte till 'The Hot Water Music Band'. Detta berodde på att ett rivaliserande bolag, Elektra Records , hävdade att de ägde rättigheterna till namnet Hot Water Music, på grund av ett annat band med samma namn på etiketten. Elektra-bandet bröts upp efter släppet av albumet och Hot Water Music fortsatte att producera skivor under deras ursprungliga namn.
I en intervju 2015 kritiserade basisten Jason Black albumets ljud och sa: "Jag tycker att det finns några coola låtar på det, det är definitivt en skiva som vi har funderat på att spela in mycket men vi har inte gjort det eftersom folk gillar det så mycket. Det låter bara hemskt." La Dispute -frontmannen Jordan Dryer citerade albumet som mycket inflytelserik över hans karriär. AV Club sa att albumet (och deras tidigare album som släpptes tidigare samma år) "står som två av 90-talets punks stoltaste monument - skivor som skar igenom allt bråk, alla andra gissningar och all politik på punkscenen och rakt in i sitt värkande hjärta.
