Po tygodniu poszukiwań zespół wynajął praktycznie pusty hotel Montreux Grand Hotel i przemianował korytarz oraz schody w studio nagraniowe, gdzie zarejestrowali większość materiału nagraniowego do swego najbardziej kasowego albumu Machine Head. Jedyną piosenką nienagraną w całości w Grand Hotel był właśnie utwór „Smoke on the Water”.
Nowa wersja (1989) Nowa wersja utworu została nagrana w ramach charytatywnego projektu Rock Aid Armenia, dochód z którego przeznaczony był na pomoc po trzęsieniu ziemi w Armenii. W nagraniu, oprócz części muzyków Deep Purple, uczestniczyli wykonawcy znani z karier solowych i z innych zespołów, m.in.: Bryan Adams, Bruce Dickinson (Iron Maiden), Geoff Downes i Chris Squire (Yes), Keith Emerson, David Gilmour (Pink Floyd), Tony Iommi (Black Sabbath), Alex Lifeson (Rush), Brian May i Roger Taylor (Queen), Paul RodgersRock Aid Armenia Reissue: „Smoke On The Water: The Metropolis Sessions”, Rush News [dostęp 2015-02-02].. Producentami nagrania byli Geoff Downes i Gary Langan.