Pero sin embargo a partir de la mitad de la década el declive de la banda parecía cada vez mas cerca, los gloriosos días del glam se habían acabado y el glamour de aquel movimiento tan irresistible ya no volvería tragado por los sonidos de la música disco, el rock progresivo o el heavy metal. En 1977 publicaban "Off the Record", su quinto álbum que contra todo pronóstico fue uno de sus discos más emblemáticos, grabado con grandes dosis de hard rock y melodías cercanas al heavy metal, pero sin abandonar su estilo inconfundible de glam rock.
Canciones pegadizas con poderosos riffs de guitarras como “Fever Of Love” y “Lost Angels”, contundentes temas de hard rock “Live For Today” o “Midnight To Daylight”, o heavy glam aplastantes como “Windy City”, “She Gimme Lovin´” o “Hard Times” e incluso acercamiento a los sonidos mas comerciales con la funky “Funk It Up”, demostraron que con este álbum y que a pesar de que su época de gloria ya había pasado, Sweet aún mantenían el empuje suficiente y la creatividad precisa para continuar en lo mas alto y dejar su impronta a modo de un legado incuestionable, el cual seria imitado por innumerables bandas del metal pop de la siguiente década de los ochenta.
