Jongste zoon van Adrien-François Servais.

Joseph Servais behaalde in 1866 de eerste prijs voor cello in het Conservatorium, in de klas van zijn vader. Hetzelfde jaar al vergezelde hij A. F. Servais naar Rusland. Amper een jaar later trad hij op voor de Portugese koning. Nadien kwamen nog Frankrijk, Spanje, Duitsland en Nederland aan de beurt.
In 1868-70 was hij cellosolo in de Muziekkapel van de Groot-hertog in Weimar. In 1872 werd hij op zijn beurt leraar cello aan het Brusselse Conservatorium. Met de pianist Louis Brassin en de violist Henri Vieuxtemps stichtte hij even later de Kamermuziekconcerten in de Brusselse Cercle Artistique. Henri Vieuxtemps droeg zijn twee celloconcerto’s op aan Joseph Servais, die ze in première uitvoerde.

Voor uitgebreide info over de familie Servais zie de website van de Servais vzw.