Als Solist setzt er sich für die zeitgenössische und selten gespielte Literatur seines Instruments ein, zahlreiche eigens für ihn geschriebene Werke, u.a. von Alfred Schnittke, brachte er zur Uraufführung.
Seit Mai 1994 ist er ordentlicher Professor für Posaune an der Universität für Musik in Wien. 1960 gründete er das legendäre Jazz Trio "Josel Trio", auch heute ist er als Jazzposaunist mit verschiedenen Formationen, u.a. mit seinem Rudi Josel Quintett, international tätig.
Vielfache Aufnahmen in Rundfunk und Fernsehen, sowie Schallplattenaufnahmen aus Klassik und Jazz runden seine Tätigkeit ab.