呂涼自幼酷愛文藝，吹拉彈唱無所不能。自泰安一中畢業後到山東泰安療養院當過炊事員，那時的經歷磨練了他平和的處世態度與堅韌的個性，1978年，呂涼考入上海戲劇學院表演系，1982年畢業分配到峨眉電影製片廠演員劇團，相繼在影片《星星星》、《不該發生的故事》、《無聲的雨絲》、《咱們的退伍兵》等中扮演角色。由於他滑稽的外表，幽默詼諧的性格，所扮演的角色都是一些令人忍俊不禁的喜劇人物。1986年，呂涼調入上海人民藝術劇院，並在同一年，參加了影片《城市假面舞會》的拍攝。這次他飾演男主角羅漢，這也是呂涼第一次飾演主角，呂涼自然、純樸的表演，成功地刻畫了羅漢這個“毛病不少，但富有良知和正氣感”的當代青年的普通形象，為此，獲得第十屆百花獎最佳男主角獎提名。隨後，他又在《嘿！哥們兒》和《仗義小伙兒》等影片中有不凡的表演。