许效舜生于台湾基隆市暖暖区,其父许义隆曾为基隆市议员。许效舜曾当过基隆地方法院法警五年,工作期间考上华视编剧班,加入基隆话剧社,报考兰陵剧坊演员训练班,也在电视台当二、三线演员。
他与李优君于1992年结婚,曾被称为“美女与野兽”的婚姻;李并于1995年诞下女儿。2001年,李与女儿因移民,居于加拿大;因观念不同,与2005年8月4日台湾《苹果日报》误传李过世的消息,被女方认为是许恶意中伤,两人已于该月底签字离婚,家族事业亦同样走下坡。
2006年6月起,他在基隆市暖暖区东势街开设“舜子的家—─石头族茶栈”算命店,替客人算命。他笃信佛教。他亦有收藏住家附近的大小珍奇石头的习惯,由他对家族与祖家店子的命名可体会到,许对石头有另一份情结。
2011年,许效舜与小他24岁的“小铁”再婚,并育有一子,取名为“许甘丹”。