相传周武王时，召伯巡行南国，广布仁政，决讼于甘棠树之下，深为民众传颂。召公卒，民众怀念他，不伐甘棠树，作《甘棠》诗咏之。又传春秋时郑国卿子产在他执政期间，曾进行许多有利于农业生产、有利于民众的政治改革。子产卒，仲尼闻之，出涕曰：“古之遗爱也。”后遂以“甘棠遗爱”称颂官吏的政绩。唐 刘禹锡《答衢州徐使君》诗：“闻道天台有遗爱，人将琪树比甘棠。”《镜花缘》第五回：“这个异种，大约就是武则天留的‘甘棠遗爱’。”