清朝末期，上海閘北有一家梨膏店，生意做得很大，店門口掛著「天知道」3個大字的牌匾。「天知道」梨膏店的對面是一家姓於的水果店，這梨膏店的發跡就是因為這家水果店。
光緒八年，於家水果店從山東萊陽運到上海閘北50簍梨，因為路途遙遠，梨皮被顛破，經雨一淋，運到目的地就開始爛了，不管怎樣晾、曬和削皮，還是賣不出去。
對門有個小店，裡面住著夫妻二人，正沒糧食吃，見於家扔掉了許多爛梨，就拾了回去。削去皮，挖掉爛眼，一吃，居然還很甜。於是夫妻倆把削好的碎梨片切細，一枚銅錢5塊，生意很是興隆。夫妻倆就又到於家水果店買下了一簍簍的爛梨。反正梨爛了也不值錢，於家樂得其所，把梨一股腦的都賤賣給他們。買的多了，這對夫妻就將梨削好放進大缸里用糖腌起來，誰料味道極好，一上市賣得更火了。夫妻倆到處收購爛梨，削去皮放進鍋里熬成梨汁，製成膏糖。這梨膏竟一下子成了南方的名產。
第二年，朝廷的欽差大臣到上海閘北區出巡，買了梨膏糖一嘗，又甜又酸，非常好吃，於是將糖帶回北京獻給了慈禧太後。太後品嘗了梨膏糖後大加讚賞，傳旨叫夫妻倆進貢梨膏糖，這一下夫妻倆生意做大了，正式開了梨膏店。
於家水果店老闆暗自打探，得知這些梨膏糖是爛梨製成的，他既眼紅，又嫉妒，更怕得罪皇上，就在夜裡寫了「天知道」3個字，貼在了梨膏店的大門上。第二天，這夫妻倆一看「天知道」3個字，愣了一會兒，明白是有人搗亂。男老闆哈哈大笑，說:「正想起個字型大小，今天就有人寫了送上門。我家店裡的梨膏糖連皇上都吃過，他是當今天子，自然是『天知道』。我就用這3個字當招牌!」他把招牌寫得特別大，來看的人一問，知道皇上、太後都愛吃梨膏糖，這生意就更好了。
罵人不成，字也被人家利用，於家水果店的老闆更加生氣了。他又在梨膏店的牆上畫了一隻烏龜，把頭縮進殼裡，旁邊還寫著:「不知羞恥」。待梨膏店夫妻倆一看，又是一愣，接著同時說:「咱們用烏龜當商標。梨膏糖止咳、延年益壽，龜也是長壽的。」從此，這個商標就成了上海的馳名商標。
