古代帝王死后，升祀太庙，始祖称为「大庙」，高祖以下则称为「小庙」。《周礼．夏官．祭仆》汉．郑玄．注：「小庙，高祖以下也，始祖曰大庙。」

庶出的帝王为其生母所立的庙。《隋书．卷七．礼仪志二》：「又有小庙，太祖太夫人庙　也，非嫡，故别立庙。」

规模不大的庙。如：「到前面的小庙里休息一下。」

比喻不很理想的环境。如：「咱们这个小庙里容不下您这尊大菩萨，您还是另谋高就吧！」