除按照规定不需要发给税务登记证件的外，纳税人办理开立银行账户、申请减税、免税、退税等事项时，必须持税务登记证件。工商行政管理机关应当将办理登记注册、核发营业执照的情况，定期向税务机关通报。
法律依据:
《中华人民共和国税收征收管理法》第十五条第一款
企业，企业在外地设立的分支机构和从事生产、经营的场所，个体工商户和从事生产、经营的事业单位（以下统称从事生产、经营的纳税人）自领取营业执照之日起三十日内，持有关证件，向税务机关申报办理税务登记。税务机关应当于收到申报的当日办理登记并发给税务登记证件。
