行政处罚在履行期间届满，且履行完毕后会解除。例如当事人受到行政拘留的处罚，在拘留期满后，拘留所会按时解除拘留，发给当事人解除拘留的证明书，并返还代为保管的财物。
法律依据:
《中华人民共和国行政处罚法》第九条
行政处罚的种类：
（一）警告、通报批评；
（二）罚款、没收违法所得、没收非法财物；
（三）暂扣许可证件、降低资质等级、吊销许可证件；
（四）限制开展生产经营活动、责令停产停业、责令关闭、限制从业；
（五）行政拘留；
（六）法律、行政法规规定的其他行政处罚。
《拘留所条例》第九条
拘留所应当凭拘留决定机关的拘留决定文书及时收拘被拘留人。需要异地收拘的，拘留决定机关应当出具相关法律文书和需要异地收拘的书面说明，并经异地拘留所主管公安机关批准。
《拘留所条例》第三十条
被拘留人拘留期满，拘留所应当按时解除拘留，发给解除拘留证明书，并返还代为保管的财物。
