当事人对于行政机关所对其作出的行政处罚，可以申请行政复议或者提起行政诉讼来进行消除。根据我国《行政处罚法》的相关规定，公民、法人或者其他组织对行政机关所给予的行政处罚，享有陈述权、申辩权；对行政处罚不服的，有权依法申请行政复议或者提起行政诉讼。
法律依据:
《《中华人民共和国行政处罚法》》第七条
公民、法人或者其他组织对行政机关所给予的行政处罚，享有陈述权、申辩权；对行政处罚不服的，有权依法申请行政复议或者提起行政诉讼。
公民、法人或者其他组织因行政机关违法给予行政处罚受到损害的，有权依法提出赔偿要求。
