不定期承包合同不是随时可以解除。一方随意解除承包合同的，另一方可以要求该方在约定期限内履行承包义务，该方拒不履行的，可以起诉至法院要求该方及时履行承包合同。
法律依据:
《民法典》第五百七十七条
当事人一方不履行合同义务或者履行合同义务不符合约定的，应当承担继续履行、采取补救措施或者赔偿损失等违约责任。
第五百八十四条
当事人一方不履行合同义务或者履行合同义务不符合约定，造成对方损失的，损失赔偿额应当相当于因违约所造成的损失，包括合同履行后可以获得的利益；但是，不得超过违约一方订立合同时预见到或者应当预见到的因违约可能造成的损失。
