关于在单位从事第二职业是否合法的问题，这主要取决于您的职业身份以及所从事的第二职业的具体性质。以下我将从公职人员和非公职人员两个角度，为您详细解答。
对于公职人员而言：
根据《公务员法》及相关规定，公职人员从事第二职业是受到严格限制的。具体来说：
公务员兼职限制：公务员因工作需要在机关外兼职的，必须经过严格审批，并且不得领取兼职报酬。这是为了防止公职人员利用职权谋取私利，影响公正执行公务。
禁止营利性活动：公务员不得从事或者参与营利性活动，不得在企业或者其他营利性组织中兼任职务。这一规定旨在维护公务员队伍的纯洁性，防止权力寻租和利益输送。
违规兼职的后果：如果公职人员违规从事第二职业或兼职取酬，将可能面临党纪政纪处分，甚至可能触犯法律，构成受贿等犯罪行为。
对于非公职人员而言：
对于非公职人员，如企业员工、自由职业者等，从事第二职业的合法性则主要取决于其与所在单位签订的劳动合同以及相关法律法规的规定。
劳动合同约定：首先，您需要查看与所在单位签订的劳动合同中是否有关于兼职或从事第二职业的限制性条款。如果合同中有明确规定禁止或限制兼职，那么您从事第二职业可能构成违约。
法律法规规定：其次，您需要了解相关法律法规对于兼职或从事第二职业的规定。例如，某些行业可能存在特定的兼职限制或需要取得相关资质才能从事。
避免利益冲突：即使您是非公职人员，在从事第二职业时也应避免与本职工作产生利益冲突。例如，不得利用本职工作的便利或资源为第二职业谋取利益。
综合建议：
对于公职人员：建议您严格遵守《公务员法》及相关规定，不要从事与职权相关的营利性活动或兼职取酬。如果您有创业或兼职的意愿，可以考虑辞职创业或选择与本职工作无关联的副业，并确保不影响本职工作的正常进行。
对于非公职人员：在从事第二职业前，请务必查看劳动合同和相关法律法规的规定，确保自己的行为合法合规。同时，也要注意避免与本职工作产生利益冲突，维护自己的职业声誉和单位利益。
总之，无论您是公职人员还是非公职人员，在从事第二职业时都应谨慎行事，确保自己的行为合法合规且不影响本职工作的正常进行。如有任何疑问或不确定之处，建议咨询专业法律人士或所在单位的人力资源部门。