在司法行政领域，被告没有证据仅靠口头陈述是不可以的。以下从多个角度为你详细分析：

法律原则与规定

法律明确遵循“以事实为依据，以法律为准绳”的原则。这意味着，在处理任何案件时，都必须基于客观存在的事实来适用法律。而这些事实，必须依靠证据来加以证明。根据相关法律规定，法庭对案件的判处必须重视证据，重调查研究，不轻信口供。未经查证属实的口头陈述，不能作为定案的根据。这是因为，仅仅依赖口头陈述容易导致误判，进而损害当事人的合法权益，也会严重影响司法的公正性和权威性。

证据的重要性

证据在诉讼过程中具有核心且不可替代的作用，它是认定案件事实、作出公正裁决的基础。当事人的口头陈述，虽然在一定程度上能够反映案件的部分情况，但因其易受个人主观因素、记忆偏差甚至故意误导的影响，其真实性和准确性难以单独确认。因此，口头陈述不能直接作为定案的依据，必须与其他证据相互印证，形成完整的证据链，才能被法庭采纳。

实际操作中的建议

在实际操作中，当事人应当积极收集和提供多种形式的证据来支持自己的主张。这些证据可以包括但不限于书证、物证、视听资料、电子数据、证人证言、鉴定意见以及勘验笔录等。例如，在民事侵权案件中，如果原告主张被告对其进行了辱骂导致精神损害，那么原告就应当提供如录音、录像、证人证言等直接证据来证明辱骂行为的存在和后果。只有这样，法庭才能依据确凿的证据来认定案件事实，并据此作出公正的裁决。

可能的法律后果

如果被告没有证据仅靠口头陈述来抗辩，那么其主张很可能不会被法庭采纳。在诉讼中，举证责任通常由主张权利的一方承担。如果被告无法提供足够的证据来支持其抗辩主张，那么法庭可能会根据原告提供的证据来认定案件事实，并作出对被告不利的裁决。因此，被告在诉讼中应当注重证据的收集和提交，通过充分、确凿的证据来证明自己的主张。

总结与建议：

证据在法庭审判中起着至关重要的作用。当事人在法庭上应当注重证据的收集和提交，通过充分、确凿的证据来证明自己的主张，而不是仅仅依赖于口头陈述。如果你面临类似的法律问题，或者有任何关于婚姻家庭、经济纠纷、房产纠纷、合同纠纷、公司事务、行政纠纷等方面的疑问，都可以直接向我咨询。我会运用我的专业知识和经验，为你提供全面、准确的法律解答。