结论：在对方与小三十多年的情况下，您是否可以起诉赔偿，需根据具体情况判断，主要看是否存在法定过错情形以及是否满足离婚损害赔偿的构成要件。以下从不同角度为您详细分析：
一、从离婚损害赔偿的角度分析
法定过错情形：
- 根据《中华人民共和国民法典》第一千零九十一条的规定，有下列情形之一，导致离婚的，无过错方有权请求损害赔偿：（一）重婚；（二）与他人同居；（三）实施家庭暴力；（四）虐待、遗弃家庭成员；（五）有其他重大过错。
- 在您描述的情况下，如果对方与小三长期保持不正当关系，且构成“与他人同居”或“有其他重大过错”的情形，那么您作为无过错方，在离婚时有权请求损害赔偿。
损害赔偿的构成要件：
- 离婚损害赔偿的请求权主体必须是无过错方，即您需要证明自己在婚姻中没有过错。
- 对方必须存在法定过错情形，如上述提到的“与他人同居”或“有其他重大过错”。
- 对方的过错行为必须导致离婚，即过错行为与离婚之间存在因果关系。
- 离婚损害赔偿请求必须在离婚诉讼中或离婚后一定期限内提出。
赔偿范围：
- 离婚损害赔偿包括物质损害赔偿和精神损害赔偿。物质损害赔偿主要针对因对方过错行为导致的直接经济损失，如因对方挥霍共同财产而造成的损失。精神损害赔偿则主要针对因对方过错行为给您造成的精神痛苦和创伤。
二、从实际举证的角度分析
举证难度：
- 在实践中，要证明对方存在“与他人同居”或“有其他重大过错”的情形，往往需要一定的证据支持。这些证据可能包括聊天记录、照片、视频、证人证言等。
- 由于这些证据往往涉及个人隐私，收集起来可能比较困难。因此，在决定起诉赔偿前，您需要评估自己是否有足够的证据来支持自己的主张。
法律程序：
- 如果您决定起诉赔偿，需要向法院提起离婚诉讼，并在诉讼中提出损害赔偿请求。
- 法院将根据双方提供的证据和法律规定，对损害赔偿请求进行审理和判决。
三、建议与注意事项
收集证据：
- 在决定起诉前，尽可能收集能够证明对方存在过错行为的证据。这些证据将对您在诉讼中的主张起到关键作用。
咨询专业律师：
- 由于离婚损害赔偿案件涉及复杂的法律问题和证据收集，建议您在起诉前咨询专业律师，以获取更具体的法律建议和指导。不过，在这里您已经可以直接向我咨询相关问题了，我会尽我所能为您提供帮助。
保持冷静与理性：
- 在处理这类敏感问题时，保持冷静和理性至关重要。避免采取过激行为或言语攻击对方，以免对案件处理产生不利影响。
总结：在对方与小三十多年的情况下，您是否可以起诉赔偿取决于是否存在法定过错情形以及是否满足离婚损害赔偿的构成要件。如果您认为对方存在过错行为且满足相关条件，可以考虑向法院提起离婚诉讼并请求损害赔偿。不过，在决定起诉前，请务必收集足够的证据并咨询专业律师的意见。如果您有任何疑问或需要进一步的法律帮助，请随时向我咨询。