结论前置：针对大儿子起诉争房子的情况，小儿子需要准备的证据主要包括老人将房产归其所有的意思表示证据、房产实际由小儿子占有和使用的证据，以及其他可能支持其主张的证据。
一、老人将房产归小儿子所有的意思表示证据
书面遗嘱或赠与协议：
- 如果老人在生前立有书面遗嘱，明确表示将房产归小儿子所有，那么这份遗嘱就是最直接的证据。遗嘱应当符合法律规定的形式要件，如自书遗嘱需由遗嘱人亲笔书写、签名，并注明年、月、日；代书遗嘱应当有两个以上见证人在场见证，由其中一人代书，并由遗嘱人、代书人和其他见证人签名，注明年、月、日。
- 如果老人是通过赠与协议将房产赠与小儿子，那么赠与协议也是重要的证据。赠与协议应当明确赠与的房产信息、赠与的条件和方式等。
口头遗嘱的见证人证言：
- 如果老人在生前没有留下书面遗嘱，但在危急情况下（如生命垂危）立有口头遗嘱，并有两个以上见证人在场见证，那么这些见证人的证言也可以作为证据。但需要注意的是，口头遗嘱在危急情况解除后无效，如果老人后来能够用书面或者录音形式立遗嘱的，所立的口头遗嘱无效。
老人日常生活中的表示：
- 如果老人在日常生活中多次向亲友、邻居等表示将房产归小儿子所有，这些表示虽然不如书面遗嘱或赠与协议那样正式，但也可以作为辅助证据。例如，老人可能在闲聊时提到“我这房子以后就给我小儿子了”，或者在与亲友商量家庭事务时表达过类似的意思。
二、房产实际由小儿子占有和使用的证据
房产证或相关权属证明：
- 如果房产证上已经登记为小儿子的名字，或者虽然未过户但小儿子持有房产证原件及相关权属证明，那么这些都可以作为房产实际由小儿子占有的证据。
居住证明或物业费、水电费等缴纳记录：
- 小儿子可以提供自己在该房产中的居住证明，如居委会或村委会出具的居住证明、邻居的证言等。同时，小儿子还可以提供自己缴纳物业费、水电费等费用的记录，以证明自己实际占有和使用该房产。
三、其他可能支持小儿子主张的证据
老人与大儿子的沟通记录：
- 如果老人在生前与大儿子有过关于房产分配的沟通，并且这些沟通记录（如短信、微信聊天记录、录音等）能够表明老人不愿意将房产分给大儿子或者已经明确表示将房产归小儿子所有，那么这些沟通记录也可以作为证据。
家庭会议记录或亲友证言：
- 如果家庭内部曾经就房产分配问题召开过会议，并且有会议记录或者亲友的证言能够证明老人的意愿和房产的分配情况，那么这些也可以作为辅助证据。
法律建议：在准备证据的过程中，小儿子应当注意证据的合法性和真实性。所有证据都应当是合法取得的，不能通过非法手段获取。同时，证据应当真实可靠，能够反映老人的真实意愿和房产的实际情况。如果大儿子提起诉讼，小儿子应当积极应诉，并在法庭上充分展示自己的证据和理由。
可能法律后果：如果小儿子能够提供充分的证据证明老人确实将房产归其所有，并且这些证据得到了法庭的认可，那么法庭可能会判决房产归小儿子所有。反之，如果小儿子无法提供充分的证据或者证据不足以证明其主张，那么法庭可能会根据其他证据和法律规定来判决房产的归属。因此，准备充分的证据对于维护小儿子的合法权益至关重要。