起诉离婚时，原告恶意起诉是违法的。具体分析如下：

1. 恶意起诉的实质：

   • 恶意起诉，在法律上通常又称之为“恶意诉讼”。其实质在于当事人通过捏造虚假事实来启动诉讼程序，企图从中谋取不当利益，或者对他人造成实质性的伤害。

2. 违反的原则与秩序：

   • 这种行为严重违背了诚信原则以及民事诉讼所应遵循的基本秩序。诚信原则是民事诉讼的基石，而恶意诉讼则是对这一原则的公然挑战。

3. 可能面临的法律后果：

   • 更为严重者，恶意起诉的原告还可能遭受罚款、拘留等司法制裁。在某些情况下，如果恶意诉讼行为触犯了刑法，如构成诬告陷害罪，还可能面临刑事责任的追究。

4. 诉讼的正当性：

   • 任何诉讼都应该建立在真实的诉求和合法的理由之上。滥用诉讼权利去侵犯他人的合法权益，不仅是对法律资源的浪费，也是对法律尊严的践踏。

综上所述，起诉离婚时，如果原告存在恶意起诉的行为，那么这种行为是违法的。它不仅违背了诚信原则和民事诉讼的基本秩序，还可能面临严重的法律后果。因此，在提起离婚诉讼时，原告应当确保自己的诉求是真实、合法的，并避免任何形式的恶意诉讼行为。