在探讨法院调解无效婚姻案件的合法性边界之前，我们需要明确的是，法院调解是人民法院对受理的民事案件、经济纠纷案件和轻微刑事案件在双方当事人自愿的基础上进行的调解，以解决矛盾、达成协议并结案的法律程序。而无效婚姻则是指不具备法律规定的结婚条件，不具有合法效力的婚姻关系。
根据中国《婚姻法》及其司法解释的相关规定，法院在处理涉及无效婚姻的案件时，应当遵循以下原则：
- 尊重当事人意愿的原则：法院在进行调解工作时，必须充分尊重当事人的意愿，不得强迫或诱使当事人达成违背其真实意思的和解协议。
- 依法调解的原则：法院的调解活动必须在法律的框架内进行，不得违反法律规定的基本原则和精神。
- 保护当事人合法权益的原则：调解过程中，法院应确保当事人的合法权益不受侵害，特别是要保障妇女、儿童和无行为能力人的权益。
- 维护社会公共利益和社会秩序的原则：调解无效婚姻案件时，法院还应注意维护社会的公共利益和社会秩序，防止因不当调解导致家庭破裂或其他不良后果的发生。
因此，法院在调解无效婚姻案件时，应当在遵守上述原则的前提下，严格审查婚姻关系的有效性。如果经过调查发现确实存在法定无效情形（如重婚、近亲结婚等），即使双方同意维持婚姻关系，法院也不能通过调解方式确认该婚姻的有效性，而是应当按照法律规定作出判决宣告婚姻无效。这体现了法院在处理此类案件时的合法性边界——即不能超越法律的规定去调解和认定本应被认定为无效的婚姻关系。
相关案例分析：
例如，在某离婚诉讼中，夫妻双方虽然都表示不愿意解除婚姻关系，但经法院查明，男方在婚前曾有过一段未办理离婚手续的事实婚姻。在这种情况下，尽管双方都希望保持现状，但由于男方的行为构成了重婚这一法定无效事由，法院最终没有接受双方的调解请求，而是依据法律规定作出了宣告婚姻无效的判决。
综上所述，法院在处理无效婚姻案件时，应当严格遵守法律规定的界限，既不能任意扩大调解的范围，也不能忽视法定无效情形的存在。只有在符合法律规定的情况下，才能通过调解的方式帮助当事人解决问题；而对于那些明显违反了法律规定的情形，法院应当果断地按照法律规定作出相应的裁判，以维护法律的尊严和社会的稳定。
