大小合同不一定都是违法的，需要根据具体情况分析判断。如果其中小合同是依法订立的，内容真实合法的，则大合同无效，小合同是有效的，不违法。但如果订立大小合同，违反法律、行政法规的强制性规定，例如是为了逃避税收而订立的，则是违法的，大小合同都无效。
《民法典》第一百四十三条 具备下列条件的民事法律行为有效： （一）行为人具有相应的民事行为能力； （二）意思表示真实； （三）不违反法律、行政法规的强制性规定，不违背公序良俗。 第一百四十四条 无民事行为能力人实施的民事法律行为无效。 第一百四十六条 行为人与相对人以虚假的意思表示实施的民事法律行为无效。 以虚假的意思表示隐藏的民事法律行为的效力，依照有关法律规定处理。
