Redes y subredes con ip's

Todos los equipos que pertenezcan a una misma subred deben de tener el mismo rango de IPs con la misma máscara, porque si no no se conectarían a internet ya que la dirección del router es única y debe pertenecer a los dos rangos. Es decir, que si el router de internet tiene una dirección X.X.1.0 sólo accederán a él máquinas que tengan IPs del mismo rango, y si configuramos en la red una máquina con una IP X.X.2.0 esa no verá nada.
La configuración que tú quieres es una configuración avanzada que se denomina RPV (Red Privada Virtual), es decir, tener la posibilidad de configurar en el mismo switch redes independientes que no se conecten entre sí. Esto sólo lo hacen switches que tengan esta capacidad, normalmente de gama media-alta. Con esta facilidad le configurarías al router que la boca 1, 2 y 3, por ejemplo, pertenezca a la red A, las bocas 4 y 5 a la B, y adicionalmente, que la boca 6, pertenezca a la A y B, con lo que conseguirías lo que vas buscando. Todo esto es un ejemplo.
En la boca 6 conectarías el router de internet, y en la otras bocas los equipos de la red en función de la subred a la que quieras conectarlos.
Usando RPV, todos los equipos pertenecerían al mismo rango de IP, aunque hubiera IPs duplicadas en la red.
Con RPV se consigue un total aislamiento de ambas subredes, de manera que no puede accederse desde una a la otra.
Existe hardware balanceador de carga, pero suelen ser muy caros y profesionales.
Si necesitas más información, coméntamelo.