Puh! Bei deinen Anforderungen wirst du bei Linux oder einem anderen Unix bleiben müssen oder gleich auf ein spezialisiertes OS umsteigen. Du kannst eigentlich nur versuchen irgend ein Embedded Teil zu besorgen und darauf ein freies Unix so laufen zu lassen, dass es deine Anforderungen erfuellt (wie auf dem PC eben auch).
Du könntest dir vorab mal die m0n0wall anschauen (lässt sich auf CD brennen und in einem normalen PC nutzen). Wenn die alle Features erfuellt, kannst du sie problemlos auf einem WRAP oder Soekris Embedded Board betreiben. Aber Vorsicht: Der v6-Filter von FreeBSD (ip6fw) beispielsweise soll derzeit noch immer mit einem (bestimmten, aber gueltigen) Paket so aus dem Tritt zu bringen sein, dass die Kiste stehen bleibt (m0n0wall basiert noch auf FreeBSD 4 - aktuell ist 6.1).
Vielversprechender könnte da pfSense - ein Fork von m0n0wall - sein. Es basiert auf FreeBSD 6.1.
Ansonsten wirst du tatsächlich professionelle Hardware mit entsprechender Software benötigen (das wird sich mit den - wenn überhaupt - geringeren Stromkosten aber nie reinholen lassen). Cisco oder Juniper/Netscreen sollen in der Tat schon eine gute IPv6 Unterstützung bieten - allerdings zu einem entsprechenden Preis.