In gemischten NW 4.x und NW 5.x Netzen innerhalb eines Baumes müssen alle Master NW 5.x Server sein. Alles andere macht früher oder später Probleme. (u.a. mit NLS, ZEN, DNS/DHCP, NEPS, etwas aufwendigeren NDS Operationen wie Merge oder Schemaoperationen aller Art).
Des weiteren müssen auf den NW 4.10 und 4.11 Servern die jeweils aktuelle DS.NLM Versionen installiert sein, damit alle Features der NDS unterstützt werden.
Solange in einem Multi-Server Netz NW 4.x Server (mit der NDS7) betrieben werden, sollte bei NW 5.x keine NDS8 verwendet werden. Dies macht eh keinen Sinn, weil die Neuerungen der NDS8 nicht aktiviert werden, solange noch ein Server mit der NDS7 verwendet wird.
NW 4.10 und 4.11 Server sollten außerdem die Licensing Services (aus Service Pack IWSP6A oder neuer) installiert haben, damit die Lizenzen des NW 5 Server installiert werden können. Dazu geben Sie nach der Installation LOAD SETUPNLS an der Konsole ein und anschließend den Namen des Admins inklusive Kontext (nach dem Muster CN=ADMIN.OU=blahblah.O=blahblubb) an.
Zumindest bei NW 4.11 sollten Sie dann auch LOAD NLSLSP.NLM in der Autoexec.ncf eingetragen, sonst klappt die Lizenzierung nicht.