Ich hatte das gleiche Problem in Win10-64bit und bin am Ende mit diesem Thread hier zum Ziel gekommen, möchte aber nochmal meine persönlichen Erfahrungen zusammenfassen, weil das hier nicht so steht, nur in den Links:
Im Prinzip funktioniert diese Anleitung: http://vlc-bluray.whoknowsmy.name/ (weiter oben schon genannt)
Was mich irritiert hatte, war, dass man die libaacs.dll in das VLC-Verzeichnis kopieren soll, wo es doch ein plugin-Verzeichnis gäbe. Aber das ist wirklich so. Diese dll kommt in das VLC-Hauptverzeichnis, nirgendwo anders.
Für mich war der eintscheidende Satz aber dieser hier von kodela: "Welche die richtige [32- oder 64-bit Version] ist, ist abhängig von der installierten Version des VLC, nicht der des Betriebssystems!".
Schließlich ist man ja gewöhnt, Programmversionen anhand des Betriebssystems zu installieren. Darum geht es hier aber nicht. Bei mir war VLC als 32-bit installiert, also musste ich die 32-bit-dll kopieren und schon funktionierte alles.
PS: und die Bemerkung, man soll sich einen Blueray-Player kaufen ist echt doof mit Stern. Ich kaufe mir ja auch keine Schreibmaschine, damit ich meine Texte nicht am Computer schreiben muss.