Kannst du. Mit einem Typ 1 Hypervisor wie VMware ESXi, den es ja jetzt nicht mehr gibt. Und dann musst du einen dedizierten SAS-Adapter per PCI-Passthrough an die TrueNAS VM durchschleifen. Wenn du nur Platten durchschleifst, wirst du Datenverlust erleiden. Aber PCI-Passthrough klappt ja mit deinem System nicht so prall.
Hast du denn wenigstens das andere TrueNAS schon mal getestet? Vielleicht klappt es ja wirklich nur mit CORE nicht. Dir ist bewusst, dass es da zwei Varianten gibt und diese fundamental unterschiedlich sind? CORE basiert auf FreeBSD, SCALE auf Linux.
Wenn das nicht geht, hast du zwei Seiten, von denen du das angehen kannst - Hardware oder Software. Du ersetzt die Hardware, so dass das mit GPU passthrough tut. Dazu würde ich durchaus dieses Forum empfehlen, aber du wirst dann in Englisch mal im deutlich größeren englischen Teil anfragen müssen, wer das denn schon erfolgreich durchgezogen hat und mit welcher Konfiguration.
Oder du nimmst Windows Server, der kann als Fileserver also als NAS dienen, auf die GPU zugreifen, da gibt es eingebaut Hyper-V, um Dinge wie pihole zu virtualisieren und sogar Linux eingebaut inkl. Docker so weit ich weiß.