A nested VM (nested virtual machine) is a virtual machine contained within another VM. Nested VMs are used for testing out hypervisors and new operating systems in lab environments. … Older VMware hypervisor architectures, such as vmware Workstation 7, do not support nested VMs that require hardware-assisted virtualization.

Nested virtualization refers to virtualization that runs inside an already virtualized environment. In other words, it’s the ability to run a hypervisor inside of a virtual machine (VM), which itself runs on a hypervisor. With nested virtualization, you’re effectively nesting a hypervisor within a hypervisor.

به طور خلاصه : نصب یک hypervisor مثل ESXi در درون یک hypervisor دیگر مثل vmware workstation را عمل nested virtualization گویند. همین فراید می تواند با محصول hyper-V و یا … نیز صورت گیرد.
در صورتی که قصد نصب ESXi را درون vmware workstation دارید توجه داشته باشید که در قسمت settings مربوط به ماشین مجازی تیک گزینه Virtualize Intel VT-x/EPT or AMD-V/RVI فعال باشد.