その後ですが、まだ解決していません。
windows10をクリーンインストールしてまっさらな状態でVmware workstation 16 playerのインストールも試してみたのですが、結果は同じでした。
■環境
・Vmware workstation 16 player ver16.0.0
・ホストOS:WIndows10 pro 64bit ver2004
・ゲストOS:WIndowXP professional ver2002 ※設定値はデフォルトのまま
・ホストPC:CPU AMD Ryzen7 1700 Eight-Core Processor 3.00GHz メモリ48GB
■現象
・インストール処理→『15秒後に再起動します』と出る→再起動→WindowsXPタイトル画面が出る→真っ暗→真っ暗なまま
・同じゲストOSイメージをVirturlBoxでは正常にインストールが完了する
・ゲストOSWindows10(32bit)、Windows7(64bit)、Ubuntu(64bit)では正常動作
■報告
・gowatana氏)Windows XP SP2 32bit、Windows 10 Home 1909、Lenovo ThinkPad X1、Core i5-8300Hで正常動作
※普遍的な現象なのか知りたいので解決に至っていなかったとしても、同じような症状になった方の報告などあれば助かります。
もし何か情報があれば引き続きよろしくお願いします。