更新：macOS 10.5.1以降の情報はこちらをご覧ください。(2019/11/4)
macOSで使えるGPU
MacのThunderbolt 3コネクタに接続する外部GPUボックス
を販売しているSonnet社が、macOS 10.13.4以降と互換性のあるグラフィックスカードの一覧を公開しています。 eGFX Breakaway Box for AMD and NVIDIA GPUs | Sonnet 各ブランドごとの多数のモデルを掲載しています。Sonnetの外部GPUボックスは、AppleのExternal Graphics Development Kitにも採用されているほぼ純正みたいな存在です。なので、このリストで互換性があるとされたグラフィックスカードは、Hackintoshで、そのまま動くカードと考えて良いです。互換表のPDFファイルは以下から入手できます。市場に出回っている多数の製品に対して互換性がチェックされているようですので、Hackintosh用グラフィックスカード購入の際は、これで確認しておきましょう。 http://www.sonnettech.com/support/downloads/manuals/Compatibility_Graphics_Cards.pdf これを見ると、例えば、AMDリファレンス（ファンデーション）バージョンでは、以下の機種（Mがマークされた機種）がmacOSと互換のようです。 
また、ブランドごとの差は無いようです。GPUチップによってのみ互換・非互換が決定するようです。まとめると以下のようになります。
- RX 470, RX 480, RX 570, RX 580はどのブランドも互換性あり
- RX Vega 56/64はどのブランドも互換性あり
- RX 460/550/560は互換性なし
- R9 NANO/FURY は互換性なし
- WX 5100は非互換で、WX 7100, WX 9100は互換性あり
- NVIDIA GeForce は互換性なし
外部GPUを使えるMac
前述のサイトでは、SonnetのThunderbolt 3接続eGPUボックスのマニュアルも公開されています。 http://www.sonnettech.com/support/downloads/manuals/macos_egpu_info.pdf 以前、こちらで紹介したマニュアルの改訂版です。
以前のマニュアルではThunderbolt 2搭載Macの一部もサポートすると書いてありましたが、新しい版では、Thunderbolt 3搭載Macに限定されたようです。具体的には、
- 2016年以降のMacBook Pro
- 2017年以降のiMac
- iMac Pro
です。この構成でHackintoshすればかなり安心です。ただ、このリストは、Thunderbolt 3が搭載されていることが条件になっていると思われますので、PCIeで接続するHackintoshでは、これ以外の構成でもまず大丈夫です。実際、手元ではiMac15,1で構成したHackintoshでRadeon RX 580が何の問題もなく動いています。 ただ、Sonnetの上記の古い方の資料によると、Thunderbolt 2搭載Macのうち、IntelのiGPUを使わない・搭載しないMac Proなどが互換リストから外されていました。iGPUを動かさないとAMDグラフィックスカードのGeekBentiスコアが低下する現象
もありますので、それと関係があるのかもしれません。