更新：MojaveになってmacOS Serverからほとんどのサーバ機能が廃止されてしまいました。廃止された機能の多くはmacOSに移行されたので、macOSでサーバを立上げるメリットはまだあると思います。
macOSは基礎がUNIXなのでWindowsに比べてネットワークやサーバ関連のツールが充実しています。最初からApacheやsshdやPHPなどが搭載されています。なのでサーバとして使うのにも適しています。
Server.appを購入する
Server.appというアプリケーションはApp Storeで購入できます。これをインストールするとmacOS Serverになります。macOSは無料なのですが、Serverは2,400円します。しかし、昔はユーザ数無制限のMac OS X Serverが10万円くらいしたことを考えると、夢のような価格です。
もっとも、現在のServer.appは、OSそのものではなくて、すでに搭載されているサーバ機能をonにしたり、設定を管理するユーティリティです。昔のようにOSをインストールする手間に比べると、今のmacOS Serverは気軽に導入できるかと思います。
HackintoshでServerするメリット
HackintoshでServerするメリットは多いと考えています。Hackintoshで比較的難しい課題は、iMessageなどのiCloud関連のアプリケーションをちゃんと動かす、iOSやwatchOSとの連携をする、グラフィックスを正しく動かす、スリープを機能させるなどです。どちらかというとクライアントとして使う上での課題です。一方で、24時間稼働させるサーバならば、スリープなどの電源管理はあまり重要ではないです。ディスプレイやキーボード無しで運営するなら、グラフィックス機能は不要です。ssh接続や画面共有で設定すれば良いからです。なので、ちゃんと動くサーバを作ることは、完璧に動くデスクトップマシンを作るよりずっと簡単です。
また、必要とするサーバに特化したハードウェア構成が自由に選べるのもHackintoshのメリットです。
大きなPCケースを選んで、大容量のHDDを多数搭載したサーバを作ることもできます。複数のHDDをRAID 0構成にして、HDD障害に敏速に対応する体制を作ることもできます。また、大容量のHDDを搭載して、TimeMachineサーバを作ることもできます。TimeMachine機能を使って、大容量HDDにサーバー自身のバックアップを作っておくことも簡単です。
このような重量級サーバが作れる一方で、NUCなどを使えば、低消費電力のサーバを作ることもできます。NUCはMacBook Airなどで搭載するモバイル用の低消費電力CPUを搭載しているにも関わらず、メモリやストレージなどは簡単に増設できます。家庭で24時間稼働させる小型の省電力サーバを作るのには最適かと思います。
（NUC消費電力の例）
macOS Serverで何ができる
ではmacOS Serverで何ができるかというと、実のところ多少微妙なところはあります。例えば、Linuxでサーバを作る方が、多彩なサーバを作ることができます。様々な構成を自作できるメリットはHackintoshと同じです。macOSも、土台がUNIXなので、様々なサーバ機能をLinuxと同じく手作業で設定することももちろん可能です。ただ、これらの設定は、OSのバージョンアップで動かなくなる可能性があります。また、運用しているユーザも少ないので、情報が得られにくいです。macOS Serverが提供している機能だけを素直に使用するのが簡単だと思います。
一方、macOS Serverは、できることが限られていますが、サーバとしては比較的簡単に設定して、管理することができます。代表的な機能は、Webサーバ、VPNサーバ、メールサーバ、DHCPサーバ、DNSサーバ、カレンダ、メッセージ、連絡先などのサーバがあります。あまり使わないかもしれませんが、プロファイルマネージャサーバ、Netinstallサーバ、Xsanサーバがあります。VPNは、当然ですがmacOSクライアントと相性が良いので、設定が楽です。ちなみに、ファイルサーバ機能は、macOS通常盤で提供されていて、macOS Serverには特に機能がありません。また、コンテンツキャッシュ（ソフトウェアアップデートやiCloudのキャッシュ）とTimeMachineサーバの機能は、High Sierra Server機能ではなくなり、High Sierra通常盤で提供されるようになりました。コンテンツキャッシュはiCloudデータをキャッシュしてくれるので、自宅と職場で同期するなどの場合に、遅延の少ない確実な同期を期待できます。TimeMachineと共に、便利な機能なので、クライアントmacOSの機能に格上げされたのだと思います。
macOSが提供するサーバ機能の多くは、QNAPやSynologyなどのNAS製品を使えば、使いやすいインタフェースで構築可能です。でも、外部から接続できる常時稼働macOSマシンがあると、いろいろな場面で便利かと思います。