先整理一下：
IP: 1.2.3.4
www.example.com in A 1.2.3.4
example.com in A 1.2.3.4
mailgun.com in A 1.2.3.4
mg.example.com in A 1.2.3.4
提供 http 服務的是 www.example.com
提供 smtp 服務的是 mailgun.com
首先，你的問題和 dns 沒有直接關係(細節你有興趣的話再另外說)
因此你第一個要處理的不是 dns
你的問題是
1.怎麼讓同IP的mg.example.com不要連到論壇呢?(這個Hostname想要只有寄信)
因此你應該
1. config http server，只對 hostname www.example.com 有回應
nginx 設定可參考這個連結
http://blog.faq-book.com/?p=4645
"在virtual.conf 最後加入以下設定，並針對個人需求修改"
server {
listen 80;
server_name www.example.com
}
也可以參考
server {
listen 80;
server_name www.faq-test.tk;
rewrite ^/(.*) http://faq-test.tk/$1 permanent;
}
將其他的網址，重導到 www.example.com
建議你測看看再把設定及測試結果回覆，大家比較容易幫你
2.另外一個不確定正確與否的，偽靜態規則或者rewrite那些是直接新增到
/etc/nginx/sites-available/*.conf嗎?(我目前是這樣用)
還是要自己到/etc/nginx/conf.d創一個conf文件新增才正確? (作業系統是Ubuntu
14.04)
可以 work 表示就可以用，新手不用太在意這個，等你目前的問題解決了再去爬文就好