Еще нашел такую статью на хабре: https://habr.com/ru/sandbox/34354/
Из описания:
>[оверквотинг удален]
> acl is_site3 hdr_dom(host) -i site3
> acl is_cdn hdr_dom(host) -i cdn
> acl is_cdnt hdr_dom(host) -i cdnt
> acl is_site4 hdr_dom(host) -i site4
> use_backend site1_cluster1 if is_site1
> use_backend site2_cluster1 if is_site2
> use_backend site3_cluster1 if is_site3
> use_backend cdn_cluster1 if is_cdn
> use_backend cdnt_cluster1 if is_cdnt
> use_backend site4_cluster1 if is_site4

Понимаю, что при условии(сейчас на свою ситуацию примастырю), что если обращение идет на domain.ru, то грубо говоря, отработает строчка acl is_site1 hdr_dom(host) -i domain.ru и как итог выберется backend site1_cluster: use_backend site1_cluster1 if is_site1
Ну а дальше в разделе backend я прописываю нужно сервера.
Другими словами, я все проверки провожу в разделе frontend, где разбираю какой хост используется и направляю на нужный backend.
Или это работать будет только  http трафиком, так как там в запросе указывается имя домена. При SMTP сначала идет приветствие helo mail.server.ru. к серверу, который указан в mx-записи dns
или возможно прописать smtpchk HELO mail.domain.ru; и для каждого из доменов прописываться свой MX?