Trovato, dovesse servire
Su google avevo già cercato per diverse ore e nessuno mi dava una soluzione sufficientemente comprensibile per la mia mente ottusa.
Comunque ho risolto così:
basta editare il file
/var/spool/hylafax/config/usr-xon
e impostare/aggiungere le seguenti due righe:
ModemDialCmd: ATX3DT%s
ModemResultsCodesCmd: ATQ0X3
poi rilanciare faxaddmodem, e rifare la configurazione del modem, per ricreare il file config.ttyS0.
Alla fine ho anche riavviato il server, solo il servizio hylafax non era bastato.
Saluti
Daniele