ok.. era per verificare che non ci fosse l'account nomemacchina$, tipico caso di tentato join fallito (è un po' + lunga la storia, ma mi fermo qui)
sinceramente da qui non penso di poter fare molto ancora
è evidente che c'è qualcosa di anomalo o nella tua topologia di rete o nella configurazione della stessa..
la configurazione di SME è ok, identica a quella di altri miei server
se le macchine sono tutte nella stessa rete, senza firewall di mezzo, senza personal firewall sui client (dubbio), usi SME come dns ed inserisci il valore del campo "worgroup" come nome dominio, non ci dovrebbero essere problemi di sorta.. istantaneamente dovresti vedere la richiesta di credenziali di admin di SME e procedere..
ho messo in dominio parecchie dozzine di macchine xp (e non solo) e non ho mai avuto un problema simile..
ultima prova:
collega SME ed i client allo stesso switch, setta SME su un'altra rete (es. 10.0.0.X), cambia gli indirizzi ip dei client (basta uno), disattiva tutti i firewall ed gli AV (soprattutto la parte relativa al controllo del traffico di rete/web/sarcazzi) e riprova
senza vedere la/le macchina/e non posso fare molto di più