Quando usamos a letra M e quando usamos a letra N no final das palavras ?

Normalmente em português  as palavras terminam com a letra M, mas existem palavras que terminam na letra N.

Embora seja habitual o uso da consoante m no final das palavras, existem algumas palavras terminadas em n no português. São maioritariamente palavras paroxítonas acentuadas ou estrangeirismos.

Palavras terminadas em N

abdômen;

albúmen;

ânion;

cânon;

cartoon;

cátion;

cólon;

dólmen;éden;

elétron;

espécimen;

gérmen;

gin;

glúten;

hífen;

hímen; líquen;

nêutron;

plâncton;

pólen;

próton;

sêmen;

van

Portanto, algumas palavras terminam com "n" porque a terminação é etimológica, ou seja, elas foram incorporadas à língua portuguesa por via erudita e não sofreram alterações fonéticas significativas, mantendo o "n" do idioma de origem (como em hífen, hímen, sêmen). 

Essas palavras são consideradas graves e geralmente precisam de acento na terminação, já que são paroxítonas terminadas em "n". 

Etimologia: A razão principal é que a palavra entrou para o português mais tarde, através do latim e grego, sem as mudanças que outras palavras sofreram ao longo do tempo.

Exemplos:

Exemplos comuns incluem abdômen, cólon, glúten, pólen e sêmen.

Acentuação: A maioria dessas palavras é uma paroxítona (a sílaba tônica é a penúltima) e, por isso, recebe acento gráfico quando terminam em "n", como em hífen e abdômen.

Pronúncia: A consoante "n" nessas palavras é pronunciada de forma clara, como em neve ou nada, e não de maneira nasalizada antes de uma vogal ou no final da sílaba.

Em português europeu a situação é diferente.

Neste, essas palavras não têm terminação anasalada.

Não poderiam ser escritas com -m em vez de -n porque isso mudaria a sua pronúncia.

Talvez a razão para começarem a ser escritas assim seja distinta; mas hoje em dia não são uniformizadas para -m por questões fonéticas.

Exemplos:

hí.fen e sé.men e có.lon mas com.prem e ta.pem e ta.pam e co.mam e a.bri.ram e a.bri.rão IPA: ˈi.fɨn i ˈsɛ.mɨn i ˈkɔ.ɫun mɐʃ ˈkõ.pɾɐ̃j i ˈta.pɐ̃j i ˈta.pɐ̃w i ˈko.mɐ̃w i ɐ.ˈbɾi.ɾɐ̃w i ɐ.bɾi.ˈɾɐ̃w

Fontes:

wikipedia.org

portuguese.stackexchange.com

normaculta.com.br

ciberduvidas.iscte-iul.pt

reddit.com

google.com