A geração dos arquivos gerber, por sí só, é até simples. Acho que o eagle já tem alguns arquivos de exemplo. O problema é saber qual padrão usar. Normalmente é o RS-274X, mas nem sempre.
Um exemplo disso é a placa do TSW. Ao gerar os gerber tudo estava 100%,
menos a furação, o que exigiu a criação de um arquivo no padrão Excellon (o gerber informa a posição dos furos, e o excellon o diâmetro de cada um).
Em breve (leia-se quando tiver tempo) vou postar um tutorial de como gerar gerber pelo eagle.
Mas em relação à pergunta do autor do tópico, se for usar os gerber para fazer em casa, não se iluda, pois não ficará (nem) parecido com a industrial.
A única maneira que conheço de criar máscara de solda (razoável) em casa é usando uma tinta curável por ultravioleta especial para eletrônica (alguém lembra do método fotográfico?
). Infelizmente ela é cara, difícil de achar e trabalhosa de aplicar.
Abraços.