Como criar uma <div> via JS após o usuário clicar em um botão?

Olá pessoal!

Estudando JS... Estou tentando criar algo que quando o usuário clicar no botão 'Adicionar' seja inserido uma nova <div> na página e quando clicar em 'Excluir' remover a última <div> da página. Preciso que o Elemento seja realmente criado e realmente excluído. Percebi que a função remove(), não exclui o Elemento, apenas omiti da página. É possível criar Elementos dessa forma ou só com innerHTML incluíndo o código HTML para colocar a div na tela?

Obrigado!