Por padrão, quando o botão de fechar a janela é clicado, a janela esconde-se. Este exemplo mostra como desabilitar o botão de fechar:
// Cria uma janela
JFrame frame = new JFrame();
// Obtém a operção padrão de fechar a janela
int op = frame.getDefaultCloseOperation(); // HIDE_ON_CLOSE
// Configura para ignorar o botão
frame.setDefaultCloseOperation(JFrame.DO_NOTHING_ON_CLOSE);