Foi utilizada a versão do servidor jboss 4.2.2, e a configuração default.
1º Execute a linha de comando
keytool -genkey -alias server-alias -keyalg RSA -keystore .keystore -validity 90
Serão perguntadas algumas informações e a senha.
2º Copie o arquivo .keystore para o diretorio ${JBOSS_HOME}/server/default/conf
3º Edite o arquivo server.xml que se encontra no diretório ${JBOSS_HOME}/sever/default/deploy/jboss-web.deployer/
maxThreads="150" scheme="https" secure="true"
clientAuth="false" strategy="ms" address="${jboss.bind.address}"
keystoreFile="${jboss.server.home.dir}/conf/.keystore"
keystorePass="sodexho123"
truststoreFile="${jboss.server.home.dir}/conf/.keystore"
truststorePass="sodexho123"
sslProtocol="TLS"/>
Obs: Repare que eu coloquei o caminho do arquivo .keystore e a senha que foi gerada quando foi executado o keytool.
3º Quando o jboss for iniciado a url https://localhost:443/jmx-console/index.jsp pode ser verificada.
Obs: Se você acompanhar o console do jboss pode verificar se está acontecendo algum erro em sua inicialização.