Vale, he hablado con un amigo con el que monté un pequeño server hace un tiempo, y él era el que manejaba el tema de hamachi.
Me ha dicho que lo primero es que mires bien la versión de Java, que suele ser un problema habitual, bajate la última disponible (creo que es la 7. algo)
Lo segundo que sigas este tutorial, es de un tío que hizo en su momento otro y fue el que seguimos y nos funcionó, así que prueba a ver
Minecraft 1.6.2 como crear un server bukkit [con hamachi] (mac y PC) - YouTube