El tono de transparencia tiene que ser el mismo para toda la planilla.
Si colocas un color de transparencia que sea al menos un tono mayor o menor que el de los demás, este no será transparente.
En Rpg Maker abre el "Gestor de Archivos" y selecciona la carpeta que dice Graphics/Tilesets y le das "Importar", ahora seleccionas la planilla de tiles y le das abrir, ahora te aparecerá un cuadro en donde te pedira que selecciones un color de transparencia(el cuadro de color superior) y un colo de opacidad o sombra(el cuadro de color inferior) y los seleccionas usando los botones derecho e izquierdo del cursor/mouse, terminas dando aceptar y te guardará el tileset correctamente.
Los arboles que sobresalen de los otros, es porque en una capa inferior tienes esos tiles los cuales tienen una prioridad mayor que los que se encuentran en la capa o capas superiores, lo que puedes hacer es simplemente borrando esos arboles en la capa inferior y ya no saldrán de esa manera.
Consejo : Intenta recordar que el Rpg Maker tiene tres capas distintas, la primera es para tiles de suelo(hierba, agua, cueva...), la segunda capa es para tiles de bloqueo(casas, arboles, letreros...) y en la tercera capa se suelen colocar los tiles con prioridad mayor(copa de arboles, techo de edificios...); no existen reglas acerca de esto, es solo cuestión de usar tu imaginación para hacer que luzcan bien.