Vale, vamos por partes.
1) Para que no te ocurra lo de que te coja bien el libro y los niveles pero no te de el encantamiento, lo mejor que puedes hacer es poner el juego en ingles, en vez de en español (parece ser que el idioma en le que esta el server es ingles, no español).
2) Lo que te ocurria con el arco y el empuje, estoy casi seguro que se debe a que en español, el knockback de la espada y el punch del arco se llaman igualmente empuje. No te lo puedo confirmar porque no tengo ahora mismo el minecraft delante, pero seguro que van por ahi los tiros. Lo que ocurre es que a pesar de que se llamen igual, internamente son dos hechizos distintos, entonces probablemente el libro que tenias con empuje, seria un libro con knockback, mientras que para encantar el arco necesitabas un libro con punch.
3) El calculo de niveles necesario no es algo trivial, hay unas tablas que puedes encontrar en la wiki de minecraft (el en lace que pase). De todas formas, a grandes rasgos, cada vez que realizas un encantamiento, digamos que en tu objeto se "graba" una marca (interna) que indica cuantas veces se ha encantado. Por tanto por cada encantamiento que realizas, vas acumulando penalizaciones.
Esto quiere decir que si por ejemplo (me voy a inventar los datos), encantas una espada con sharpness I y te cuesta 3 niveles. Luego coges esa misma espada y le metes sharpness I otra vez (convirtiendola en sharpness II). El coste de niveles sera el que te costaria subir a sharpness II mas por ejemplo 2 niveles de penalizacion. La proxima vez que la encantes te costara lo que te costaria virgen mas 4 (2 de antes y 2 de ahora) niveles de penalizacion. Etc. (insisto, los valores son inventados).
Lo que consigues con ponerle un nombre al objeto no es "inmunizarte" de esa penalizacion, sino que, todas las penalizaciones que ibas arrastrando hasta el momento, se borran. A partir de cambiarle el nombre, vuelves a acumular penalizaciones como antes.
Y creo que no me olvido nada... Si no sigue preguntando :-)