Mumble.ru

Существует ли возможность помечать пользователей разных групп так, что бы это было видно в дереве?
Значками, приписками или хотя бы цветом.

Да.
Вы можете изменить ники в списке зарегистрированных пользователей по своему желанию, например:
Nick1 -> [Adm]Nick1
Nick2 -> [Moder]Nick2
и так далее.

Сертификат пользователя при этом не меняется?

И еще вопрос. Можно ли запретить при регистрации в никах использовать символы? Что бы пользователи не создавали ники, типа [Adm]Nick ?

Это можно сделать в настройках сервера (тогда Вы тоже не сможете изменить ник через клиент Mumble).
В Вашем случае, лучше запретить саморегистрацию.