Связался с поддержкой УкрБланк(спасибо им большое за быстрый ответ) и вот решение:
1. Устанавливаем Firebird 3 на Linux
sudo apt-get update
sudo apt-get install firebird3.0-server
Во время установки спросит пароль для пользователя SYSDBA, стандартный пароль masterkey.
2. Останавливаем службу Firebird 3
sudo service firebird3.0 stop
3. Правим файл конфигурации /etc/firebird/3.0/firebird.conf. По-умолчанию УкрБланк 7 использует порт 3053, меняем порт. Вместо закоментированного порта по-умолчанию:
#RemoteServicePort = 3050
ставим
RemoteServicePort = 3053
По-умолчанию Firebird принимает только запросы с localhost, чтобы подключатся удаленно вместо:
RemoteBindAddress = localhost
комментируем строку
#RemoteBindAddress = localhost
Сохраняем файл.
4. Запускаем службу Firebird 3
sudo service firebird3.0 start
5. Копируем файлы базы Blanks.tcb и пустышку базы BlanksEmp.tcb в папку /var/lib/firebird/3.0/data/.
мне тут было не ясно так что отпишу, я установил сервер в virtualbox с windows 10, и фалы лежали в моем случае по пути C:\ProgramData\UkrBlank7S\db.
оттуда их сохранил в dropbox, а потом через wget скачал на vps.
6.меняем права на пользователя firebird
sudo chown -R firebird:firebird /var/lib/firebird/3.0/data/
7. Далее на клиентах прописываем в ubclient.ini имя сервера (или IP адрес) и путь к базе, например так:
[Server]
Hostname= [тут нужно написать public ip вашего vps]
Path=/var/lib/firebird/3.0/data/
Еще нужно открыть порт
sudo ufw allow 3053
Все, запускаем Клиент.
вылетит ошибка collation unicode_ci for character set utf8 is not installed
https://www.softbalance.com.ua/forum/index.php/topic,5056.msg28795.html#msg28795 тут решение