Configuração de Cobrança por Tarifa para Seller

Atualmente não há uma configuração dessa forma.
Uma possibilidade é você utilizar o mode=1, e ao invés de fazer um repasse em % para o seller, fazer um repasse de valor fixo, calcula o % no seu sistema e desconta o valor da tarifa, que é fixa.
Assim você vai de certa forma descontar a tarifa da parte do seller.

Na cobrança por boleto ou bolix sim, mas no cartão já fica complicado

De fato, no cartão terá uma lógica diferente para calcular.