Зависит от самого приложения, если у вас через VPN работает быстрее или, как минимум, не медленнее, то имеет смысл работать именно через VPN, так как приложение выполняется именно в среде рабочего ПК, что снимает проблему доступа к принтерам, локальным папкам, ресурсам сети и т.д.
Что касается 1С, то тонкий клиент даже через интернет (внутри VPN) обеспечивает хорошую производительность, а на плохих каналах выручает публикация на веб-сервере, так что RDP там давно уже неактуален.