При оформлении земли мы заплатили в БТИ 500 рублей, но сделка по вине соседки сорвалась, а в БТИ нам деньги отказались вернуть. Правильно ли это?

Да, правильно.
Если у Вас сломался холодильник, и продукты испортились, Вы же не понесете их в магазин обратно.
В БТИ люди также работают, тратят время, получают зарплату, они не могут нести ответственность за несогласованность действий с Вашей соседкой.Вам оказана услуга - и не воспользовались Вы ей не по вине БТИ.