Расширение может быть каким угодно.
Открывается через родной API.
Есть butil.exe для несложного обслуживания файлов данных.
Можно выгрузить все данные из файла

butil -save <datafile> <dumpfile>
где datafile - файл с данными, он должен находиться на компьютере, где запущен сервер btrieve. Если это не локальный компьютер - полный путь к файлу.
dumpfile - куда выгружать данные, например
butil -save f:\bases\myfile.dbt myfile.dmp
Если же вместе с файлами базы есть файлы описания её структуры (кажется. их зовут files.ddf fields.ddf index.ddf , впрочем, могу и напутать) - можно открыть любым подходящим средством через ODBC.