Чем можно открыть Sybase

Не знаю, что такое "открыть".

и как он хранит данные ввиде файлов

Тоже мне нашел "простой вопрос". Все СУБД Sybase хранят данные в виде баз данных в соответствующем формате. Там нет в чистом виде "файлов" с данными.

(аля DBF и какое у нух тогда расширение...) или ввиде файлов :-) (аля MsSQL)

Нету ни расширений, ни файлов. можешь задавать в общем случае любые расширения. Какая разница для СУБД как ты файл обзовешь ?

и нужно настраивать ODBC источник. И можно ли его установить без установки клиента?

Смотря какая СУБД и какой ODBC-драйвер.

Андрей, действительно, у Sybase ТРИ СУБД. ASE, ASA & IQ.
Если IQ & ASA еще хоть как-то похожи, ASE от них достаточно сильно отличается.

Про клиента и ODBC. Есть варианты. Для ASA & IQ вроде бы традиционно не надо было никогда ставить еще что-то , помимо ODBC драйвера.

Для ASE ODBC драйверов есть много, в общей сложности я думаю, штуки четыре. Одни требуют наличия Open CLient, другие - нет.

Но я не большой знаток ODBC применительно к ASE, а тем более ASA.
Вы узнайте точно, как ваша СУБД называется , тогда и другие смогут вам помочь чем-то.