авторА насколько они между собой совместимы?
То есть ясно что данные можно между ними перекидывать.
А вот на уровне концепции это похожие серверы или разные?
На уровне AnsiSQL и TSQL совместимость полная. Однако на этом сходство заканчивается. Фактически это все таки разные линейки, у каждой СУБД своя концепция (да фактически своя команда, которая ее развивает). Например у ASA в целях совместимости с ASE и MSSQL полноценная поддержка TSQL, однако если эта совместимость не важна, то у нее собственный WatcomSQL, который по возможностям и даже семантике гораздо больше на SQL DB2 смахивает, чем на TSQL. То же самое можно сказать и про саму концепцию физической реализации серверов:
ASE - по модели тот же MSSQL, есть БД Master, TempDB и т.д.
ASA - все хранится в пределах БД (опции, юзера, гранты и т.д.)
IQ - насколько я понял она все таки больше похоже на ASA, чем ASE (ну во всяком случаем окошко лога и ISQL точно такие же) :) Однако модель хранения данных абсолютно своя.

У Sybase ASA так же еще имеется MobiLink сервер, который позволяет производить двухсторонние гетерогенные репликации ASA с другими СУБД (причем не обязательно Sybase). Для репликаций между собой в ASA есть так же свой внутренний репликационный механизм, более простой и легкий. Вообще в ASA как ни странно почти все по два вида - 2 диалекта (TSQL, WatcomSQL), 2 репликации (MobiLink, SQLRemote), 2 режима работы (полноценный и UltraLite для КПК), 2 способа написания внешних ХП - на Си или Java, и т.д.

Текущая версия Sybase ASA 9 позиционируется как СУБД для SMB (Small Medium Business), хотя задачи, по параметрах подходящие под SMB, почему то частенько в России ассоциируется с Enterpise. Например 9-ка спокойно может работать на многопроцессорных серверах, поддерживать столько процессоров и памяти, сколько поддерживает ОС, распозначать RAID-массивы, и т.д. Насколько я понял, в "их" понятие SMB входит БД размером до 100 гб и максимум 50 активных подключений юзеров (правда вполне возможно, что в 9-ке эти параметры были расширены, не было возможности проверить). Не знаю как остальные, а мне на самом деле заявленных параметров SMB хватает выше крыши для организации нормального OLTP сервера, который может работать удаленно, не требует администратора и неплохо маштабируется от слабеньких PC до мощных серверов, в тоже время не теряя своей производительности при увеличении нагрузок и обьема данных засчет встроенного эврестического анализатора. Лично для меня это самый выгодный OLTP сервер (по отношению цена/надежность/функционал/скорость/затраты на сопровождение). Ну а соотвествующе после конференции я убедился, что лучше кандидата на роль сервера аналитики в связке с ASA придумать сложно.

Про Sybase ASE ничего к сожалению сказать не могу, так как у меня нет задач, для которых бы требовалась бы обработка сотен гигабайт информации. Знаю только, что MSSQL на него сильно похож, так как в свое время с него и писался :) Ну и что у них там до сих пор много чего в функциональном плане не реализовано (очень часто в BOL ASA на ее многие приятные возможности стоит пометка "ASE unsupported").