jr.Programmer,
надо сначала понять где проблема -
1. может причина не в сервере и не в софте на нем - т.е. файлы формируются нормальные - надо сформировать маленький файлик и попробовать открыть на разных компах в разных версиях табличных процессоров
2. если по первому картина не меняется - в разных excel/calc файл считается негодным - "вспоминайте" что менялось в программах и настройках на сервере - "вчера ж работало ж...?"

jr.Programmer,

мдя, судя повсему, пора включать паяльник... иначе никто ни признается в том что ж менялось то вокруг...

вообще ВСЕ отчеты валятся при выгрузке или только этот формат?

https://msdn.microsoft.com/ru-ru/library/dd255234(v=sql.110).aspx

https://msdn.microsoft.com/ru-ru/library/dd255234(v=sql.120).aspx

https://support.microsoft.com/ru-ru/kb/2963388

jr.Programmer,
ну нет и нет, нервничать на сервере не надо))),
видимо просто пора искать квалифицированного консультанта по 12 версии или смотреть msdn и настраивать самим...
"... The Reporting Services Excel rendering extension renders a report to the native format of Microsoft Excel 2007-2010. The format is Office Open XML. The content type of files generated by this renderer is application/vnd.openxmlformats-officedocument.spreadsheetml.sheet and the file extension of files is .xlsx.
Important note Important
If you have a file share subscription in SQL Server 2012 Reporting Services that is configured to save an Excel (xlsx) version of a report to a windows file share, and the Excel file is larger than 10MB, the following error is generated when the subscription runs:
Microsoft.ReportingServices.ReportProcessing.UnhandledReportRenderingException: System.IO.IsolatedStorage.IsolatedStorageException: Unable to determine the identity of domain
You can use one of the following methods to resolve the error:
Use the Excel renderer (xls) by changing the value of Visible to true, in the following line in the RSReportServer.config file.
<Extension Name="EXCEL" Type="Microsoft.ReportingServices.Rendering.ExcelRenderer.ExcelRenderer,Microsoft.ReportingServices.ExcelRendering" Visible="true"/>
...
"