armin ,

На версии 2010.2.3 следующий код работает правильно:

Class tmp.t1 Extends %ZEN.Component.page
{

XData Contents [ XMLNamespace = " http://www.intersystems.com/zen"  ]
{
<page xmlns=" http://www.intersystems.com/zen"  title="">
<button caption="Открыть модальное окно" onclick="zenPage.launchPopupWindow(zenLink('tmp.t2.cls'),'Моё окно','resizable=no,width=320,height=240');"/>
</page>
}

ClientMethod onPopupAction(
  popupName,
  action,
  value) [ Language = javascript ]
{
  zenAlert('popupName=',popupName,' action=',action,' value=',value);
}

}

Class tmp.t2 Extends %ZEN.Component.page
{

XData Contents [ XMLNamespace = " http://www.intersystems.com/zen"  ]
{
<page xmlns=" http://www.intersystems.com/zen"  title="">
<button caption="Закрыть окно" onclick="zenPage.exit();"/>
</page>
}

ClientMethod exit() [ Language = javascript ]
{
  // первый вариант
  this.firePopupAction('ok');

  /*
  // второй вариант
  this.firePopupAction('ok','',false);
  this.cancelPopup();  
  */
}

}

PS: посмотрите документацию на методы firePopupAction(), cancelPopup() .