public class MyForm : Form {

  /// ...

  private void InitializeComponent(){

    /// ...
    
    this.Closing += new System.ComponentModel.CancelEventHandler(this.MyForm_Closing);
    this.Move += new System.EventHandler(this.MyForm_Move);

  }
  
  /// ...

  private bool _closing = false;

  private void MyForm_Closing(object sender, System.ComponentModel.CancelEventArgs e){
    /// Если указано, что окно надо закрыть, то ни чего не делаем
    if(_closing) return;
    /// Иначе отменяем закрытие окна и скрываем его.
    e.Cancel = true;
    this.Visible = false;
  }

  /// Обрабочтик нажатия кнопки "Выход"
  private void buttonExit_Click(object sender, System.EventArgs e){
    /// Явно указываем, что требуется закрыть окно
    _closing = true;
    /// Закрываем окно
    this.Close();
  }

  /// Обработчик "сворачивания" окна в трей
  private void MyForm_Move(object sender, System.EventArgs e)
  {
    if(this.WindowState == FormWindowState.Minimized)
      this.Close();
  }

   /// ...

}