ウィンドウをescキーで閉じる。

NSWindowクラス、または、NSWindowControllerのサブクラスに cancelメソッドを実装する。

ウィンドウ上のビューやコントロール（特にボタン）が cancelキーイベント補足して、ウィンドウまで辿りつかない場合は多いだろう。