ショートカットにCtrl+Deleteとありますが、Deleteだけでも同様の動作をします。

またファイルを右クリックして表示されるプルダウンメニューからも削除が可能です。

警告の再表示しないにチェックを入れると、警告なしでファイルを削除できるようになります。再度警告を表示するようにするには編集＞環境設定＞一般ですべての警告ダイアログボックスを初期化の横にあるリセットボタンをクリックします。