言葉の問題ですが、

公開モード: PCを公開の場所(パブリック)で使う場合 → 通常不必要な接続を全てブロック
プライベートモード: PCを個人の場所(プライベート)で使う場合 → ある程度柔軟に通信を許可

なので、言葉の雰囲気とは逆に、公開モードだとメールサーバとしては使えない可能性が高いです。

ファイアウォールの設定から「プライベートモードでは友人との全ての接続を許可する」にチェックを入れて、症状が改善しませんか?

また、アプリケーションルールにArGoが正しく登録されているか、再度確認してください。
モードを変えると、設定によっては、モードごとにアプリケーションルールが切り替わってしまう場合があるので・・・。

また、止まっているのは、どの段階(メールのデータ受信なのか、ログイン認証なのか・・・)ですか?