ベーシック認証をかける方法については複数あり、htaccessファイルなどを手作りで用意して該当ディレクトリにアップすれば機能するサーバと、直接の認証設置は出来ずサーバの設定画面の機能としてしか使用できないサーバ等もあるため、利用中のサーバ環境に合わせて作成または設定する必要があります。単独ページに対して、プログラムで認証処理を入れるといったことも可能ですが、ディレクトリに対してとなると悩ましいところです。
当現象については、別タブで開こうとしている場合に限定されているようなので、この開き方の指定を外したところ、問題なくログインのダイアログが表示されました。ページ遷移としての開き方に変わるものの、認証機能が動作することのほうが優先のため、この形で対応完了としました。