ビックマークの別名は エクスクラメーションマーク といいます。
bashスクリプトの1行目のビックマークの意味
制御文で道案内:ステップ・バイ・ステップ・シェルスクリプト(4) - @IT
1行目の#!/bin/bashは、コメントではありません。Linuxのスクリプトでは1行目が#!ではじまる場合、そのうしろを実行ファイルと認識し、そのコマンドを使って以下の行のスクリプトを実行します。ここでは、このスクリプトは/bin/bashを使って実行するよう明示しているのです。この1行目は省略可能ですが、他のシェルスクリプトから実行された場合、bashで実行されないことがあります。これからは必ず書くようにしましょう。
#!/bin/bash grep "bash" `find .`