grepで複数ファイル指定して、それに対してパイプでsedで置換を行うと対象ファイルの対象文字列を一気に置換することが出来ます。
grep -lr test *で全ファイルのtestと書かれている部分をgrepします。
それに対して、xargs sed -i 's/置換前文字/置換文字/g'を指定します。
これをパイプで渡すだけなので

grep -lr test * | xargs sed -i 's/置換前文字/置換文字/g'