JVMの使用メモリはJVMにパラメータを渡すことで指定できます。
OEMの「管理」 - 「サーバー・プロパティ」のJavaオプション欄内に、-Xmx512M -Xms512Mというように指定することでメモリ使用量を指定することができます。

Xmxの意味は最大ヒープサイズです。
Xmsの意味は初期のヒープサイズを意味します。

上記の場合、初期も最大も同じになります。