RDSインスタンス上に、他のミドルウェアをインストールすることは可能でしょうか。例えばzabbix等。

RDSはOSレベルの制御は出来ませんので、任意のミドルウェアをインストールすることはできません。