ある親要素から子要素が絶対にはみ出ないようにしたい(はみ出た部分はカットしたい)場合に使えます。以下はグレーの要素から白要素がグレーの外にはみ出さないようにしています。
マスクしているグループの表示領域は、その子要素の領域だけになるので、領域の元となるオブジェクトをコピーして、コピーされたものを使うといいと思います。
また、複数のオブジェクトを選択してcontrol-option-m
(macの場合)を押すことで、マスクグループを作ることができます。その場合表示領域は最初に選択していたオブジェクトの領域になります。
ちなみにフレームに対してマスク機能を使うと効かなかったり、上手くいかないのでやめたほうがいいかなという感じです,,