実際に試してないんで、できるかどうかわかりませんが・・・tiny_mce_src.jsの中をさぐると以下のようなコードになっています。
// Insert P element
if (tinyMCE.isGecko && tinyMCE.settings['force_p_newlines'] && e.keyCode == 13 && !e.shiftKey) {
: 省略
}
:
// Return key pressed
if (tinyMCE.isMSIE && tinyMCE.settings['force_br_newlines'] && e.keyCode == 13) {
: 省略
}
TinyMCEのバージョンによっては違うかも知れませんが、ソースで明示的にSHIFTキーの状態もチェックしてるみたいなので、この判定の部分を逆にすれば動くんではないかと思われます。