[オプション]-[表示]-[電卓スタイル]でスキン以外を選択したときの設定です。

数値のフォントサイズを変更するとボタンを含めたウインドウ自体の大きさが変化します。
「数式」とは[オプション]-[計算方法]-[入力方式]の"数式表示"を選択したときの数式です。

VCLStyleはウインドウの外観を変更する機能です。再起動後に有効になります。名称は開発ツールの同機能に由来します。
以下、サンプル