こちらこそ、先日はご報告ありがとうございました。
お問い合わせの件については、子テーマstyle.cssに以下の記述を追加すると反映されるかと思います。
.shortcode-illust li {
border-radius: 5px;
overflow: hidden;
}
border-radiusで角を丸くしたうえで、overflow:hiddenを指定することで、liからはみ出た領域を非表示にすることができます。
「5px」はお好みに合わせて書き換えてください。
またテーマの仕様上、画面の横幅によってはサムネイルが正方形にならないため
border-radiusの値を％で指定すると、サムネイルが楕円形になりちょっと見栄えが良くないかもしれません。
px単位での指定をおすすめします。