Ich hatte dasselbe Problem, ist halt einer der zahllosen Bugs in High Sierra. Abhilfe:

Ein alter Mac mini mit 10.6.8 konnte den Stick wieder ordentlich formatieren.