Groove Música es una herramienta que viene instalada en Windows 10 y para desinstalarla si no vamos a usarla no podemos hacerlo de la forma habitual,para desinstalarla seguimos los siguientes pasos:
Iniciamos PowerShell haciendo click en el botón de Inicio y poniendo PowerShell en el buscador, y lo ejecutamos como administrador haciendo click derecho:

Dentro del PowerShell de Windows 10 ponemos el siguiente comando.
Get-AppxPackage *zunemusic* | Remove-AppxPackage

De esta forma habremos eliminado Groove Music ya que desde Desinstalar > Programas o haciendo clic derecho encima del programa no nos lo permite.