Comment ordonner ou choisir des lignes dans la clause MySQL GROUP BY ?

Non, ce n'est pas possible dans MySQL. Vous devez utiliser une jointure.

SELECT id, number, otherfields FROM table 
  WHERE id in (SELECT min(id) FROM table GROUP BY number)