Postgres UPDATE utilisant la fonction de fenêtre de classement

Comme vous n'avez pas de clé unique, utilisez ctid :

update medias m
    set sort_order = new_sort_order
    from (
        select 
            ctid,
            owner_user_id, 
            sort_order, 
            row_number() over w as new_sort_order 
        from medias 
        where visible
        window w as (partition by owner_user_id order by sort_order asc, created_at asc)
    ) s
    where m.ctid = s.ctid;

Remarque, row_number() peut être meilleur que rank() car le premier ne donne jamais de doublons.