- Le règlement 2022/2065 du 19 octobre 2022 relatif à un marché unique des services numériques (ci-après « DSA » pour « Digital Services Act ») a été adopté par le Conseil le 4 octobre 2022 et est intégralement en vigueur depuis le 17 février 2024.
Comme le précise son 3ème considérant, l’objectif de cette législation européenne inédite est d’« assurer un environnement en ligne sûr, prévisible et fiable et pour permettre aux citoyens de l’Union et aux autres personnes d’exercer leurs droits fondamentaux ».
L’accent est donc mis sur l’instauration de nouvelles règles en vue de créer un espace numérique sécurisé pour les utilisateurs permettant de lutter efficacement contre toutes formes d’abus et de contenus illicites en ligne tels que la désinformation, les contenus dangereux pour les individus et la société en général, les pratiques trompeuses ou préjudiciables aux droits des consommateurs, etc…
- A cette fin, le DSA ambitionne d’encadrer les activités des prestataires de services intermédiaires en ligne[1], notamment les grandes plateformes numériques, en leur imposant diverses obligations de transparence, de diligence et de surveillance.
Cela peut concerner une plateforme d’offres d’emploi locales, le site de vente en ligne du fleuriste local, un fournisseur d’accès à l’internet ou encore une grande plateforme de vente en ligne comme Amazon[2].
- Parmi les obligations de transparence imposées aux intermédiaires en ligne, le DSA exige qu’ils identifient et communiquent dans leurs conditions générales les renseignements ayant trait aux prises de décisions fondées sur des algorithmes[3].
La volonté de réguler et maitriser l’utilisation des systèmes algorithmiques n’est pas nouvelle puisque le législateur européen avait déjà abordé ce sujet avec le règlement sur les relations entre plateformes et entreprises (règlement P2B)[4] en exigeant la transparence des systèmes de classement en ligne (fondés sur des algorithmes) des produits proposés par des professionnels. Le Règlement général sur la protection des données (RGPD) aussi avait imposé des obligations et des restrictions face à l’utilisation de données personnelles fondée exclusivement sur un traitement automatisé (profiling) au moyen d’algorithmes[5].
En effet, l’exigence de transparence algorithmique est essentielle pour détecter et corriger les biais discriminatoires qui peuvent intervenir dans des systèmes de traitement automatisés. A défaut d’une telle transparence, les décisions algorithmiques pourraient nuire gravement aux principes d’équité et de non-discrimination, devenir arbitraires et ainsi susciter la méfiance du public.
- En considération de cela, le DSA instaure une transparence obligatoire sur l’usage de systèmes algorithmiques par les fournisseurs de services intermédiaires en ligne, en particulier les systèmes de recommandation, de modération et les systèmes d’annonces publicitaires.
Ces systèmes sont spécifiquement approchés par le DSA dans le but d’éviter des abus et des pratiques illicites de la part des plateformes en ligne et tout particulièrement les très grandes plateformes en ligne (ci-après « TGPL »)[6].
Ces mécanismes algorithmiques ont notamment été popularisés par des grandes acteurs du numérique comme YouTube, Netflix et Google, permettant aux utilisateurs d’obtenir des recommandations d’autres produis ou services sur base de leurs consommations précédentes. Il est de même pour les annonces publicitaires par exemple. Les algorithmes sont également largement utilisés pour modérer automatiquement certains contenus.
- Le DSA impact fortement les fournisseurs de services intermédiaires en ligne en exigeant le respect d’un principe de transparence algorithmique.
Selon ce principe, comme expliqué précédemment, tous les fournisseurs de services intermédiaires doivent indiquer dans leurs conditions générales l’usage éventuel d’algorithmes pour la recommandation d’informations sur la base des profils ou des préférences des destinataires du service.
- Par ailleurs, le DSA impose des exigences supplémentaires aux fournisseurs qui sont des « plateformes en ligne» au sens du DSA. Certaines obligations supplémentaires ne concernent que les TGPL.
Ainsi, le DSA précise que les « plateformes en ligne » qui utilisent des systèmes de recommandation établissent dans leurs conditions générales, dans un langage simple et compréhensible, les principaux paramètres utilisés dans leurs systèmes de recommandation, ainsi que les options dont disposent les destinataires du service pour modifier ou influencer ces principaux paramètres[7].
- Quand ces plateformes en ligne sont des « TGLP », les exigences sont encore plus significatives puisqu’elles doivent proposer au moins une option pour chacun de leurs systèmes de recommandation qui ne repose pas sur du profilage (Par exemple les produits/services les plus vendus, les plus cliqués, …)[8].
Les « TGPL » doivent aussi recenser, analyser et évaluer de manière diligente tout risque systémique lié l’utilisation de systèmes algorithmiques que cela soit dans les systèmes de recommandation, de modération ou autres (Ex : fausses informations, données non actualisées, faux commentaires…). Elles doivent également prendre toutes mesures utiles pour atténuer ces risques (modération des contenus, suppression de données anciennes, …). Les résultats de ces évaluations et mesures d’atténuation doivent être exposés dans leurs rapports de transparence effectués tous les 6 mois[9].
Dans le cadre de leurs obligations de transparence en matière d’annonces publicitaires, les « TGPL » doivent aussi renseigner au public, dans une section spécifique de leur interface en ligne, les principaux paramètres utilisés par les algorithmes afin d’orienter ces annonces à un groupe particuliers d’utilisateurs[10].
- L’autorité étatique chargée de contrôler le respect du DSA (le coordinateur pour les services numérique) et la Commission européenne peuvent exiger au TGPL un accès aux informations nécessaires pour contrôler et évaluer la conformité des utilisations des systèmes algorithmiques.
La Commission a d’ailleurs ouvert plusieurs enquêtes concernant les systèmes de recommandation de plusieurs TGLP dont notamment le réseau social « X » pour de supposés manquements au principe de transparence algorithmiques[11].
Fin 2024, la Commission européenne a adressé à YouTube, Snapchat et TikTok une demande d’informations sur la conception et le fonctionnement de leurs systèmes de recommandation, qui exposerait parfois les utilisateurs à des contenus illicites et nuisibles[12].
Thameur ELLOUZE
[1] Le DSA défini à son article 3 g) les fournisseurs de « service intermédiaire » comme ceux qui prestent des services de simple transport, de mise en cache ou d’hébergement en ligne.
[2] Le DSA exempte les microentreprises et les petites entreprises de certaines obligations légales.
[3] Voy. Article 14 du DSA
[4] Règlement 2019/1150 du 20 juin 2019 promouvant l’équité et la transparence pour les entreprises utilisatrices de services d’intermédiation en ligne,
[5] Le RGPD exige notamment des obligations d’information préalable à un tel traitement et un droit de s’y opposer.
[6] Les plateformes en ligne sont définies par le DSA comme « un service d’hébergement qui, à la demande d’un destinataire du service, stocke et diffuse au public des informations ». Les très grandes plateformes en ligne sont les plateformes en ligne qui ont un nombre mensuel moyen de destinataires actifs du service dans l’Union égal ou supérieur à 45 millions, et qui sont désignés comme telles par la Commission (voir article 33 du DSA).
[7] A titre d’exemple, la TGPL « Booking.com » précise dans ces conditions générales ce qui suit :
« Nos résultats de recherche sont également un système de recommandation. Ils constituent même le système de recommandation le plus utilisé par nos clients. Veuillez donc consulter la section « Classement par défaut et options de tri » ci-dessous.
Tous les systèmes que nous utilisons vous fournissent des recommandations en s’appuyant sur les facteurs suivants :
-Ce que vous nous indiquez dans le formulaire de recherche : destination, dates, nombre de personnes, etc.
-Toute information que nous avons pu collecter sur vos interactions avec notre Plateforme : vos recherches précédentes sur notre Plateforme, le pays duquel vous la parcourez, etc.
-Les performances d’un Hébergement sur notre Plateforme :
Son taux de clics (le nombre de personnes qui cliquent dessus)
Ses réservations brutes (le nombre de réservations effectuées pour cet Hébergement)
Ses réservations nettes (le nombre de réservations effectuées pour cet Hébergement, moins les annulations)
-Des informations concernant notamment les disponibilités, les scores tarifaires et la note des commentaires d’un Hébergement ».
[8] Le profilage signifie toute forme de traitement automatisé de données à caractère personnel consistant à utiliser ces données à caractère personnel pour évaluer certains aspects personnels relatifs à une personne physique (…);
[9] Article 42 du DSA
[10] Article 39§1er, e) du DSA.
[11] Commission Press Release, 17 janvier 2025, la Commission adresse des mesures d’enquête supplémentaires à X dans le cadre des procédures en cours au titre de la législation sur les services numériques, https://digital-strategy.ec.europa.eu/fr/news/commission-addresses-additional-investigatory-measures-x-ongoing-proceedings-under-digital-services
