Veesion, une start-up prospère de la vidéosurveillance dans le viseur de la Cnil

L’entreprise française, dont le succès repose sur un logiciel de détection des vols dans les commerces de proximité, vient de réaliser une levée de fonds de 38 millions d’euros. Pourtant, une décision du gendarme des libertés numériques estime que la technologie utilisée est non conforme aux règles européennes.

Une levée de fonds historique. Une large résonance dans la presse spécialisée et économique (Challenges ou Les Échos). Une invitation sur le plateau de BFM Business pour dérouler, pendant six minutes, ses arguments commerciaux. 

L’heure est à la fête pour Veesion. La start-up, parmi les leaders français de la vidéosurveillance algorithmique (VSA), commercialise un logiciel de détection automatique de vols aujourd’hui utilisé par plus d’un millier de commerces et de pharmacies en France et plus de 5 000 entreprises à travers le monde. Le 21 mai, l’entreprise annonçait une levée de fonds de 38 millions d’euros destinés à son développement à l’international et à étendre ses technologies de surveillance aux crèches, aux entrepôts ou encore aux hôpitaux. 

« Une bonne nouvelle pour l’IA française », se félicite sur le réseau LinkedIn Clara Chappaz, ministre déléguée chargée de l’intelligence artificielle et du numérique. Problème : cette excellence française est en fait construite grâce au travail de sous-traitant·es malgaches. Pis : après une enquête de plusieurs mois, la Commission nationale de l’informatique et des libertés (Cnil), gendarme des libertés numériques, a conclu que la technologie utilisée par l’entreprise multiplie les entorses au règlement général de protection des données (RGPD).L’entreprise, elle, maintient être conforme à la réglementation.

---

As a nonprofit journalism organization, we depend on your support to fund more than 170 reporting projects every year on critical global and local issues. Donate any amount today to become a Pulitzer Center Champion and receive exclusive benefits!

---

Faire la chasse aux voleurs

Créée en 2018 par des anciens de HEC et de Polytechnique, Veesion se positionne sur le marché du vol à l’étalage, dont le coût est estimé à 5 milliards d’euros par an en France. Depuis 2022, au moins, l’entreprise bénéficie du soutien d’Aglaé Ventures, le fonds d’investissement spécialiste des nouvelles technologies de Bernard Arnault. 

La promesse de la start-up est simple : aider les commerçant·es à lutter contre le vol. Leur solution « Veesion Run » s’installe directement sur les réseaux de caméras préexistants. Elle analyse l’ensemble des images qui passent par le système de vidéosurveillance. Chaque geste suspect déclenche une alerte. Le commerçant reçoit directement sur sa tablette une alerte vidéo de la scène incriminée et peut, après examen des images, intervenir auprès des voleurs supposés.

L’entreprise, citée en 2023 dans StreetPress, communique sur le faitque l’intelligence artificielle (IA) pourrait détecter à terme jusqu’à 98 % des tentatives de vol. Depuis plusieurs années, les doutes s’élèvent sur la légalité de la solution commercialisée par la start-up.

Comme l’a documenté Mediapart dès 2022, aucun texte n’encadre la vidéosurveillance algorithmique. « En principe, les dispositifs de caméras augmentées [...] sont interdits en l’absence de cadre légal spécifique », précise la Cnil à la fin de la même année. Alors que l’institution multiplie les vérifications concernant les usages de la VSA, Veesion est, depuis septembre 2023, dans le viseur de l’organisme de contrôle.

Une technologie sous surveillance

15 novembre 2023 : quatre agents de la Cnil contrôlent les bureaux de l’entreprise. D’autres inspections, réalisées dans des commerces qui utilisent la solution, ont lieu les mois suivants. Le 6 juin 2024, la Cnil informe la société de la non-conformité de leur solution de détection des gestes suspects.

« Ce courrier a pour conséquence de rendre illicite l’exploitation d’une activité économique », s’émeut, six jours plus tard, le patron de Veesion, dans un courrier envoyé au gendarme d’Internet. L’entreprise, qui saisit en parallèle le Conseil d’État (voir notre boîte noire), insiste pour être auditionnée par la Cnil. Reçue en juillet 2024 pour une audition, la start-up est notifiée en octobre 2024 des conclusions finales de l’enquête.

Le courrier envoyé à Veesion, que Mediapart a pu consulter dans son intégralité, démontre point par point l’illégalité du logiciel commercialisé par l’entreprise. La Cnil s’y inquiète des risques que la « surveillance automatique » des magasins présente pour la liberté « d’aller et venir », « l’exigence constitutionnelle de la protection de la santé » et les libertés publiques en général. Elle insiste aussi longuement sur les insuffisances des dispositifs mis en place par Veesion pour faire respecter le droit d’opposition.Des arguments évoqués par la Cnil depuis 2022 dès qu’il s’agit de VSA dans l’espace public. Elle va cette fois-ci plus loin.

« Les éléments [fournis par l’entreprise à l’autorité de contrôle – ndlr] indiquent que la société génère un grand nombre d’alertes concernant des gestes finalement non qualifiés de vols par les clients », enchaîne l’institution qui pointe un logiciel peu efficace. « La prétention de neutralité et d’objectivité de l’algorithme est susceptible de créer un biais en faveur du jugement du personnel au sein des magasins équipés. [...] Pareil biais exacerberait les conséquences matérielles, réputationnelles ou même juridiques du traitement pour les personnes concernées identifiées de manière erronée », alerte la Cnil.

« Nous n’estimons pas disposer d’éléments suffisamment probants pour considérer que l’avantage procuré au commerçant dans la lutte contre le vol excède et pourrait justifier les inconvénients résultant du grand nombre de fausses alertes », enchaîne l’institution, qui conclut que les client·es de Veesion « ne peuvent se reposer sur la base légale de l’intérêt légitime » pour surveiller leur magasin à l’aide du logiciel de la start-up.

"C’est une très bonne nouvelle de voir la Cnil prendre une position inverse, faire du droit et casser l’argumentaire des entreprises."

Noémie Levain, association La Quadrature du Net

La start-up réfute de son côté tout caractère illicite et estime qu’à ce stade rien n’est tranché.« Seule la Cnil dans le cadre d’une décision de sanction ou un tribunal dans une décision de justice ont le pouvoir de décider qu’un traitement de données personnelles est non conforme au RGPD,avance l’entreprise. En leur absence, et alors que les échanges sont en cours, nous maintenons que la solution Veesion est conforme au RGPD. » 

« La non-conformité d’un organisme ou d’un système n’est pas uniquement établie lorsqu’une procédure de sanction est engagée, nuance l’autorité de contrôle, interrogée par Mediapart. La Cnil peut opter pour différentes mesures en fonction du contexte et des manquements observés (mises en demeure, rappels aux obligations légales, accompagnement, etc.). »

Plusieurs commerces, précise la Cnil dans son courrier d’octobre 2024, ont d’ailleurs déjà été mis en demeure pour l’utilisation de technologies similaires à celle commercialisée par Veesion. Il y a donc bien un durcissement du côté du gendarme d’Internet. Et les conséquences juridiques sont théoriquement graves pour l’entreprise Veesion.

« L’intérêt légitime est brandi depuis des années par les entreprises comme un argument massue pour utiliser toutes les technologies de surveillance qu’elles veulent, détaille Noémie Levain, juriste au sein de l’association La Quadrature du Net. C’est une très bonne nouvelle de voir la Cnil prendre une position inverse, faire du droit et casser l’argumentaire des entreprises. »

Intelligence humaine à Madagascar

En attendant, la start-up poursuit son expansion. De plus en plus présente à l’étranger, elle a en décembre 2024 annoncé un partenariat avec la chaîne de supermarchés Spar International. En France, elle continue de démarcher des clients en restant discrète sur sa situation légale.

L’entreprise se montre aussi timide pour évoquer l’intelligence humaine derrière son logiciel et les conditions de travail de ses sous-traitant·es. Comme de nombreuses entreprises françaises, la start-up délocalise massivement à Madagascar où des« annotateurs » et « annotatrices », payé·es entre 60 et 100 euros par mois, sont chargé·es de visionner des images de vidéosurveillance et de qualifier les gestes qu’ils observent, afin de nourrir l’IA pour lui apprendre à mieux repérer les actes délictueux.

« Je travaillais de 22 heures à 6 heures du matin, avec deux heures de pause,retrace Toma*, qui a travaillé jusque fin 2023 comme annotateur pour une entreprise sous-traitante de Veesion. On a traité jusqu’à quatre cents vidéos par nuit. » Rémunéré une centaine d’euros par mois, il se souvient d’avoir travaillé sous l’autorité d’un contremaître : « Avec ces horaires et les temps de transport, c’était assez difficile de se reposer. On finissait par faire beaucoup d’erreurs. »

Pendant des heures, lui et ses collègues classent les vidéos reçues en fonction des gestes réalisés ou des contenants utilisés pour subtiliser les objets. « Nous recevions des extraits de vidéosurveillance de supermarchés durant entre sept et quatorze secondes,détaille Shakti, lui aussi annotateur pour une entreprise sous-traitante de Veesion jusqu’au début de l’année 2025. Nous avions quarante secondes maximum pour annoter avant de passer à la suivante. »

L’annotation est un processus normal dans le secteur de l’IA. Ce travail de classification méthodique est nécessaire à l’entraînement de tout outil de computer vision.En 2024, France Info révélait que plusieurs annotateurs avaient néanmoins reçu pour consigne de « signaler des vols ou des tentatives de vol dans les magasins le plus rapidement possible » ou encore d’« avertir le magasin d’un comportement douteux ». En somme, de procéder à une surveillance en temps réel.

Sans être illégale, une telle pratique remettrait aussi en cause le discours commercial de l’entreprise. « Aucun flux en direct n’est transmis à nos prestataires,tient à détailler de son côté l’entreprise. Nos partenaires n’ont aucun accès aux caméras ou aux données des magasins, et notre solution ne récupère ni ne stocke les flux a posteriori. Seule une portion infime (moins de 0,1 %) des flux vidéo de nos clients, floutés et anonymisés, fait l’objet d’annotation, ce qui diffère d’une levée de doute. »