Algorithmic Video Surveillance: Veesion Withdraws Before the Council of State (French)

An English summary of this report is below. The original report, published in French in Mediapart, follows.

The French startup Veesion markets an algorithmic video surveillance solution for detecting theft in businesses. For over a year, it has been challenging a decision by the French digital regulatory authority Commission Nationale de l’Informatique et des Libertés (CNIL).

As revealed by Mediapart, CNIL considers Veesion's technology to be contrary to the General Data Protection Regulation (GDPR), a comprehensive data protection law in the European Union.

A hearing was set to be held before the Council of State, France's highest administrative court. But the startup dropped the charges. The CNIL upheld its decision.

---

As a nonprofit journalism organization, we depend on your support to fund more than 170 reporting projects every year on critical global and local issues. Donate any amount today to become a Pulitzer Center Champion and receive exclusive benefits!

---

Vidéosurveillance algorithmique : Veesion se désiste devant le Conseil d’État

La start-up française commercialise une solution de vidéosurveillance algorithmique de détection des vols dans les commerces. Depuis plus d’un an, elle contestait une décision de la Cnil, le gendarme du numérique, qui juge cette technologie illicite. Peu avant l’audience, Veesion a décidé d’abandonner la procédure.

Un an de procédure. Puis rien. Dans le viseur de la Cnil (Commission nationale de l’informatique et des libertés) depuis novembre 2023, la start-up française Veesion clame depuis des mois une simple erreur. L’entreprise, qui a levé plus de 38 millions d’euros fin mai, commercialise en France et à l’étranger une solution d’intelligence artificielle.

Son logiciel de vidéosurveillance algorithmique détecte les comportements suspects dans les commerces. Entraîné à moindres frais par des travailleurs malgaches, il est utilisé par plus de 5 000 entreprises à travers le monde.

En juin 2024, Veesion est informée par la Cnil des multiples entorses au règlement général de protection des données liées au déploiement de sa solution d’intelligence artificielle. Une décision contestée par Veesion devant le Conseil d’État jusqu’à ce que l’entreprise se rétracte avant l’audience finale qui était prévue pour le 19 juin.

Une décision contestée

Rendu au terme de plusieurs contrôles et d’une longue phase d’investigation, la décision de la Cnil détaille l’illégalité de la solution de surveillance vendue par l’entreprise. Révélée par Mediapart en mai, elle rappelle, encore une fois, l’absence de cadre légal entourant la vidéosurveillance algorithmique en France et insiste sur les faiblesses des mécanismes mis en place par l’entreprise en matière de droit d’opposition.

Elle insiste surtout sur l’absence de base légale autorisant l’utilisation d’une telle technologie de surveillance. Les clients de la start-up « ne peuvent se reposer sur la base légale de l’intérêt légitime », note l’autorité de contrôle. Elle estime en substance que le logiciel présente un trop grand risque pour les libertés publiques au regard de son efficacité réelle.

Averti dès juin 2024 de la décision de la Cnil, Veesion réagit rapidement. Son président se fend d’abord d’un courrier à destination de la présidente de l’autorité de contrôle. Il y dénonce « une interprétation unilatérale et arbitraire du droit », « une atteinte grave à la liberté d’entreprendre » et menace de saisir le Conseil d’État. Ce qu’il fait quelques jours plus tard, à travers une action en référé.

Cette procédure d’urgence, qui permet au juge de prendre des mesures provisoires en attendant un jugement au fond, est un premier échec. L’entreprise est déboutée. « Aucun des moyens soulevés à l’appui de la présente requête n’est de nature à créer un doute sérieux sur la légalité du courrier contesté », détaille à l’époque le Conseil d’État.

« Interdiction de commercialiser »

Prévue pour le 19 juin, une seconde audience devait se conclure par un jugement définitif. L’abandon de l’entreprise met fin à cette procédure. « Le désistement de la société Veesion de son recours rend définitive la décision de la présidente de la Cnil », détaille l’institution à Mediapart, qui précise que son analyse juridique n’a pas évolué.

« Nous avons jugé que le recours n’avait plus lieu d’être pour des raisons procédurales, commente de son côté la start-up. En parallèle, et dans le sens des exigences de la Cnil, nous avons modifié l’exercice du droit d’opposition et notre documentation pour renforcer notre conformité RGPD [règlement général de protection des données – ndlr]. »

Ces ajustements risquent de ne pas suffire. Comme le rappelait le gendarme d’Internet à l’entreprise le 29 octobre 2024, la loi n’autorise pas les commerçant·es à analyser en temps réel des images du public. Résoudre le problème de droit d’opposition ne signifie pas régler celui de l’absence de base légale, l’autre raison qui rend illicite le logiciel de surveillance commercialisé par l’entreprise. Comme précédemment, Veesion maintient que cette « interprétation » est « erronée ».

En juin 2024, dans son courrier adressé à la Cnil, le président de Veesion avançait pourtant une autre analyse. « Ce courrier a pour conséquence de rendre illicite l’exploitation d’une activité économique dans le domaine de la détection automatique de vols dans des magasins par des caméras dûment autorisées », reconnaissait-il à l’époque.