Il y a une accusation implicite dans ma provocation, mais ce n'est pas une accusation de racisme, c'est l'accusation de passer à des systèmes humains des défauts énormes et de ne pas tolérer un millième de ces défauts dans les systèmes automatiques.

Et je suis désolé, mais la surveillance généralisée, ça fait depuis les années 90 qu'on tire des sonnettes d'alarme et qu'on passe pour des zozos. Ce combat, il est perdu.

Les caméras, elles sont partout. Vos plaques d'immatriculation sont partout. Vos téléphones donnent votre localisation partout, tout le temps. Les flux vidéo sont enregistrés, sont consultés, sont effacés sans aucun respect des règles. Il y a des règles théoriques, mais personne ne se charge de les faire appliquer.

Votre identité est liée à votre carte bancaire, à votre consommation électrique, à vos transports, à vos cartes de transport. Depuis le 11 septembre, on passe pour des complices de terroristes quand on dit que peut-être il faudrait un peu limiter les pouvoirs de la police à traquer tout, tout le temps, partout.

Y a des caméras dans les supermarchés depuis les années 80 mais là, tout d'un coup, comme c'est des systèmes à base d'IA, on se réveille. Oui, désolé de penser que c'est de la défiance non justifiée (au contraire du luddisme, qui était un mouvement social) plutôt que de la vraie révolte contre du fichage généralisé. D'autant plus que les modèles d'IA ont la possibilité d'anonymiser réellement, (attention, je ne dis pas que c'est ce qu'ils font systématiquement, mais un système qui a eu l'aval de la CNIL le fait probablement)

En vrai, foutre des IA plutôt que des magnétoscopes et des personnes derrière des caméras, c'est un progrès de l'anonymisation.

C'est tout à fait possible avec un système d'IA de faire des choses du genre compter le nombre de personnes qui sont entrées et sorties d'un bâtiment sans avoir à stocker les images. C'est tout à fait possible d'avoir un système IA qui enregistre l'information « il reste deux personnes dans le hangar » sans enregistrer le fait qu'ils sont en train de se bécoter.

ici, on parle d’outils qui collectent et nourrissent des algorithmes sans le consentement des usagers à des fins surveillance généralisée

Probablement pas non, les systèmes sont déjà entrainés depuis longtemps et grâce à la CNIL (je le dis sans ironie) c'est risqué de faire une telle chose sans consentement. Aux US ils se gênent pas par contre.

Les logiciels de surveillance par IA ne nourrissent pas plus les modèles futur que n'importe quel autre système de surveillance. L'inquiétude que tu ressens maintenant arrives 20 ans trop tard.