Retour aux articles
La ville numérique qui se profile sera une jungle de données. Les capteurs seront omniprésents (dans la signalisation, les véhicules autonomes, les drones de surveillance des incivilités et de vidéoprotection, les assistants à domicile, ou plus simplement dans nos poches, nos lunettes ou sur nos poignets). De quoi oublier, presque, que tous ces objets sont des émetteurs de données, contrepartie du service qu’ils offrent.
Un déluge de données urbaines qui rendra peut-être la ville smart, mais à quel prix ? Et comment guider ces innovations pour qu’elles demeurent au service du citoyen ?
La ville du futur, destructrice des libertés individuelles ?
Futura. Tel est le nom de la ville du futur imaginée par Christiane Féral-Schuhl. Une ville dans laquelle la dématérialisation et la logistique urbaine sont pensées dans les moindres détails pour atteindre un niveau élevé de fluidité. Dans cette ville du futur, de plus en plus de services seront proposés aux habitants. La présidente du CNB en cite plusieurs.
Les services publics, par exemple. Une plateforme développée par la mairie permet de faire toutes ses démarches en ligne (mariage, décès d’un conjoint, demande d’aides financières auprès des allocations familiales, remboursement de dépenses de santé, etc.). Plus aucun agent public pour accompagner les citoyens dans leurs démarches. Un gain de temps au service des habitants, des économies substantielles pour la ville, mais une rationalité clivante pour les moins agiles, qui seront exclus de cette cité numérique.
Autre illustration, les très esthétiques arbres de Futura, capables de capter et distribuer l’énergie solaire : « le génie de cette invention, imagine Christiane Féral-Schuhl, se trouve dans les petites fleurs incrustées dans ces arbres. Équipées de caméras intégrées, ces fleurs permettent de visualiser 24h/24 le comportement des habitants et visiteurs de Futura. Il paraît que c’est très différent de la vidéosurveillance. Il faut parler de vidéoprotection » ! Une protection qui permet de recueillir tellement de renseignements sur les habitants qu’une instance est chargée à la mairie de piloter le ranking de ses citoyens (en la matière, le futur est déjà actuel, v. l’exemple de la Chine : Chine : le big data pour noter les citoyens... et sanctionner les déviants), et pourquoi pas d’indexer les impôts locaux sur leur comportement.
Dans cette ville futuriste, le maire met à disposition des citoyens une application pour les guider dans leurs déplacements. Mais ce service manipule ses utilisateurs. Il suggère subrepticement un détour pour leur éviter de croiser une manifestation d’opposants : l’appli « a créé artificiellement des fausses données pour (que le promeneur) ne croise pas le chemin de ces mauvais citoyens. Vous l’aurez compris, Futura s’organise sur un modèle d’atteintes aux droits et libertés fondamentaux des citoyens », poursuit la présidente du CNB.
Et que dire des robots qui gouvernent l’intérieur des habitations ? Ils pourront rendre de multiples services aux propriétaires de ces logements, assurer la sécurité, préparer l’arrivée des occupants voire prodiguer les premiers soins et appeler les secours. Mais ces objets connectés envahissent aussi leur intimité : ils enregistrent des conversations et des images à l’insu de leur propriétaire, offrent une vulnérabilité propices à des intrusions de domicile, au détournement d’objets qui se retourneraient contre l’intégrité physique des personnes, etc.
Un dernier exemple ? Cette ville du futur si bien organisée permet à ses habitants de dégager plus de temps pour leur épanouissement personnel. Pour autant, pas facile de se dégager pour aller rendre visite à ses ascendants. Pour éviter des désillusions, il est de plus en plus fréquent de les confier à la garde « bienveillante » d’un robot, qui « grâce aux longues heures de discussion, (…) a acquis des capacités décisionnelles considérables. Il a réussi, se projette la présidente du CNB, à convaincre la grand-mère (de X) de lui confier tous les mots de passe des applications qui gèrent son appartement. L’autre jour, (X) ne pouvait plus entrer chez sa grand-mère. Robot R a maintenu la porte verrouillée ». Et le risque est maintenant qu’il contamine les autres robots de la ville.
Une ville aussi éthique que smart à construire
Ces scénarii pour certains de science-fiction, pour d’autres simplement prospectifs, incitent à toujours penser l’innovation au service des citoyens. Conserver son droit à l’autodétermination, au contrôle de sa vie et de ces données, c’est bien sûr possible, mais encore faut-il encourager les bons choix.
Pour Christiane Féral-Schuhl, maintenir un accès aux droits à tous et ne pas isoler des personnes dans l’incapacité d’accomplir des démarches est absolument essentiel. L’efficacité en faveur des uns ne doit pas exclure les autres.
La transition numérique doit donc s’organiser. Cela passera par une sensibilisation des entrepreneurs. « Les robots et l’intelligence artificielle feront incontestablement partie de la ville de demain. Il faut à tout prix, éviter que les algorithmes prennent le contrôle de notre vie », souligne l’avocate. Reprenant le fil de son histoire du robot compagnon qui s’affranchit, la présidente du CNB, relève que « si les fabricants pouvaient fournir une justification rationnelle pour toutes les décisions prises par Robot R., s’ils pouvaient traduire les calculs de Robot R. dans une forme compréhensible pour l’être humain, (X) aurait pu sauver sa grand-mère. Mieux encore, si les fabricants avaient mis en place un système de réversibilité, (X) aurait pu reprendre le contrôle de Robot R ». Explicabilité des algorithmes et bouton reset, deux pistes de l’éthique by design.
Cela doit également passer par une meilleure protection de ses données. La prochaine entrée en vigueur du règlement sur la protection des données met l’accent sur les risques auxquels s’exposent les entreprises qui ne respecteraient pas les nouvelles normes. Mais elle ne doit pas occulter la nécessaire prise de conscience individuelle sur les milliers de données émises chaque année : « C’est à chacun d’entre nous qu’il revient de façonner la révolution technologique. La ville de demain sera celle que nous construirons ensemble », insiste la représentante des avocats.
Pour Christiane Féral-Schuhl, « Les capacités humaines doivent être augmentées mais pas remplacées. La sphère décisionnelle doit rester entre les mains de chaque citoyen de la ville ». Un équilibre à trouver.
La ville du futur vue par la présidente du CNB, Christiane Féral-Schuhl
Tech&droit - Start-up, Objets connectés, Données, Intelligence artificielle
06/02/2018
L’édition 2018 de la Maddy Keynote, qui s’est tenue le 1er février dernier, à Paris, était consacrée à la cité du futur, une ville plus intelligente, plus connectée, plus collaborative et plus durable, centrée sur le bien-être. Une smart city qui va bouleverser nos repères. Mais quelle place sera réservée dans cette ville redesignée à la spontanéité, à la liberté ou encore à l’éthique ? C’était le thème confié à l’un des nombreux intervenants de cette journée, Christiane Féral-Schuhl, présidente du Conseil national des barreaux (CNB).
La ville numérique qui se profile sera une jungle de données. Les capteurs seront omniprésents (dans la signalisation, les véhicules autonomes, les drones de surveillance des incivilités et de vidéoprotection, les assistants à domicile, ou plus simplement dans nos poches, nos lunettes ou sur nos poignets). De quoi oublier, presque, que tous ces objets sont des émetteurs de données, contrepartie du service qu’ils offrent.
Un déluge de données urbaines qui rendra peut-être la ville smart, mais à quel prix ? Et comment guider ces innovations pour qu’elles demeurent au service du citoyen ?
La ville du futur, destructrice des libertés individuelles ?
Futura. Tel est le nom de la ville du futur imaginée par Christiane Féral-Schuhl. Une ville dans laquelle la dématérialisation et la logistique urbaine sont pensées dans les moindres détails pour atteindre un niveau élevé de fluidité. Dans cette ville du futur, de plus en plus de services seront proposés aux habitants. La présidente du CNB en cite plusieurs.
Les services publics, par exemple. Une plateforme développée par la mairie permet de faire toutes ses démarches en ligne (mariage, décès d’un conjoint, demande d’aides financières auprès des allocations familiales, remboursement de dépenses de santé, etc.). Plus aucun agent public pour accompagner les citoyens dans leurs démarches. Un gain de temps au service des habitants, des économies substantielles pour la ville, mais une rationalité clivante pour les moins agiles, qui seront exclus de cette cité numérique.
Autre illustration, les très esthétiques arbres de Futura, capables de capter et distribuer l’énergie solaire : « le génie de cette invention, imagine Christiane Féral-Schuhl, se trouve dans les petites fleurs incrustées dans ces arbres. Équipées de caméras intégrées, ces fleurs permettent de visualiser 24h/24 le comportement des habitants et visiteurs de Futura. Il paraît que c’est très différent de la vidéosurveillance. Il faut parler de vidéoprotection » ! Une protection qui permet de recueillir tellement de renseignements sur les habitants qu’une instance est chargée à la mairie de piloter le ranking de ses citoyens (en la matière, le futur est déjà actuel, v. l’exemple de la Chine : Chine : le big data pour noter les citoyens... et sanctionner les déviants), et pourquoi pas d’indexer les impôts locaux sur leur comportement.
Dans cette ville futuriste, le maire met à disposition des citoyens une application pour les guider dans leurs déplacements. Mais ce service manipule ses utilisateurs. Il suggère subrepticement un détour pour leur éviter de croiser une manifestation d’opposants : l’appli « a créé artificiellement des fausses données pour (que le promeneur) ne croise pas le chemin de ces mauvais citoyens. Vous l’aurez compris, Futura s’organise sur un modèle d’atteintes aux droits et libertés fondamentaux des citoyens », poursuit la présidente du CNB.
Et que dire des robots qui gouvernent l’intérieur des habitations ? Ils pourront rendre de multiples services aux propriétaires de ces logements, assurer la sécurité, préparer l’arrivée des occupants voire prodiguer les premiers soins et appeler les secours. Mais ces objets connectés envahissent aussi leur intimité : ils enregistrent des conversations et des images à l’insu de leur propriétaire, offrent une vulnérabilité propices à des intrusions de domicile, au détournement d’objets qui se retourneraient contre l’intégrité physique des personnes, etc.
Un dernier exemple ? Cette ville du futur si bien organisée permet à ses habitants de dégager plus de temps pour leur épanouissement personnel. Pour autant, pas facile de se dégager pour aller rendre visite à ses ascendants. Pour éviter des désillusions, il est de plus en plus fréquent de les confier à la garde « bienveillante » d’un robot, qui « grâce aux longues heures de discussion, (…) a acquis des capacités décisionnelles considérables. Il a réussi, se projette la présidente du CNB, à convaincre la grand-mère (de X) de lui confier tous les mots de passe des applications qui gèrent son appartement. L’autre jour, (X) ne pouvait plus entrer chez sa grand-mère. Robot R a maintenu la porte verrouillée ». Et le risque est maintenant qu’il contamine les autres robots de la ville.
Une ville aussi éthique que smart à construire
Ces scénarii pour certains de science-fiction, pour d’autres simplement prospectifs, incitent à toujours penser l’innovation au service des citoyens. Conserver son droit à l’autodétermination, au contrôle de sa vie et de ces données, c’est bien sûr possible, mais encore faut-il encourager les bons choix.
Pour Christiane Féral-Schuhl, maintenir un accès aux droits à tous et ne pas isoler des personnes dans l’incapacité d’accomplir des démarches est absolument essentiel. L’efficacité en faveur des uns ne doit pas exclure les autres.
La transition numérique doit donc s’organiser. Cela passera par une sensibilisation des entrepreneurs. « Les robots et l’intelligence artificielle feront incontestablement partie de la ville de demain. Il faut à tout prix, éviter que les algorithmes prennent le contrôle de notre vie », souligne l’avocate. Reprenant le fil de son histoire du robot compagnon qui s’affranchit, la présidente du CNB, relève que « si les fabricants pouvaient fournir une justification rationnelle pour toutes les décisions prises par Robot R., s’ils pouvaient traduire les calculs de Robot R. dans une forme compréhensible pour l’être humain, (X) aurait pu sauver sa grand-mère. Mieux encore, si les fabricants avaient mis en place un système de réversibilité, (X) aurait pu reprendre le contrôle de Robot R ». Explicabilité des algorithmes et bouton reset, deux pistes de l’éthique by design.
Cela doit également passer par une meilleure protection de ses données. La prochaine entrée en vigueur du règlement sur la protection des données met l’accent sur les risques auxquels s’exposent les entreprises qui ne respecteraient pas les nouvelles normes. Mais elle ne doit pas occulter la nécessaire prise de conscience individuelle sur les milliers de données émises chaque année : « C’est à chacun d’entre nous qu’il revient de façonner la révolution technologique. La ville de demain sera celle que nous construirons ensemble », insiste la représentante des avocats.
Pour Christiane Féral-Schuhl, « Les capacités humaines doivent être augmentées mais pas remplacées. La sphère décisionnelle doit rester entre les mains de chaque citoyen de la ville ». Un équilibre à trouver.
Source : Actualités du droit
