L'homme doit garder la main sur la machine (Photo Trust Myscience)
Production de textes automatisée et de publicité en fonction des lecteurs, reconnaissance automatique de la parole, agents de réponse aux clients d’une enseigne, plateforme d’apprentissage, aide à la prise de décision, automatisation de l’action humaine, l’intelligence artificielle s’immisce dans notre quotidien sans crier gare. Cette possibilité technique est rendue possible par la mise au point d’algorithmes, un ensemble de règles opératoires, traduites en langage de programmation informatique, dont l'application permet de résoudre un problème énoncé au moyen d'un nombre fini d’opérations. Un moyen d’automatisé la plupart des taches et de les répéter à l’envi voire de les faire interagir entre-elles, sans que l’homme y apporte sa touche finale.
De la science fiction ? Non, désormais les robots dotés d’intelligence artificielle ont déjà pris place dans notre quotidien au point d’inquiéter la Commission nationale de l’informatique et des libertés (CNIL). Cette autorité administrative indépendante de l’Etat qui veille à ce que l’informatique soit au service du citoyen et surtout qu’elle ne porte atteinte ni à l’identité humaine, ni aux droits de l’Homme, ni à la vie privée, ni aux libertés individuelles ou publiques, s’est surtout penché sur les questions éthiques posées par ces technologies dans un rapport au nom évocateur : « Comment permettre à l’homme de garder la main ».
Les recommandations de la CNIL en la matière, qui comprennent « six grandes problématiques éthiques » sont présentées ce vendredi au Secrétaire d’Etat chargé du Numérique, Mounir Mahjoubi et au mathématicien et débuté, Cédric Villani.
L’intelligence artificielle fait une percée remarquable dans le domaine médical, notamment dans le diagnostic de certains certains cancer. « Ces systèmes initialement prévus pour nous apporter une aide à la décision, seront-ils demain nos délégués », soulève la CNIL dans son rapport. « Quel sera leur niveau de responsabilité en cas d’erreur ? »
Même niveau d’inquiétude pour ces systèmes mis au point aux USA et qui sont, à l’instar du film Minority Report de Steven Spielberg ( 2002), capable de prédire un crime dans le temps et dans l’espace. « Les agents de terrain auront-ils encore la possibilité de discuter les prédictions de ce logiciel », poursuit la CNIL.
Une des préoccupations majeure soulevée par ce rapport c’est la manière dont sont constituées les bases de données exploitées par les algorithmes. C’est le cas soulevé par le géant de la distribution Amazon dont le système d’intelligence avant exclut certains quartiers défavorisés sous prétexte qu’ils n’engendraient pas de profits suffisants pour l’entreprise.
Pour l’autorité administrative, l’IA soulève de des problèmes qu’il ne convient pas de prendre à la lègere et notamment « la menace pour la dimension collective de notre société », « l’élargissement de la collecte des données personnelles et leur mode de choix », et surtout « l’autonomie des machines ».
La CNIL suggère des principes, à l’attention des politiques, mais aussi de ceux qui développement et utilisent l’Intelligence artificielle : le « principe de loyauté qui doit permettre à l’outil de ne pas trahir le consommateur » et le « principe de vigilance qui vise à ne pas accorder une confiance illimitée aux machines ».
« Il s’agit des briques de base de la régulation de l’univers numérique de plus en plus complexe. Ces principes doivent être maintenus tout au long de la chaine », appuie Isabelle Falque-Pierrotin, présidente de la CNIL. « Mais Il faut surtout savoir constamment douter des algorithmes, omniprésents dans l'univers numérique, qui forment des chaînes complexes et changeantes ».
Pour cette dernière il est important de former tous les acteurs de la chaine à la notion d’éthique et de rendre compréhensible ces systèmes par les utilisateurs. Des notions qui devront passer par des règles législatives et par la mobilisation des entreprises du secteur.
« Nous sommes parfaitement capable d’instaurer un rapport de force avec les industriels et les géants du web », poursuit la présidente. « Et la France est en mesure de porter cette préoccupation éthique au niveau mondial ».
La communauté internationale pourra se saisir de la position française. La question de l'éthique va d'ailleurs être mise à l'agenda de la prochaine conférence internationale des autorités de protection des données à Bruxelles, en octobre de l'année prochaine.
Source : La Croix
De la science fiction ? Non, désormais les robots dotés d’intelligence artificielle ont déjà pris place dans notre quotidien au point d’inquiéter la Commission nationale de l’informatique et des libertés (CNIL). Cette autorité administrative indépendante de l’Etat qui veille à ce que l’informatique soit au service du citoyen et surtout qu’elle ne porte atteinte ni à l’identité humaine, ni aux droits de l’Homme, ni à la vie privée, ni aux libertés individuelles ou publiques, s’est surtout penché sur les questions éthiques posées par ces technologies dans un rapport au nom évocateur : « Comment permettre à l’homme de garder la main ».
Les recommandations de la CNIL en la matière, qui comprennent « six grandes problématiques éthiques » sont présentées ce vendredi au Secrétaire d’Etat chargé du Numérique, Mounir Mahjoubi et au mathématicien et débuté, Cédric Villani.
L’intelligence artificielle fait une percée remarquable dans le domaine médical, notamment dans le diagnostic de certains certains cancer. « Ces systèmes initialement prévus pour nous apporter une aide à la décision, seront-ils demain nos délégués », soulève la CNIL dans son rapport. « Quel sera leur niveau de responsabilité en cas d’erreur ? »
« Nous sommes parfaitement capable d’instaurer un rapport de force avec les industriels et les géants du web »
Même niveau d’inquiétude pour ces systèmes mis au point aux USA et qui sont, à l’instar du film Minority Report de Steven Spielberg ( 2002), capable de prédire un crime dans le temps et dans l’espace. « Les agents de terrain auront-ils encore la possibilité de discuter les prédictions de ce logiciel », poursuit la CNIL.
Une des préoccupations majeure soulevée par ce rapport c’est la manière dont sont constituées les bases de données exploitées par les algorithmes. C’est le cas soulevé par le géant de la distribution Amazon dont le système d’intelligence avant exclut certains quartiers défavorisés sous prétexte qu’ils n’engendraient pas de profits suffisants pour l’entreprise.
Pour l’autorité administrative, l’IA soulève de des problèmes qu’il ne convient pas de prendre à la lègere et notamment « la menace pour la dimension collective de notre société », « l’élargissement de la collecte des données personnelles et leur mode de choix », et surtout « l’autonomie des machines ».
La CNIL suggère des principes, à l’attention des politiques, mais aussi de ceux qui développement et utilisent l’Intelligence artificielle : le « principe de loyauté qui doit permettre à l’outil de ne pas trahir le consommateur » et le « principe de vigilance qui vise à ne pas accorder une confiance illimitée aux machines ».
« Il s’agit des briques de base de la régulation de l’univers numérique de plus en plus complexe. Ces principes doivent être maintenus tout au long de la chaine », appuie Isabelle Falque-Pierrotin, présidente de la CNIL. « Mais Il faut surtout savoir constamment douter des algorithmes, omniprésents dans l'univers numérique, qui forment des chaînes complexes et changeantes ».
Pour cette dernière il est important de former tous les acteurs de la chaine à la notion d’éthique et de rendre compréhensible ces systèmes par les utilisateurs. Des notions qui devront passer par des règles législatives et par la mobilisation des entreprises du secteur.
« Nous sommes parfaitement capable d’instaurer un rapport de force avec les industriels et les géants du web », poursuit la présidente. « Et la France est en mesure de porter cette préoccupation éthique au niveau mondial ».
La communauté internationale pourra se saisir de la position française. La question de l'éthique va d'ailleurs être mise à l'agenda de la prochaine conférence internationale des autorités de protection des données à Bruxelles, en octobre de l'année prochaine.
Source : La Croix
