Briefing du TUAC sur la Conférence de l’OCDE sur l’intelligence artificielle Paris, 26-27 octobre 2017
L’intelligence artificielle (IA) devient de plus en plus un enjeu politique.
Il faut pour cela comprendre les avantages (diagnostics médicaux, efficacité environnementale) et les défis qu’elle peut poser.
Face au battage médiatique, il convient d’être prudent quant à l’état d’avancement du développement technologique et de la mise en œuvre.
L’OCDE a organisé une conférence à haut niveau sur l’IA à Paris les 26 et 27 octobre.
Avec la présence des principaux chefs d’entreprise et experts, il est clair que les syndicats ne sont pas les seuls à s’inquiéter de ses effets sur l’emploi et la société.
Nous sommes encore loin de l’intelligence artificielle générale (c’est-à-dire des applications capables d’effectuer des tâches à un niveau de capacités cognitives et de jugement comparable ou supérieur à celui des humains).
Aucun système d’IA ne dispose d’une cognition flexible ou de la capacité de faire des déductions.
Nous avons plutôt affaire à une « IA étroite » : services de traduction en ligne ou analyse prédictive de données (par exemple, dans les services financiers).
Cependant, il ne fait aucun doute que les données volumineuses (et les flux de données transfrontaliers) et la puissance de calcul se renforcent mutuellement, et que l’apprentissage automatique se nourrit d’algorithmes sophistiqués.
Il sera important de suivre les nouvelles étapes de la recherche et des applications de l’IA, ainsi que d’examiner l’impact immédiat de l’IA « étroite » sur tous les secteurs économiques le long des chaînes de valeur des entreprises.
Il est essentiel de conserver une approche centrée sur l’homme lors de l’introduction, de la conception et de l’utilisation de l’IA.
Les syndicats doivent jouer un rôle central dans les relations industrielles afin d’éviter des coûts sociétaux élevés, notamment des risques pour la sécurité, des déplacements d’emplois et des algorithmes discriminatoires.
L’intégration de l’IA ne doit pas aggraver les inégalités de revenus et d’opportunités, car les gains de productivité résultant de l’IA et de la numérisation en général doivent être partagés équitablement.
Les syndicats ont clairement indiqué que l’opinion publique n’accepterait pas une perturbation radicale et généralisée menée par quelques-uns.
Au contraire, les décideurs politiques, les partenaires sociaux, les communautés techniques et universitaires devraient s’efforcer d’assurer une diffusion numérique à forte dimension sociale.
Pour être en mesure d’anticiper et d’élaborer des stratégies, il est important d’examiner les moteurs, les acteurs clés, les éléments pour l’élaboration de scénarios et les besoins politiques :
Conducteurs
- Renforcement de la dynamique entre l’apprentissage automatique et l’apprentissage en profondeur, le big data et la puissance de calcul ;
- La convergence entre des technologies qui se renforcent mutuellement, telles que l’internet, la numérisation, l’analyse des grandes données, l’informatique en nuage et l’IA ;
- Une augmentation exponentielle des investissements : l’OCDE estime que le « marché de l’IA » s’élèvera à environ 70 milliards d’USD d’ici 2020, le nombre d’acquisitions dans le domaine de l’IA ayant doublé entre 2015 et 2016.
Acteurs clés
- Une poignée d’entreprises, à savoir les six plus grandes entreprises numériques des États-Unis et un marché parallèle florissant en Chine, dirigent la recherche sur l’IA dans les entreprises, acquièrent des start-ups et mettent en œuvre des systèmes.
Elles détiennent la majorité des données, qui sont les éléments constitutifs de l’IA ; - Les partenariats qui débattent de l’application de l’IA sont pour la plupart déconnectés les uns des autres et/ou coparrainés par de grands acteurs industriels – il n’y a pas de dialogue mené par le public, à l’exception de quelques États membres de l’OCDE.
Scénarios
Pour anticiper l’impact de l’IA et comprendre ses effets de réseau, les aspects suivants doivent être pris en compte au-delà des silos politiques :
- les effets plus larges et le niveau d’adaptation des technologies numériques et leur combinaison ;
- sur l’automatisation, son effet net sur la croissance de l’emploi et l’inégalité des revenus ;
- l’évolution des tâches professionnelles et des compétences requises (complexité, contenu routinier, niveau de collaboration) ;
- l’évolution des modèles d’entreprise affectant les environnements organisationnels – y compris l’augmentation des opérations transfrontalières, la servicisation et la valeur des données, qui influencent toutes les conditions de travail et l’emploi en général ;
- la structure du marché sous-jacent et les flux d’investissement ;
- le champ d’application en ce qui concerne la fonctionnalité et la diffusion, y compris en différenciant les secteurs, les régions du monde et les échelles de temps (court terme, moyen terme – jusqu’en 2030, et long terme) ;
- les coûts de mise en œuvre et de maintenance.
Besoins en matière de politique
Les politiques publiques doivent se pencher sur les aspects économiques, sociaux, y compris le marché du travail, éthiques et juridiques de l’IA, car plusieurs risques apparaissent et les cadres réglementaires ne sont pas à la hauteur :
- élaborer des normes opérationnelles, juridiques et éthiques et éviter la fragmentation des règles et des réglementations ;
- fixer des exigences en matière de commandement humain, y compris le droit d’explication, et préciser que les robots et l’IA ne doivent jamais être « humanisés » ;
- concevoir et financer des stratégies de transition permettant aux travailleurs de conserver leur emploi ou d’en changer si le contenu des tâches professionnelles est considérablement modifié par l’IA ;
- engager les partenaires sociaux dans des processus de dialogue industriel et d’innovation afin de garantir les paramètres appropriés pour la normalisation, des résultats plus équitables grâce à la négociation collective et l’autonomie des travailleurs dans les interactions entre machines et humains ;
- anticiper les compétences nécessaires pour compléter les tâches accomplies par les technologies cognitives et élaborer des politiques de formation et le financement sous-jacent sous le prisme de l’apprentissage tout au long de la vie avec la participation des syndicats dans la gouvernance, la conception, la mise en œuvre et la supervision ;
- garantir la qualité des ensembles de données sur lesquels l’IA est construite : de mauvais algorithmes peuvent conduire à des résultats préjudiciables : entre autres, des problèmes de propriété des données se posent compte tenu de l’opacité du traitement et de la réaffectation des données, et examiner les moyens de rendre les données personnelles anonymes (y compris les évaluations de l’impact sur la vie privée) ;
- vérifiez les techniques d’apprentissage automatique par rapport aux risques de partialité et de sécurité et discutez de la responsabilité et de la protection des consommateurs, ainsi que de la santé et de la sécurité au travail (SST) ;
- soutenir la R&D publique qui manque actuellement des ressources nécessaires pour poursuivre des objectifs à plus long terme par rapport aux laboratoires des entreprises et, à cet effet, encourager les écosystèmes d’innovation et les grappes d’entreprises dans les régions ;
- créer des incitations et rendre obligatoires les simulations et les systèmes de validation lors des essais d’IA.
Vers une dimension sociale de la diffusion de l’IA
Comme indiqué dans les recommandations du TUAC sur la numérisation et l’économie numérique (février 2017), toutes les transformations technologiques, y compris la diffusion de l’IA, devraient s’accompagner de principes de « transition juste » pour les travailleurs.
Ce cadre politique devrait prendre en compte les incertitudes concernant les impacts sur l’emploi, les risques de pertes d’emploi, de processus décisionnels non démocratiques et d’affaiblissement des droits au travail, ainsi que le ralentissement économique régional ou local, entre autres.
Bien que le cadre ait été initialement développé par les syndicats dans le contexte du changement climatique et approuvé dans l’accord COP21, ses principes sont valables pour aborder la numérisation des économies, y compris :
- Recherche et évaluation précoce des impacts sociaux et sur l’emploi ;
- Dialogue social et consultation démocratique avec les partenaires sociaux et les parties prenantes ;
- Politiques et réglementation actives du marché du travail, y compris la formation et le développement des compétences ;
- Protection sociale, y compris la garantie des pensions ;
- Plans de diversification économique ;
- Des investissements judicieux débouchant sur des emplois décents et de qualité.
À l’avenir, les travaux de l’OCDE sur l’IA devraient se concentrer sur les normes éthiques et opérationnelles pour la conception, la diffusion et l’application, y compris les cadres de gouvernance et les paramètres réglementaires.
L’OCDE devrait également favoriser la cohérence en associant d’autres domaines d’action à la discussion dans le cadre de son projet horizontal « Going Digital » et au-delà, afin de veiller à ce que ces bouleversements technologiques soient façonnés par des politiques réglementaires, économiques et sociales proactives.
Ce faisant, elle doit inclure les partenaires sociaux et les autres parties prenantes dans les délibérations futures.