COMMENT ÉVITER LES CONSÉQUENCES NÉGATIVES ET LES RISQUES LIÉS À L’UTILISATION DE L’INTELLIGENCE ARTIFICIELLE

Fernando Alcoforado*

Cet article vise à présenter les conséquences négatives et les risques liés au recours à l’intelligence artificielle ainsi que les mesures qui permettraient de les éviter.

1. Introduction

Les conséquences négatives et les risques liés à l’utilisation de l’intelligence artificielle et les mesures qui permettraient d’éviter qu’elle ne nuise à l’humanité peuvent être constatés en lisant les articles que nous avons rédigés et décrits ci-dessous :

• La superintelligence artificielle, ses bénéfices et nuires et que faire pour éviter ses impacts nuisibles sur la société, publié sur le site <https://www.linkedin.com/pulse/la-superintelligence-artificielle-ses-b%C3%A9n%C3%A9fices-et-que-alcoforado-bshhf/>.

• Les avantages et les risques de la singularité technologique basée sur la superintelligence artificielle, publiés sur le site <https://www.linkedin.com/pulse/les-avantages-et-risques-de-la-singularit%C3%A9-bas%C3%A9e-sur-alcoforado/>.

• Rumo à indústria do futuro, publié sur le site <https://www.academia.edu/34710914/RUMO_%C3%80_IND%C3%9ASTRIA_DO_FUTURO>.

• L’éducation avec intelligence artificielle et les déficiences de son application au Brésil, publiée sur le site <https://www.linkedin.com/pulse/l%C3%A9ducation-avec-intelligence-artificielle-et-les-de-son-alcoforado-8cjif/>.

• L’intelligence artificielle dans la conquête humaine de l’espace, ses autres applications et ses risques, publié sur le site <https://www.linkedin.com/pulse/lintelligence-artificielle-dans-la-conqu%C3%AAte-humaine-de-alcoforado/>.

• Inteligência artificial – usos nos sistemas produtivos e impactos sobre o mundo do trabalho, publié sur le site <https://www.socialismocriativo.com.br/inteligencia-artificial-usos-nos-sistemas-produtivos-e-impactos-sobre-o-mundo-do-trabalho/>.

• Le travail à l’ère de l’intelligence artificielle, publié sur le site <https://wordpress.com/post/blogdefalcoforado.com/1075>.

• L’avent de la super intelligence artificielle et ses impacts, publié sur le site <https://www.linkedin.com/pulse/lavent-de-la-super-intelligence-artificielle-et-ses-alcoforado/>.

• Le progrès de l’intelligence artificielle et ses conséquences, publiés sur le site <https://www.linkedin.com/pulse/le-progr%C3%A8s-de-lintelligence-artificielle-et-ses-fernando-alcoforado/>.

• Les solutions contre le chômage résultant de l’avancement technologique, publiées sur le site <https://www.academia.edu/36839753/LES_SOLUTIONS_CONTRE_LE_CH%C3%94MAGE_R%C3%89SULTANT_DE_LAVANCEMENT_TECHNOLOGIQUE>.

• Comment attenuer le chomage et la pauvrete dans le capitalisme, publié sur le site <https://pt.slideshare.net/slideshow/comment-attenuer-le-chomage-et-la-pauvrete-dans-le-capitalisme/178633403>.

L’analyse de ces articles montre que l’intelligence artificielle apporte de nombreux avantages, mais que son utilisation comporte des risques et des inconvénients, qui seront présentés dans le chapitre 2 ci-dessous. Le chapitre 3 présente comment éliminer les méfaits et les risques liés à l’utilisation de l’intelligence artificielle.

2. Risques et préjudices liés à l’utilisation de l’intelligence artificielle

Sur la base de la lecture des articles rédigés par nos soins mentionnés ci-dessus, les conclusions suivantes sont tirées :

• Les cerveaux artificiels dépasseront probablement l’intelligence du cerveau humain d’ici 2050 avec l’avènement de la superintelligence artificielle. La superintelligence artificielle pourrait devenir très puissante. Le sort de l’humanité dépendrait donc des actions de ces machines super intelligentes. Les humains perdront leur monopole de prise de décision grâce à la superintelligence artificielle.

• Les progrès technologiques en cours basés sur l’intelligence artificielle auront un impact négatif sur le monde du travail car ils pourraient conduire à la fin de l’emploi et, par conséquent, à une baisse de la demande de biens et de services. L’impact de l’intelligence artificielle sur la société serait dévastateur, avec un chômage de masse résultant de son utilisation à grande échelle.

• Le Boston Consulting Group prévoit que d’ici 2025, jusqu’à un quart des emplois seront remplacés par des logiciels ou des robots, tandis qu’une étude de l’Université d’Oxford, au Royaume-Uni, souligne que 35% des emplois actuels dans le secteur pays risquent d’être automatisés au cours des deux prochaines décennies.

• Il est peu probable que les investissements dans l’éducation et la formation résolvent à eux seuls le problème du chômage.

• Il existe des risques liés à l’utilisation de l’intelligence artificielle dans l’éducation, représentés par : 1) l’utilisation non critique et inconsciente des technologies ; 2) en facilitant le plagiat ; 3) en raison de la possibilité de désinformation et de diffusion de fausses nouvelles ; 4) l’aggravation des inégalités éducatives ; 5) une dépendance excessive à l’égard de la technologie, les étudiants étant trop habitués aux outils d’intelligence artificielle et s’appuyant exclusivement sur eux ; 6) un apprentissage mécanique marqué par des répétitions et des reproductions de textes, sans réflexion approfondie sur le sujet ; 7) discrimination contre les contenus générés par l’intelligence artificielle qui reproduisent souvent des préjugés discriminatoires et, 8) violation de la vie privée.

• Avec la Superintelligence Artificielle, un large éventail de conséquences pourraient survenir, y compris des conséquences extrêmement bonnes et des conséquences aussi mauvaises que l’extinction de l’espèce humaine si elle se retourne contre les humains.

• Plusieurs personnalités multiplient les alertes sur le risque existentiel que feraient peser sur l’humanité des machines « super intelligentes » et potentiellement incontrôlables.

• La Super Intelligence Artificielle pourrait représenter l’extinction de la race humaine, selon le scientifique Stephen Hawking, qui a déclaré que les technologies se développent à un rythme si vertigineux qu’elles deviendront incontrôlables au point de mettre l’humanité en danger.

• La superintelligence artificielle représente un risque qui menace l’extinction prématurée de la vie intelligente sur Terre, ou la destruction permanente et drastique de son potentiel de développement futur souhaitable.

• Il existe des scénarios extrêmement négatifs, comme des machines superintelligentes elles-mêmes décidant de détruire des êtres humains, mettant ainsi fin à notre civilisation et à nos infrastructures.

• On craint que l’intelligence artificielle soit associée à la perspective non moins terrifiante des robots tueurs.

• Même si la superintelligence artificielle produit des bénéfices pour l’humanité, il existe un risque qu’elle soit utilisée davantage pour le mal et non pour le bien de l’humanité, avec une tendance à son plus grande application à des fins militaires, c’est-à-dire pour la cyberguerre dans la course aux armements en le monde,

• Le risque est très élevé que, dans les conditions actuelles, non seulement des machines superintelligentes menacent l’humanité, mais aussi que des dirigeants mal intentionnés puissent utiliser la superintelligence artificielle pour servir leurs mauvais intérêts.

• Longtemps reléguée aux registres de la science-fiction, la peur de l’intelligence artificielle est ancrée depuis quelques années dans le débat public, associée à la fois à l’automatisation massive du secteur productif et au chômage de masse et à la perspective de contribuer à la production d’armes de plus en plus meurtrières et production non moins terrifiante de robots tueurs.

L’analyse de ces articles montre que l’intelligence artificielle apporte de nombreux avantages, mais que son utilisation comporte des risques et des inconvénients, qui seront présentés dans le chapitre 2 ci-dessous. Le chapitre 3 présente comment éliminer les méfaits et les risques liés à l’utilisation de l’intelligence artificielle.

3. Risques et préjudices liés à l’utilisation de l’intelligence artificielle

Sur la base de la lecture des articles rédigés par nos soins mentionnés ci-dessus, les conclusions suivantes sont tirées :

• Les cerveaux artificiels dépasseront probablement l’intelligence du cerveau humain d’ici 2050 avec l’avènement de la superintelligence artificielle. La superintelligence artificielle pourrait devenir très puissante. Le sort de l’humanité dépendrait donc des actions de ces machines super intelligentes. Les humains perdront leur monopole de prise de décision grâce à la superintelligence artificielle.

• Les progrès technologiques en cours basés sur l’intelligence artificielle auront un impact négatif sur le monde du travail car ils pourraient conduire à la fin de l’emploi et, par conséquent, à une baisse de la demande de biens et de services. L’impact de l’intelligence artificielle sur la société serait dévastateur, avec un chômage de masse résultant de son utilisation à grande échelle.

• Le Boston Consulting Group prévoit que d’ici 2025, jusqu’à un quart des emplois seront remplacés par des logiciels ou des robots, tandis qu’une étude de l’Université d’Oxford, au Royaume-Uni, souligne que 35% des emplois actuels dans le secteur pays risquent d’être automatisés au cours des deux prochaines décennies.

• Il est peu probable que les investissements dans l’éducation et la formation résolvent à eux seuls le problème du chômage.

• Il existe des risques liés à l’utilisation de l’intelligence artificielle dans l’éducation, représentés par : 1) l’utilisation non critique et inconsciente des technologies ; 2) en facilitant le plagiat ; 3) en raison de la possibilité de désinformation et de diffusion de fausses nouvelles ; 4) l’aggravation des inégalités éducatives ; 5) une dépendance excessive à l’égard de la technologie, les étudiants étant trop habitués aux outils d’intelligence artificielle et s’appuyant exclusivement sur eux ; 6) un apprentissage mécanique marqué par des répétitions et des reproductions de textes, sans réflexion approfondie sur le sujet ; 7) discrimination contre les contenus générés par l’intelligence artificielle qui reproduisent souvent des préjugés discriminatoires et, 8) violation de la vie privée.

• Avec la Superintelligence Artificielle, un large éventail de conséquences pourraient survenir, y compris des conséquences extrêmement bonnes et des conséquences aussi mauvaises que l’extinction de l’espèce humaine si elle se retourne contre les humains.

• Plusieurs personnalités multiplient les alertes sur le risque existentiel que feraient peser sur l’humanité des machines « super intelligentes » et potentiellement incontrôlables.

• La Super Intelligence Artificielle pourrait représenter l’extinction de la race humaine, selon le scientifique Stephen Hawking, qui a déclaré que les technologies se développent à un rythme si vertigineux qu’elles deviendront incontrôlables au point de mettre l’humanité en danger.

• La superintelligence artificielle représente un risque qui menace l’extinction prématurée de la vie intelligente sur Terre, ou la destruction permanente et drastique de son potentiel de développement futur souhaitable.

• Il existe des scénarios extrêmement négatifs, comme des machines superintelligentes elles-mêmes décidant de détruire des êtres humains, mettant ainsi fin à notre civilisation et à nos infrastructures.

• On craint que l’intelligence artificielle soit associée à la perspective non moins terrifiante des robots tueurs.

• Même si la superintelligence artificielle produit des bénéfices pour l’humanité, il existe un risque qu’elle soit utilisée davantage pour le mal et non pour le bien de l’humanité, avec une tendance à son plus grande application à des fins militaires, c’est-à-dire pour la cyberguerre dans la course aux armements en le monde.

• Le risque est très élevé que, dans les conditions actuelles, non seulement des machines superintelligentes menacent l’humanité, mais aussi que des dirigeants mal intentionnés puissent utiliser la superintelligence artificielle pour servir leurs mauvais intérêts.

• Longtemps reléguée aux registres de la science-fiction, la peur de l’intelligence artificielle est ancrée depuis quelques années dans le débat public, associée à la fois à l’automatisation massive du secteur productif et au chômage de masse et à la perspective de contribuer à la production d’armes de plus en plus meurtrières et production non moins terrifiante de robots tueurs.

• Une superintelligence artificielle pourrait intentionnellement anéantir l’humanité en détruisant l’atmosphère ou la biosphère de notre planète grâce à la nanotechnologie auto-réplicative, ou elle pourrait tirer toutes nos armes nucléaires, déclencher une apocalypse robotique de type Terminator, ou libérer certains pouvoirs de la physique que même nous ne connaissons pas.

• Il existe un risque que la superintelligence artificielle soit utilisée par les grandes puissances pour développer des armes plus puissantes que celles actuelles afin de défendre leurs intérêts et d’imposer leur volonté sur la scène mondiale.

• Si les grandes puissances se lancent dans une course aux armements utilisant la super intelligence artificielle contre des nations rivales, une super intelligence artificielle militarisée pourrait devenir incontrôlable, que ce soit en temps de paix ou en temps de guerre.

Tout cela impose la nécessité de développer des mécanismes de contrôle pour la superintelligence artificielle et les systèmes intelligents en général décrits au chapitre 3.

3. Comment éliminer les méfaits et les risques liés à l’utilisation de l’intelligence artificielle

À la lumière de notre lecture des articles cités en Introduction, il apparaît clairement que, pour éliminer les méfaits et les risques liés à l’utilisation de l’intelligence artificielle, il est important que les mesures décrites ci-dessous soient adoptées :

• L’avenir du travail dans un monde doté d’Intelligence Artificielle nécessite l’adoption de nouvelles mesures visant à qualifier la main-d’œuvre qui doit savoir utiliser cette technologie comme un outil, en complément de ses compétences, certaines fonctions étant attribuées à des machines et des systèmes intelligents. et de nouvelles fonctions pour les êtres humains.

• Il appartient aux planificateurs du système éducatif d’identifier le rôle de l’être humain dans le monde du travail de demain pour opérer une vaste révolution dans l’éducation à tous les niveaux, y compris la qualification des enseignants et la structuration des unités d’enseignement pour préparer leurs étudiants pour un monde du travail dans lequel les individus devront composer avec des machines intelligentes.

• Pour mettre en œuvre une nouvelle éducation, il est essentiel de commencer à identifier les compétences nécessaires pour travailler au 21e siècle et d’adapter le système éducatif obsolète pour former des citoyens plus qualifiés pour l’ère de l’intelligence artificielle.

• L’étudiant doit développer un sens critique pour évaluer les informations reçues et utiliser tous les outils disponibles de manière consciente, créative, éthique et intelligente.

• L’enseignant doit sensibiliser les élèves au plagiat, les guider sur la bonne façon de citer les auteurs et d’utiliser les outils de détection du plagiat.

• Les étudiants doivent développer leur sens critique pour évaluer les contenus générés par l’Intelligence Artificielle.

• Les établissements d’enseignement doivent guider les étudiants et les professionnels sur les bonnes pratiques de sécurité sur Internet et sélectionner des technologies éducatives respectueuses de la Loi Générale sur la Protection des Données Personnelles (LGPD).

• Les établissements d’enseignement à tous les niveaux, leurs administrateurs et leurs enseignants doivent persévérer pour faire prévaloir les avantages et éviter les risques liés à l’utilisation de l’intelligence artificielle dans l’éducation.

• La tendance future est à l’aggravation du chômage et de l’extrême pauvreté. Dans cette perspective, la solution consisterait dans l’adoption par les États nationaux de politiques publiques visant le développement de l’économie créative, de l’économie sociale et solidaire pour réduire le chômage et la mise en œuvre d’un revenu de base ou d’un revenu minimum universel pour réduire la pauvreté.

• La solution la plus efficace pour réduire la pauvreté est l’adoption d’une politique de garantie de revenus pour les travailleurs. Outre la nécessité de fournir un revenu de base net aux chômeurs, il existe un argument puissant en faveur de l’adoption d’une politique de garantie du revenu, car le progrès technologique, en plus de favoriser un chômage de masse, contribue à des inégalités sociales vertigineuses.

• Il appartiendrait aux gouvernements des pays du monde entier de prélever des impôts sur les entreprises de haute technologie pour assurer l’adoption de la politique de garantie de revenus pour la population sans emploi.

• La politique de revenu de base ou revenu minimum universel pour la population est l’une des solutions pour réduire la pauvreté. Un gouvernement donnant de l’argent gratuit à tous, c’est-à-dire un programme de revenu minimum universel, permettrait d’atténuer ou d’éliminer la pauvreté. Parmi les raisons pour lesquelles cette idée est devenue réalité, il y a le fait que la distribution d’argent réduit la criminalité, améliore la santé de la population et permet à chacun d’investir dans lui-même.

• La politique de revenu minimum sera comme un « capital-risque » (investissement pour les startups) pour le peuple, donnant à chacun la possibilité de prendre des risques. Cela générera une vague d’entrepreneuriat. L’argent doit être distribué à tout le monde et pas seulement aux pauvres. Le programme de revenu de base devrait être universel en s’étendant aux riches et à la classe moyenne, afin qu’il devienne un droit pour tous les citoyens, et non une faveur.

• Le programme de transfert de revenus par lequel l’État fournirait des revenus aux personnes pauvres doit être complété par l’adoption de l’économie créative et de l’économie sociale et solidaire comme solution pour lutter contre le chômage de masse résultant des progrès technologiques.

• La création d’emplois dans le cadre de « l’économie créative » se fait grâce à des activités à potentiel socio-économique qui traitent de la créativité, de la connaissance et de l’information et seraient moins affectées par les progrès de l’intelligence artificielle. Les entreprises de ce segment combinent la création, la production et la commercialisation de biens créatifs à caractère culturel et innovant tels que la mode, l’art, les médias numériques, la publicité, le journalisme, la photographie et l’architecture. En commun, les entreprises de la région dépendent du talent et de la créativité pour exister efficacement.

• La génération d’emplois avec l’Economie Sociale et Solidaire se réalise avec des activités basées sur une nouvelle forme d’organisation du travail dans laquelle la maximisation du profit n’est plus l’objectif principal, laissant la place à la maximisation de la quantité et de la qualité du travail. Sur la base de l’économie sociale et solidaire, il existe la possibilité de redresser les entreprises en faillite et de les faire perdurer avec un nouveau mode de production. L’Economie Sociale et Solidaire est un nouveau modèle de développement économique, social, politique et environnemental qui a une manière différente de générer du travail et des revenus, dans différents secteurs, que ce soit dans les banques communautaires, les coopératives de crédit, les coopératives agricoles familiales, la question du commerce équitable, clubs d’échange, etc.

• La super intelligence artificielle doit être développée pour le bien commun de l’humanité.

• Le principe du bien commun dans tous les projets d’intelligence artificielle dans le monde ne pourra être mis en pratique qu’avec l’existence de gouvernements démocratiques dans chaque pays et d’un gouvernement démocratique mondial sans lequel l’humanité sera à la merci, non seulement de la part de machines super intelligentes qui décident de détruire des êtres humains, mais aussi de dirigeants mal intentionnés.

• Il est nécessaire que le principe du bien commun dans tous les projets d’intelligence artificielle à long terme soit mis en avant afin d’éviter le risque qu’elle soit utilisée pour le mal et non pour le bien de l’humanité et qu’il y ait des gouvernements démocratiques dans chaque pays dans le monde et un gouvernement mondial qui veille à ce que ces objectifs soient atteints.

• Il doit y avoir une forte collaboration de recherche entre la communauté de la sécurité et la communauté de développement de la superintelligence artificielle et pour que toutes les parties impliquées intègrent le principe du bien commun dans tous les projets d’intelligence artificielle à long terme.

• La superintelligence artificielle nécessite de développer de meilleurs mécanismes de contrôle avant de créer des systèmes intelligents en attirant dans ce domaine les plus grands experts en mathématiques et en informatique.

• Récemment, l’Union européenne a fait un grand pas en établissant des règles – les premières au monde – sur la manière dont les entreprises peuvent utiliser l’intelligence artificielle. C’est un mouvement qui ouvre la voie à des normes mondiales pour une technologie utilisée dans tout. Que des réglementations similaires soient adoptées partout dans le monde.

• Vous pouvez adopter les dix étapes pour contenir les risques de superintelligence artificielle décrites ci-dessous :

1. Sécurité technique – Adoption de mesures techniques concrètes pour atténuer d’éventuels dommages et maintenir le contrôle.
2. Audits – C’est un moyen de garantir la transparence et la responsabilité de la technologie.
3. Goulots d’étranglement – Création de leviers pour ralentir le développement et donner du temps aux régulateurs (gouvernements) pour agir et développer des technologies défensives.
4. Créateurs – Obtenir l’assurance que les développeurs de technologies insèrent des contrôles appropriés dès le début.
5. Entreprises – Aligner les incitations des organisations derrière la technologie avec son confinement.
6. Gouvernement – ​​Action efficace pour réglementer la technologie et mettre en œuvre des mesures d’atténuation.
7. Alliances- Création d’un système de coopération internationale pour harmoniser les lois et les programmes.
8. Culture- Partager les apprentissages et les échecs afin de diffuser rapidement des moyens d’y faire face.
9. Mouvements – Demande publique que chaque composante soit tenue responsable.
10. Cohérence – Action harmonieuse de toutes les parties prenantes afin que contenir les risques de la superintelligence artificielle constitue un cercle vertueux de mesures se renforçant mutuellement.

* Fernando Alcoforado, 84, a reçoit la Médaille du Mérite en Ingénierie du Système CONFEA / CREA, membre de l’Académie de l’Education de Bahia, de la SBPC – Société Brésilienne pour le Progrès des Sciences et l’IPB – Institut Polytechnique de Bahia, ingénieur de l’École Polytechnique UFBA et docteur en Planification du Territoire et Développement Régional de l’Université de Barcelone, professeur d’Université (Ingénierie, Économie et Administration) et consultant dans les domaines de la planification stratégique, de la planification d’entreprise, planification du territoire et urbanisme, systèmes énergétiques, a été Conseiller du Vice-Président Ingénierie et Technologie chez LIGHT S.A. Entreprise de distribution d’énergie électrique de Rio de Janeiro, coordinatrice de la planification stratégique du CEPED – Centre de recherche et de développement de Bahia, sous-secrétaire à l’énergie de l’État de Bahia, secrétaire à la  planification de Salvador, il est l’auteur de ouvrages Globalização (Editora Nobel, São Paulo, 1997), De Collor a FHC- O Brasil e a Nova (Des)ordem Mundial (Editora Nobel, São Paulo, 1998), Um Projeto para o Brasil (Editora Nobel, São Paulo, 2000), Os condicionantes do desenvolvimento do Estado da Bahia (Tese de doutorado. Universidade de Barcelona,http://www.tesisenred.net/handle/10803/1944, 2003), Globalização e Desenvolvimento (Editora Nobel, São Paulo, 2006), Bahia- Desenvolvimento do Século XVI ao Século XX e Objetivos Estratégicos na Era Contemporânea (EGBA, Salvador, 2008), The  Necessary Conditions of the Economic and Social Development- The Case of the State of Bahia (VDM Verlag Dr. Müller Aktiengesellschaft & Co. KG, Saarbrücken, Germany, 2010), Aquecimento Global e Catástrofe Planetária (Viena- Editora e Gráfica, Santa Cruz do Rio Pardo, São Paulo, 2010), Amazônia Sustentável- Para o progresso do Brasil e combate ao aquecimento global (Viena- Editora e Gráfica, Santa Cruz do Rio Pardo, São Paulo, 2011), Os Fatores Condicionantes do Desenvolvimento Econômico e Social (Editora CRV, Curitiba, 2012), Energia no Mundo e no Brasil- Energia e Mudança Climática Catastrófica no Século XXI (Editora CRV, Curitiba, 2015), As Grandes Revoluções Científicas, Econômicas e Sociais que Mudaram o Mundo (Editora CRV, Curitiba, 2016), A Invenção de um novo Brasil (Editora CRV, Curitiba, 2017), Esquerda x Direita e a sua convergência (Associação Baiana de Imprensa, Salvador, 2018), Como inventar o futuro para mudar o mundo (Editora CRV, Curitiba, 2019), A humanidade ameaçada e as estratégias para sua sobrevivência (Editora Dialética, São Paulo, 2021), A escalada da ciência e da tecnologia e sua contribuição ao progresso e à sobrevivência da humanidade (Editora CRV, Curitiba, 2022), est l’auteur d’un chapitre du livre Flood Handbook (CRC Press, Boca Raton, Floride, États-Unis, 2022), How to protect human beings from threats to their existence and avoid the extinction of humanity (Generis Publishing, Europe, Republic of Moldova, Chișinău, 2023), A revolução da educação necessária ao  Brasil na era contemporânea (Editora CRV, Curitiba, 2023), Como construir um mundo de paz, progresso e felicidade para toda a humanidade (Editora CRV, Curitiba, 2024) et How to build a world of peace, progress and happiness for all humanity (Editora CRV, Curitiba, 2024).