In English

Vous avez probablement vu les vidéos. Un robot qui marche ou qui rampe, appréhendant son environnement et effectuant certaines tâches à la manière d’un être humain, comme ouvrir des portes. Ils ont même appris à faire des back-flip. Ces vidéos sont devenues virales sur les réseaux sociaux en quelques mois, accompagnées de réactions terrifiées sur la façon dont « le règne des robots arrive », « nous devrions nous soumettre dès maintenant », et ainsi de suite…

En dehors des bots faisant des back-flips, il existe de bonnes raisons de s’intéresser aux robots, à l’automatisation et à l’intelligence artificielle (IA). Le site web « Wait But Why » a écrit un article détaillé sur le sujet [1], traitant de la manière dont l’IA rattrape les êtres humains et finira par nous dépasser. D’autres parlent du concept de « singularité », c’est-à-dire le point que l’IA atteindra lorsqu’elle sera capable de s’auto-améliorer, conduisant à une augmentation exponentielle de son intelligence [2].

Ce sujet a naturellement suscité des inquiétudes. Selon Elon Musk, l’IA représente un risque fondamental à la civilisation humaine[3], et Stephen Hawking disait qu’elle pourrait signifier la fin de l’espèce humaine [4]. Bill Gates rejoint l’avis d’Elon Musk, et se demande pourquoi tant d’autres ne s’en préoccupent pas davantage [5]. Que se passe-t-il vraiment ? L’IA est-elle réellement intelligente ? Va-t-elle dominer le monde et condamner l’humanité ?

Beaucoup d’hypothèses non vérifiées circulent dans les discussions relatives à ces sujets, il est donc nécessaire de prendre du recul et analyser les choses une par une.

Ce post comporte une introduction à ce qu’est l’intelligence artificielle, et décrit comment elle fonctionne. Nous expliquerons ensuite comment il est possible de créer des machines contrôlées par des IA se comportant comme des êtres humaines, avant de se pencher sur les énigmes philosophiques qui en découlent.

Comment fonctionne l’IA ?

L’utilisation actuelle du mot « IA » est synonyme d’un domaine de l’informatique appelé « machine learning ». Un algorithme de machine learning est un algorithme qui s’améliore au fur et à mesure de l’accomplissement d’une tâche, en se basant sur les retours fournis par des données (i.e. la « bonne » réponse est fournie par ces données). Il peut au final devenir très bon dans l’accomplissement d’une tâche et être déployé dans le monde réel sans plus avoir besoin de ce feed-back, ce retour qui lui a auparavant permis de s’améliorer.

Prenez, par exemple, un algorithme vous indiquant si une image contient oui ou non un chat. Il traite d’abord l’image comme une matrice (un tableau de nombres, d’intensités de pixels). Il passe ensuite l’image à travers une série d’opérations mathématiques un peu fantaisistes, jusqu’à ce qu’on lui attribue un seul nombre compris entre 0 et 1. Si le nombre est proche de 1 alors c’est un chat, et s’il est proche de 0, ce n’est pas un chat.

Des nombres appelés « paramètres » qui déterminent le succès de l’algorithme, interviennent dans ces opérations mathématiques. Trouver le bon réglage de ces paramètres est la clé pour que l’algorithme fonctionne. Ceci est basé sur un processus d’essais et d’erreurs, appelé « entraînement » dans le contexte du machine learning. Les paramètres sont initialement définis aléatoirement, puis pour chaque image d’entraînement, une correction est effectuée en fonction de la bonne réponse.

En plus des images, un processus similaire pourrait être utilisé pour traiter des données au format texte, ou de tout autre type. Ce qu’il est important de noter, c’est que l’entraînement par machine learning demande une puissance de calcul phénoménale, et la limite de ce qu’on peut actuellement atteindre est plafonnée ce que nos ordinateurs peuvent actuellement supporter. Tout est question d’optimisation.

Le machine learning consiste essentiellement à résoudre des problèmes d’optimisation. Nous avons un nombre que nous essayons d’optimiser – dans l’exemple ci-dessus, nous voulons que la différence entre le nombre calculé par l’algorithme, et la bonne réponse soit la plus petite possible. (Appelons de nombre là : le taux d’erreur). Autrement dit, faire en sorte que le taux d’erreur soit le plus proche possible de zéro. Nous effectuons donc les ajustements nécessaires jusqu’à ce que nous réduisions ainsi le taux d’erreur, pour qu’il se rapproche de zéro le plus possible sur l’ensemble des données.

Avec une puissance de calcul suffisante, ce principe peut être exploitée de manière créative. Une méthode classique consiste à saisir une image d’un chiffre dessiné à la main compris entre 0 et 9, et à avoir une suite de 10 interrupteurs, un pour chaque chiffre. Si l’image saisie correspond à un 3 dessiné, alors le résultat devrait être 0-0-0-1-0-0-0-0-0-0. Ici l’interrupteur allumé (symbolisé par un 1) est la 4ème position, soit le chiffre 3 (ne pas oublier qu’on commence à 0). Nous pouvons pousser le concept encore plus loin avec davantage de puissance de calcul. A la place d’un chiffre dessiné, nous pouvons utiliser en entrée une vidéo fournie par une caméra montée sur une voiture, et le résultat peut être un signal envoyé pour actionner le frein ou l’accélérateur.

Lors de l’entraînement, l’optimisation concernant la « bonne chose à faire » dans telle ou telle situation provient de données fournies par des conducteurs humains. Maintenant, augmentons la difficulté d’un cran. Nous pourrions entraîner un algorithme de machine learning gigantesque optimisé pour se comporter comme un être humain. Les données en entrées peuvent être sensorielles, comme du son, de l’image, etc… et en sortie nous aurions des paroles, le contrôle des membres, etc… Nous sommes encore loin d’y arriver, mais comme mentionné plus tôt, si nous avons à l’avenir une meilleure puissance de calcul, nous aurons de bien meilleurs résultats.

En d’autre mots, il y a une ligne directe entre ce que l’IA peut faire actuellement (comme reconnaître des chats sur une image) et ce qu’elle peut potentiellement faire – imiter l’esprit humain et le comportement. Les algorithmes permettant de le faire existent déjà, nous savons les configurer et les entraîner. Il suffit d’avoir suffisement de calcul, ce qui finira par arriver (si Allah le veut).

Mise en situation

Supposons que nous sommes en 2028, et qu’on y est arrivés. Certaines personnes prétendent que puisque nos esprits ne sont faits que de matière, et qu’un robot est aussi fait de matière, alors selon ce raisonnement, il est une personne. Il a des droits, des responsabilités, et un statut légal. Imaginez un mouvement militant pour plus de droits aux machines, par exemple #MLM (Machines lives matter, tiré du slogan Black lives matter). Certains humains auront même des relations amoureuses avec ces machines, ou les assigneront à des taches comme le baby-sitting, ou à d’autres choses moins légales.

Un grand débat sur leur personnalité s’en suit…

Comment y répondre ? Certains diront qu’on ne peut pas reconnaître aux machines une personnalité, en se basant sur le fait qu’elle n’a pas d’expérience subjective. Mais ça n’est pas empiriquement prouvable. En fait, personne ne peut prouver empiriquement qu’un autre être humain a une expérience subjective. Noam Chomsky en parle dans cette vidéo:

Noam Chomsky pointe quelques éléments clés ici. Premièrement, il discute du point mentionné précédemment concernant la possibilité de simuler ou de reproduire l’activité de l’esprit humain. Il mentionne également l’IA et la conscience, soulignant que discuter de la question de savoir si l’IA est consciente est en fait dénué de sens, car nous ne pouvons pas prouver l’existence de la conscience, même pour d’autres humains. Ainsi, les appels à la conscience et à l’expérience subjective ne peuvent pas vraiment nous aider.

« Il n’y a que des atomes ici » : Ou comment ne pas apprécier l’intelligence comme un cadeau d’Allah »

La vrai réponse à cette question est évidente. Allah a créé l’être humain avec un aspect physique, mais nous a également doté d’une âme (ruh) et d’un intellect (aql). Ce qui nous rend humain n’est pas notre comportement apparent, mais plutôt l’essence de ce qu’Allah a mis en nous. Construire un robot capable d’imiter le comportement humain est un exercice intéressant, mais finalement, un tel robot sera toujours une machine, non réellement humain. L’imitation qu’il produit n’agit qu’à un niveau superficiel, comme si l’on vous posait une question dans une langue étrangère et que vous regardiez la réponse dans un livre avant de la recopier, sans rien en comprendre du sens. Pour creuser le sujet à propos de l’imitation aveugle, allez voir cette expérience [6].

La raison pour laquelle beaucoup de philosophes voient l’IA potentiellement humaine ou sur-humaine est qu’ils ont souscrit à l’idéologie matérialiste. Selon cette idéologie, les êtres humains sont entièrement auto-suffisants, et proviennent de l’univers physique lui même, et sont donc par extension réplicables avec du silicone. Sam Harris résume cette opinion de cette manière, renforçant la mienne [7]:

Nous savons que la simple matière peut donner lieu à ce que l’on appelle « l’intelligence réelle », à la capacité de penser de manière flexible dans plusieurs domaines, car notre cerveau y parvient, exact ? Je veux dire, il n’y a que des atomes ici, et au fur et à mesure que nous continuons de construire des systèmes d’atomes qui se montrent de plus en plus intelligents dans leur comportement, nous arriverons finalement à moins d’être interrompus, à donner une réelle intelligence à nos machines. 

Peut être que nos esprits ne sont que « simple matière ». Mais ce que cette conception de l’esprit met de côté, c’est la volonté, et le pouvoir créatif d’Allah. Ce morceau de matière est capable de penser, d’observer, de contempler, de conserver, de découvrir, d’aimer, de se réjouir et de pleurer parce qu’Allah lui a donné la capacité de le faire. Allah dit : « Dis: « C’est Lui qui vous a créés et vous a donné l’ouïe, les yeux et les cœurs». Mais vous êtes rarement reconnaissants! »(67:23)

Nous pouvons entraîner une machine à jouer à des jeux de société, à avoir une conversation, à écrire un livre ou à effectuer toute autre tâche. Elles finiront même par être plutôt bonnes à ces activités. Mais il manquera toujours quelque chose. Ce que nous, humain, avons, et que les machines n’ont pas, est une âme et une raison créée par Dieu, et qui nous distingue de la simple matière.

Alors pourquoi les idées matérialistes sont-elles devenues populaires ? Il y a un appel irrésistible à de telles croyances pour les êtres humains hédonistes modernes, dû à l’idée que si nous ne devons à personne notre existence, nous pouvons faire ce que nous voulons. Cependant, rien ne saurait être plus loin de la vérité. C’est Allah qui nous a créé et nous a donné notre intelligence, et ce don profond doit être reconnu et apprécié.

Cet article n’a pas pour sujet de « prouver » que la conception théiste ou islamique de l’esprit et la bonne. Les lecteurs intéressés par ce sujet peuvent consulter les travaux récents de Hamza Tzortzis [8]. Indépendamment de la vision théiste de la question, le fait est que la raison pour laquelle de nombreuses personnes considèrent l’IA comme une réelle intelligence est qu’elles ont accepté des croyances matérialistes à propos de l’esprit et de son fonctionnement.

Préoccupations réelles concernant l’IA

Même si l’IA ne devient pas surhumaine, il existe d’autres raisons de s’en préoccuper. Par exemple Mark Zuckerberg a déclaré que l’IA est une technologie comme d’autres qui doit être bien gérée, et non une chose qui va détruire l’humanité en acquérant une intelligence réelle puis en nous attaquant [9]. Si nous faisons les mauvais choix maintenant, cela nuira à l’humanité à long terme. Voici quelques domaines à considérer:

• Automatisation des tâches comme la conduite et la caisse d’épicerie. Les ordinateurs le font déjà mieux que l’Homme. Il reste à construire les infrastructures nécessaire à leur bon fonctionnement (Pensez au fonctionnement d’une pompe à essence ou des péages si la voiture était vide). Cela pourrait entraîner la perte de millions d’emplois, principalement dans les secteurs « non qualifiés » du marché. De plus, elles diminuent encore les interactions humaines, déjà en mauvais état dans une société individualisée.
• Le talent des ingénieurs est gaspillé dans des trucs stupides, comme l’optimisation des clics sur une publicité. Un célèbre informaticien a dit : « Les meilleurs esprits de ma génération sont occupés à chercher comment faire cliquer les gens sur les publicités, ça crains.[10] » Bien sûr nos algorithmes de machine learning peuvent comprendre comment faire en sorte que les utilisateurs utilisent davantage une application ou achètent un produit ou cliquent sur un lien. Mais est-ce que ça rend vraiment le monde meilleur ?
• Fausses photos et vidéos. L’approche générative (generative model) est un domaine de recherche très actif, avec des progrès constants. Nous pouvons aujourd’hui produire une fausse image réaliste de petite taille avec assez d’entraînement. Il existe aussi des technologies comme le « face swap » qui sont maintenant incroyablement réalistes pour les photos, et des progrès sont en cours pour la vidéo.

Ce que les exemples ci-dessus ont en commun, c’est qu’ils sont tous des cas où l’être humain développe sciemment une technologie qui peut être utilisée pour causer des dommages. L’IA pourrait finir par être une force destructrice pour la civilisation humaine, non pas à cause de l’intelligence réelle qu’elle pourrait acquérir, mais à cause des choix que les Hommes feront à propos d’où et comment les utiliser. Une manière optimiste de voir les choses est que cela est entre nos mains. Peut-être qu’il y a de l’espoir après-tout…

Citations:

1. Urban, Tim. “The AI Revolution: The Road to Superintelligence.” Wait But Why, 22 Jan. 2015, https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html.
2. “Technological Singularity.” Wikipedia, Wikimedia Foundation, 9 Sept. 2018, https://en.wikipedia.org/wiki/Technological_singularity.
3. Sulleyman, Aatif. “AI Is Going to Wipe out Human Civilisation If We Don’t Stop It, Says Elon Musk.” The Independent, Independent Digital News and Media, 17 July 2017, http://www.independent.co.uk/life-style/gadgets-and-tech/news/elon-musk-ai-human-civilisation-existential-risk-artificial-intelligence-creator-slow-down-tesla-a7845491.html.
4. Cellan-Jones, Rory. “Stephen Hawking Warns Artificial Intelligence Could End Mankind.” BBC News, BBC, 2 Dec. 2014, http://www.bbc.com/news/technology-30290540.
5. Holley, Peter. “Bill Gates on Dangers of Artificial Intelligence: ‘I Don’t Understand Why Some People Are Not Concerned’.” The Washington Post, WP Company, 29 Jan. 2015, http://www.washingtonpost.com/news/the-switch/wp/2015/01/28/bill-gates-on-dangers-of-artificial-intelligence-dont-understand-why-some-people-are-not-concerned/?utm_term=.29422738f99c.
6. Cole, David. “The Chinese Room Argument.” Stanford Encyclopedia of Philosophy, Stanford University, 19 Mar. 2004, https://plato.stanford.edu/entries/chinese-room/.
7. Harris, Sam. “Can We Build AI without Losing Control over It? .” YouTube, TED, 19 Oct. 2016, http://www.youtube.com/watch?v=8nt3edWLgIg.
8. Tzortzis, Hamza Andreas. “Chapter 7 – Denying God, Denying You: The Argument From Consciousness.” The Divine Reality: God, Islam and the Mirage of Atheism: Revised Edition, FB Publishing, 2018.
9. Clifford, Catherine. “Facebook CEO Mark Zuckerberg: Elon Musk’s Doomsday AI Predictions Are ‘Pretty Irresponsible’.” CNBC, CNBC, 24 July 2017, http://www.cnbc.com/2017/07/24/mark-zuckerberg-elon-musks-doomsday-ai-predictions-are-irresponsible.html.
10. Madrigal, Alexis C. “The Rise of the Wants, Silicon Valley’s Answer to Wall Street’s Math Nerds.” The Atlantic, Atlantic Media Company, 15 Apr. 2011, http://www.theatlantic.com/technology/archive/2011/04/the-rise-of-the-wants-silicon-valleys-answer-to-wall-streets-math-nerds/237411/.

---

About the author: Yousuf is a developer with an education in computer science. His interests include science, technology, religion, and politics. You can follow him on Twitter here.

This piece was generously translated by one of our readers, Badraddin. You can follow him on Twitter here. If you’d like to contribute to our translation efforts, please fill out this contact form!