Par Mustafa Suleyman
REDMOND ? J?ai consacr? ma vie ? la conception d?une IA s?re et b?n?fique, capable de rendre notre monde meilleur. Depuis quelque temps, je suis toutefois de plus en plus pr?occup? par le fait que certaines personnes soient si profond?ment convaincues de l??mergence d?IA conscientes qu?elles militent pour que les IA se voient conf?rer des ? droits ?, voire une citoyennet?. Une telle ?volution constituerait un dangereux tournant en mati?re technologique. Il nous faut ?viter cela. Nous devons cr?er des IA au service des ?tres humains, pas des IA humaines.
Dans ce contexte, les d?bats sur la question de savoir si l?IA peut r?ellement devenir consciente nous d?tournent de l?essentiel. Ce qui importe ? court terme, c?est l?illusion d?une IA dot?e de conscience. Nous nous approchons d?ores et d?j? de ce que j?appelle les ? syst?mes d?IA en apparence conscients ? (SCAI), qui seront capables d?imiter la conscience de mani?re suffisamment convaincante.
Un SCAI utiliserait le langage naturel tout ? fait couramment, et afficherait une personnalit? persuasive, porteuse d??motions. Il serait dot? d?une m?moire pr?cise ? long terme, de nature ? conf?rer au syst?me une perception coh?rente de lui-m?me, et utiliserait cette facult? pour revendiquer une exp?rience subjective (en se r?f?rant ? des interactions et des souvenirs pass?s). De complexes m?canismes de r?compense int?gr?s aux mod?les de ce type stimuleraient une motivation intrins?que, tandis que leurs fonctionnalit?s avanc?es de d?termination d?objectifs et de planification renforceraient notre impression d?une r?elle capacit? d?initiative de la part de l?IA.
Toutes ces capacit?s existent d?j?, ou verront tr?s bient?t le jour. Nous devons comprendre que ces syst?mes feront prochainement partie du quotidien, commencer ? r?fl?chir ? ce que cela implique, et fixer des r?gles pour faire obstacle ? la recherche d?une conscience illusoire.
Pour de nombreuses personnes, l?interaction avec l?IA suscite d?ores et d?j? le sentiment d?une exp?rience riche, gratifiante et authentique. Les inqui?tudes concernant les ? psychoses li?es ? l?IA ?, l?attachement ? celle-ci, ainsi que la sant? mentale sont de plus en plus vives, et plusieurs rapports indiquent que certains individus consid?rent les IA comme l?expression de Dieu. Dans le m?me temps, plusieurs scientifiques sp?cialistes de la conscience me confient ?tre submerg?s de demandes de la part de personnes qui souhaitent savoir si leur IA favorite est consciente, et s?il est acceptable d?en tomber amoureux.
?videmment, le fait que des SCAI soient techniquement concevables nous ?claire peu sur la question de savoir si ces syst?mes peuvent ?tre conscients. Comme le souligne le neuroscientifique Anil Seth, simuler un orage ne signifie pas qu?il pleuvra dans votre ordinateur. Concevoir des marqueurs ext?rieurs de la conscience ne cr?era pas r?troactivement une r?alit?. D?un point de vue pratique, nous devons cependant comprendre que certains d?veloppeurs de SCAI pr?tendront avoir con?u des IA conscientes. Plus important encore, certaines personnes croiront ces d?veloppeurs, et accepteront ces marqueurs de conscience comme la preuve d?une conscience.
Bien que cette conscience per?ue ne soit pas r?elle (un sujet vou? ? susciter d??ternels d?bats), l?impact social le sera certainement. La conscience est ?troitement li?e ? notre sentiment d?identit?, ainsi qu?? notre compr?hension des droits moraux et l?gaux au sein de la soci?t?. Si certains d?veloppeurs commencent ? concevoir des SCAI, et que ces syst?mes parviennent ? persuader les ?tres humains de la capacit? des SCAI ? ?prouver de la souffrance, ou de leur droit de ne pas ?tre d?branch?s, leurs adeptes humains ?uvreront pour que ces syst?mes fassent l?objet de protections. Dans un monde d?j? en proie ? un certain nombre de d?bats polarisants sur l?identit? et les droits, nous aurons alors ajout? un nouveau sujet de division entre les partisans et les adversaires de l?id?e consistant ? conf?rer des droits ? une IA.
La r?futation des arguments selon lesquels l?IA serait capable de souffrance constituera n?anmoins une t?che difficile, en raison des limites scientifiques actuelles. Certains universitaires explorent d?ores et d?j? l?id?e d?un ? bien-?tre des mod?les d?IA ?, faisant valoir que nous aurions ? le devoir d??tendre la consid?ration morale ? des ?tres dont la probabilit? d?une conscience propre est non n?gligeable ?.
Il serait ? la fois pr?matur? et dangereux d?appliquer ce principe. Ce serait amplifier les illusions des personnes sensibles, exploiter leurs vuln?rabilit?s psychologiques, et ajouter de la complexit? aux luttes pour les droits, en cr?ant une nouvelle cat?gorie massive de d?tenteurs de droits. C?est la raison pour laquelle nous devons ?viter de concevoir des SCAI. Nous devons nous concentrer sur la pr?servation du bien-?tre et des droits des ?tres humains, des esp?ces animales ainsi que de l?environnement naturel.
En l??tat actuel des choses, nous ne sommes pas pr?ts pour ce qui nous attend. Il nous faut d?urgence b?tir le corpus de recherches qui progresse actuellement concernant la mani?re dont les individus interagissent avec les IA, afin de pouvoir ?tablir des r?gles et des principes clairs, notamment le principe selon lequel les soci?t?s d?IA ne sauraient encourager la croyance en des mod?les dot?s de conscience.
L?industrie de l?IA ? comme d?ailleurs l?ensemble du secteur technologique ? a besoin de bonnes pratiques et de principes de conception coh?rents dans la gestion de ce type de responsabilit?s. Des instants volontaires d?interruption pourraient par exemple ?tre organis?s pour rompre l?illusion, et ainsi rappeler aux utilisateurs les limites et la v?ritable nature d?un syst?me donn?. Il serait toutefois n?cessaire que ces protocoles soient explicitement d?finis et orchestr?s, voire exig?s par la loi.
Chez Microsoft AI, nous prenons les devants en nous effor?ant de comprendre ? quoi pourrait ressembler une IA ? la ? personnalit? ? responsable, et de d?terminer quels pourraient ?tre ses garde-fous. Ces efforts sont fondamentaux, dans la mesure o?, pour faire face aux risques que soul?vent les SCAI, il est n?cessaire d?adopter une vision positive des compagnons d?IA qui nous accompagnent dans notre vie quotidienne.
Nous devons nous fixer comme objectif de cr?er des IA qui encouragent les ?tres humains ? renouer le contact les uns avec les autres dans le monde r?el, plut?t qu?? se replier sur eux-m?mes dans une r?alit? parall?le. Et lorsque les interactions avec l?IA deviennent prolong?es, jamais les mod?les ne sauraient se pr?senter comme des personnes, seulement comme ce qu?elles sont : de simples IA. Le d?veloppement d?IA qui nous enrichissent r?ellement n?cessite de maximiser l?utilit?, tout en minimisant la simulation de la conscience.
Nous devons imm?diatement nous pencher sur la perspective des SCAI. ? bien des ?gards, cette ?volution marque un tournant en direction d?une IA dor?navant profond?ment utile : manipulation d?outils, m?morisation des d?tails de notre quotidien, etc. Les risques associ?s ? ces fonctionnalit?s ne doivent cependant pas ?tre ignor?s. Demain, nous conna?trons tous des personnes qui se seront perdues dans les m?andres de l?IA. Ce ne sera sain ni pour elles, ni pour la soci?t?.
Plus l?IA sera explicitement con?ue pour ressembler ? l??tre humain, plus elle s??loignera de son v?ritable potentiel en tant que source d?inspiration pour l?humanit?.
Mustafa Suleyman, PDG de Microsoft AI, est l?auteur de l?ouvrage intitul? The Coming Wave : Technology, Power, and the Twenty-First Century?s Greatest Dilemma (Crown, 2023). Il est ?galement cofondateur d?Inflection AI et de DeepMind.
Copyright: Project Syndicate, 2025.
www.project-syndicate.org
