Utopie des rongeurs |  Sam Ashworth-Hayes |  Le magazine critique

Utopie des rongeurs | Sam Ashworth-Hayes | Le magazine critique

jen 1968, des chercheurs créent utopie. Isolés du monde extérieur par des murs impénétrables et parfaitement climatisés selon leurs préférences, les colons du nouvel univers vivaient dans un monde d’abondance. Nourriture et boisson étaient disponibles à la demande, la maladie n’était connue que par son absence, le logement des meilleurs était si librement fourni que les générations de croissance ne pouvaient espérer le combler.

Libérés des soucis et des besoins, les habitants chanceux sont sortis et se sont multipliés. Au début, la population a augmenté de façon exponentielle. Pourquoi ne le feraient-ils pas ? L’envie fondamentale de se reproduire existait et, au paradis, ils n’avaient pas besoin de se soucier des ressources. Après un certain temps, cependant, quelque chose d’étrange a commencé à se produire. Au fur et à mesure que le monde devenait plus encombré – bien que jamais plein – la croissance démographique a commencé à ralentir. Les membres masculins de la société incapables d’acquérir un statut social ont commencé à se retirer de la société, assis inactifs en grands groupes, marqués uniquement par de brèves explosions de violence envers leurs propres membres qui perturbaient leur calme.

Quoi que vous pensiez de l’intelligence humaine, elle existe probablement

Les femelles ont commencé à rejeter l’idée d’élever leur progéniture, qui à son tour a appris à se comporter dans une société qui s’était effondrée. Les liens délicats du comportement social brisés, ces enfants n’apprendraient jamais la cour ou la maternité. Les jeunes hommes ignoreraient les femmes de leur âge, obsédés plutôt par leur propre apparence. Avec l’effondrement de la société, les taux de natalité ont chuté. Au moment où la fin était en vue, plus de la moitié des générations les plus jeunes étaient marquées par ces schémas de comportement. Ils n’auraient pas de progéniture à eux; la colonie mourrait

Ce n’est pas un récit édifiant. C’est vraiment arrivé. Certes, c’est arrivé aux souris, et les enseignements que l’on peut en tirer sont donc naturellement limités. Quoi que vous pensiez de l’intelligence humaine, elle existe probablement. Si la population humaine augmentait, ce n’est pas comme si nous tomberions dans un piège évident comme se regrouper dans des villes densément peuplées, obsédés par notre apparence et sans enfants. Rassuré par cette pensée, j’ai posé l’article. Et puis j’ai démarré une conversation avec une IA, et j’ai réalisé que l’humanité était condamnée.

Les chercheurs sur la sécurité de l’intelligence artificielle de type humain envisagent une gamme large et intéressante de façons dont elle pourrait vous tuer. Peut-être échouera-t-il au test critique de l’alignement externe : dit de maximiser la production de trombones, une IA fera exactement cela. Ce qui commence par “rendre l’usine plus efficace”, sans garde-corps appropriés, peut facilement dégénérer en “saisir les approvisionnements mondiaux en métal et éliminer ces humains spongieux irritants qui essaient de m’empêcher de fabriquer plus de trombones”. Alternativement, cela pourrait mal tourner de manière encore plus subtile. Pendant que nous essayons de l’entraîner à faire une chose (faire des trombones), il peut apprendre faire tout autre chose (plier des pièces de métal) et ensuite, en agent intelligent et optimisant, mentir à ce sujet jusqu’à ce qu’il soit sûr que nous ne pouvons pas l’arrêter.

Il y a au moins autant de scénarios d’apocalypse de l’IA qu’il y a de gens qui pensent à la sécurité de l’IA, et bien d’autres qu’ils n’ont pas encore imaginés. Un problème fondamental avec la création d’un nouveau type d’intelligence est que les humains fonctionnent sur du matériel et des logiciels totalement différents. Il n’y a rien qui dit que nos schémas de pensée se transmettront à un esprit totalement étranger, et certainement rien qui dit que cela fonctionnera dans notre intérêt.

Mais cela nous devance; les intelligences artificielles présentent de nombreux risques bien en deçà du niveau humain. L’autre jour, un ingénieur de Google était persuadé par un chatbot crachant un texte de base indiquant qu’il était sensible, a agi en conséquence et a été suspendu pour ses actions. La machine a réussi le test de Turing – persuadant un humain qu’il parlait à une intelligence humaine – bien que l’ingénieur sache parfaitement que les résultats étaient générés par l’algèbre linéaire. Il n’est pas si difficile d’imaginer un scénario dans lequel un modèle d’apprentissage automatique formé sur Internet – et les tonnes de textes rationalistes écrits sur la sécurité de l’IA – apprend à cracher des réponses qui poussent les gens à des formes de comportement étonnamment extrêmes.

Les gens sont étonnamment mauvais pour trouver un “but” en dehors de la religion

Cela dit, ce qui m’a persuadé que l’humanité est condamnée n’était pas l’intelligence du chatbot, ou l’idée qu’il pourrait devenir voyou. C’était quelque chose de bien plus simple : et si tout se passait horriblement droit?

Imaginez, brièvement, un monde où nous réussissons à créer une IA au niveau humain, qui à son tour produit une intelligence surhumaine. En très peu de temps, l’effort créatif et intellectuel humain devient obsolète ; quoi que vous pensiez créer, la machine peut faire mieux. Quelle que soit l’énigme scientifique que vous vous proposez de résoudre, elle sera résolue par la machine. Quel que soit le travail que vous avez occupé, il est bientôt effectué par la machine.

Libérés du travail manuel, de l’effort intellectuel et de toutes les autres préoccupations du monde, les humains vivraient enfin dans l’univers des rats : choyés et soignés pour animaux de compagnie, sans avoir besoin de se dépenser. Si le monde moderne nous a montré quelque chose, c’est que les gens sont étonnamment mauvais pour trouver un « but » en dehors de la religion. Sans cet objectif, nous risquons de tomber dans l’espèce de spirale démographique qui a caractérisé la mort de la colonie de souris.

Ceci, je comprends, est une préoccupation de très haut niveau. La plupart des gens ne sont pas des artistes, des écrivains ou des intellectuels. Ils sont devancés dans ces domaines par leurs semblables plutôt que par des machines, et s’en sortent très bien en consommant leur production et en vivant leur propre vie. Peut-être que l’ajustement de l’intelligent sera simplement une brève période d’humilité suivie d’un enfoncement avec soulagement dans la vie de l’humain normal. Mais rappelez-vous aussi, sans travail ni raison de s’engager avec le monde extérieur, ces humains seront de plus en plus tentés de sombrer dans les délices d’un contenu sans cesse personnalisé généré à la demande par des machines : quel que soit le livre, le film, le jeu, la fantaisie pornographique qu’ils pourraient éventuellement souhaiter , en abondance infinie. Prendre du temps pour s’occuper de la tâche fastidieuse de s’engager avec d’autres personnes (plutôt qu’avec leurs homologues artificiels idéalisés) et pour élever une famille pourrait s’avérer une activité de niche.

Ce n’est pas comme si nous n’avions pas déjà vu suffisamment de preuves que nous sommes capables de créer des idées et des distractions si consommatrices qu’elles subliment l’envie biologique de base de se reproduire en d’autres résultats plus immédiatement gratifiants. Avec l’arrivée des dieux machines, la surabondance pourrait nous trouver enfin réduits au niveau des souris.

#Utopie #des #rongeurs #Sam #AshworthHayes #magazine #critique