Singularité technologique : la civilisation humaine sera dépassée par l’intelligence des machines
Singularité technologique
Un article de Wikipédia, l'encyclopédie libre.
La Singularité technologique (ou simplement la Singularité) est un concept postulant qu'à partir d'un point hypothétique de son évolution technologique la civilisation humaine sera dépassée par l’intelligence des machines. Au-delà de ce point, le progrès n’est plus l’œuvre que d’intelligences artificielles, elles-mêmes en constante progression, et il induit des changements tels sur l'environnement que l’homme d’avant la Singularité ne peut plus les appréhender ni les prédire de manière fiable. Cet évènement est ainsi nommé par analogie avec l’impuissance de la physique moderne à proximité de la singularité gravitationnelle d'un trou noir.
De telles conséquences ont été débattues dans les années 1960 par I. J. Good (voir article Intelligence artificielle), et l’utilisation du terme de singularité pour décrire une sorte d'asymptote verticale du progrès technologique a été introduite par John von Neumann dans les années 1950. La Singularité a acquis une certaine popularité dans les années 1980 grâce à Vernor Vinge. La venue éventuelle et la date de la Singularité sont sujets à débat, mais les futurologues l’attendent en général pour la troisième décennie du XXIe siècle.
D’autres, notamment Raymond Kurzweil, ont proposé des théories étendant la loi de Moore à des formes de calcul autres qu’informatique, qui suggèrent que la croissance exponentielle du progrès technologique serait un motif visible à travers toute l’histoire humaine et même avant l’apparition de la vie sur Terre. D’après Kurzweil, ce motif aboutit à un progrès technologique inimaginable au XXIe siècle et finalement à la Singularité.
Sommaire[masquer] |
Emergence du concept [modifier]
Même s’il est communément admis que le concept de Singularité s’est développé au cours des deux dernières années du XXe siècle, l’origine du terme remonte en fait aux années 1950 :
- "L’une des conversations avait pour sujet l’accélération constante du progrès technologique et des changements du mode de vie humain, qui semble nous rapprocher d’une singularité fondamentale de l’histoire de l’évolution de l’espèce, au-delà de laquelle l’activité humaine, telle que nous la connaissons, ne pourrait se poursuivre." -- Stanislaw Ulam, mai 1958, au sujet d’une conversation avec John von Neumann.
Cette citation fut à plusieurs reprises extraite de son contexte et attribuée à John von Neumann lui-même, probablement du fait de sa réputation et de son influence.
En 1965, Irving John Good décrit un concept de singularité plus proche de son acception actuelle, dans le sens où il inclut l’arrivée d’intelligences artificielles qui prennent le relais (bootstrap) :
- "Mettons qu’une machine supra-intelligente soit une machine capable dans tous les domaines d’activités intellectuelles de grandement surpasser un humain, aussi brillant soit-il. Comme la conception de telles machines est l’une de ces activités intellectuelles, une machine supra-intelligente pourrait concevoir des machines encore meilleures; il y aurait alors sans conteste une “explosion d’intelligence”, et l’intelligence humaine serait très vite dépassée. Ainsi, l’invention de la première machine supra-intelligente est la dernière invention que l’Homme ait besoin de réaliser."
Notons que le terme de singularité ne désigne pas une croissance tendant vers l’infini, telle une singularité mathématique, mais représente le fait que la fiabilité des modèles prédictifs s’effondre à sa proximité, de la même façon que les modèles physiques actuels ne sont plus adaptés à l’approche d’une singularité gravitationnelle.
La singularité vingienne [modifier]
Le concept de Singularité technologique est dû en partie au mathématicien et auteur Vernor Vinge[1]. Vinge a commencé à parler de la singularité dans les années 1980 et a formulé ses idées dans son premier article sur le sujet en 1993 : l’essai Technological Singularity (en anglais). Il y postule que, d’ici trente ans, l’humanité aurait les moyens de créer une intelligence surhumaine mettant un terme à l’ère humaine. Depuis, la singularité a été le sujet de nombreuses nouvelles et essais futuristes.
Vinge écrit que des intelligences surhumaines, créées par des humains aux capacités augmentées cybernétiquement ou par d'autres intelligences artificielles moins développées, seraient capables d’améliorer leurs propres capacités plus efficacement que les esprits humains les ayant conçues. Ainsi, une spirale de progrès de plus en plus rapide amènerait à des progrès technologiques très importants en une courte période de temps.
La Singularité peut être vue comme la fin de la civilisation humaine et le début d’une nouvelle. Dans son œuvre, Vinge s’interroge sur les raisons de la fin de l’ère humaine et soutient que les humains pourraient s'organiser pendant la Singularité en une forme supérieure d’intelligence. Après la création de cette intelligence surhumaine, les humains isolés ne seraient plus, d’après Vinge, que des formes de vie ayant une moindre influence sur le développement du monde.
Remarque sur les singularités [modifier]
Beaucoup de modèles mathématiques ont fait apparaître des singularités dans le monde réel (entre autres en physique). Jusqu'à présent (2006), des raffinements successifs des modèles en ont éliminé en fin de compte la plupart, parce qu'au voisinage des singularités observées les conditions émises en hypothèses du modèle changent de nature.
Il n'est pas encore possible à l'heure où sont écrites ces lignes de savoir si la singularité technologique prévisible d'ici 2030 aura lieu, ou si un élément encore négligé (une question thermodynamique, par exemple) viendra la différer, voire la démentir.
Singularités en physique [modifier]
Invalidées [modifier]
- Catastrophe de l'ultraviolet
- Instabilité de l'atome de Bohr
Invalidité en cours d'examen [modifier]
- Big bang (voir Gabriele Veneziano)
Singularité en économie [modifier]
Dans son Traité d'économie politique (1895), l'économiste français Charles Gide trace les taux d'intérêt au cours du XIXème siècle et constate qu'ils baissent de façon linéaire depuis 1830. En extrapolant la droite correspondante, il la voit couper l'axe des dates vers 1915; cela correspondrait à des taux d'intérêt nuls, ce qui est impossible, ajoute-t-il. Il en déduit donc qu'un bouleversement majeur de la donne économique aura lieu avant cette date. De fait, 1914 vit apparaître outre la Grande Guerre un changement économique qui affectera tout le XXème siècle : l'inflation, inconnue au XIXème.
Ces exemples illustrent comment des changements de fonctionnement se manifestent au voisinage d'un point de singularité prévisible ou prévu.
Un inhibiteur possible [modifier]
Ed Burnette signale par exemple l'apparition d'un inhibiteur nouveau sous la forme des brevets logiciels (admis aux États-Unis) qui peuvent casser la dynamique de progrès des technologies de l'information :
Look at all the harm patents have done to our industry. Look at GIF. JPG. ZIP. FAT32. Linux. MPEG-4. Developing a video compression format is like walking through a minefield. Patent holders fight over future hi-def DVD royalties, resulting in years of delay and increased cost to the consumer. And so forth. Holding companies with no products are the worst as they extort money from real developers just doing their job. (Regardez tout le mal que les brevets ont fait à notre industrie. Regardez les formats GIF, JPEG, ZIp, le système de fichiers FAT32, Linux, le MPEG-4... Développer un format de compression vidéo s'apparente à marcher à travers un champ de mines. Les batailles des détenteurs de brevets [incompatibles] s'affrontant pour s'assurer de futurs revenus se comptent en années de délais et en coûts additionnels pour le consommateur. Les compagnies qui détiennent un brevet et ne proposent pas de produit sont les pires, puisqu'elles extorquent des fonds de développeurs qui ne font que leur travail)
Le rythme de l'innovation pourrait dès lors se ralentir d'un ordre de grandeur ou même davantage.
Voir aussi [modifier]
Bibliographie [modifier]
- Ray Kurzweil, "Humanité 2.0: La bible du changement", M21 Editions, 2007 (traduction de "the singularity is near")
Liens internes [modifier]
Liens externes [modifier]
- Scruter la singularité
- Technological Singularity (en anglais)
- Imagining the Google future (en anglais); voir le scénario 4.
- l'esprit, l'IA et la Singularité Livre de Serge Boisse sur l'intelligence artificielle et la singularité technologique.
Notes et références [modifier]
- ↑ Voir les romans Un feu sur l'abîme, Au tréfonds du ciel et La Captive du temps perdu.
