Test de Turing : proposition de test d'intelligence artificielle ayant la faculté d'imiter la conversation humaine - Partie 2
Prix Loebner
Un article de Wikipédia, l'encyclopédie libre.
Le Prix Loebner est une compétition annuelle qui couronne les chatterbots satisfaisant le mieux les critères du test de Turing (avec lesquels il est le plus difficile de déterminer s'il s'agit d'un robot ou d'un humain).
Liens externes [modifier]
- (en) Prix Loebner
- (en) A.L.I.C.E. Bot
Agent conversationnel
Un article de Wikipédia, l'encyclopédie libre.
Un agent conversationnel est un agent (informatique) qui dialogue avec un utilisateur. La recherche sur cette Interface Homme-machine est influencée par la compétition sur le test de Turing (1950) : donner l'illusion qu'un programme pense par un dialogue sensé.
L'anglais chatterbot « robot parlant » ou chatterbox « boîte parlante », limite la complexité de cette communication. To chat [tʃat] signifie bavarder, par des échanges brefs et instantanés, comme des humains avec un logiciel de chat. Le français conversationnel (cum, co, con « ensemble », versus « vers ») ajoute la notion de convergence entre l'humain et la machine. En ce sens, les boîtes de dialogues acquièrent une utilité, en particulier depuis le développement d'Internet. Un utilisateur est invité à formuler sa demande en langage naturel, elle est affinée par un échange convivial, dont le logiciel interprète une requête opérationnelle pour son système d'information. Un agent conversationnel peut en plus rechercher l'Effet ELIZA. ELIZA, un des premiers chatterbots, simulait un psychothérapeute rogérien, plusieurs personnes en seraient devenues dépendantes émotionnellement. Les agents conversationnels débordent donc la recherche ou le divertissement, ils mettent en œuvre des connaissances linguistiques, psychologiques, et bien sûr informatiques.
Sommaire[masquer] |
Méthode [modifier]
Un chatterbot est un programme (robot) qui tente de converser avec une personne durant quelques minutes ou plus en donnant l'apparence d'une conversation avec un humain. Il est vrai qu'une bonne compréhension de la conversation est nécessaire à la tenue d'un dialogue sensé, mais la plupart des chatterbots ne s'y essayent pas. Ils repèrent plutôt les mots-clés ou les expressions de leur interlocuteur pour retrouver des réponses préparées ou calculées à l'avance et qui peuvent mener la conversation plus loin d'une manière plus ou moins intelligente, mais sans nécessiter de comprendre de quoi ils parlent.
Historique [modifier]
Les premiers chatterbots ont été ELIZA, PARRY, et SHRDLU.
ELIZA fut crée en 1966. Elle avait été créée par Joe Weizenbaum, du Massachusetts Institute of Technology (MIT), et ne prenait que 3 pages en langage SNOBOL.
- Elle commençait par poser une question neutre (Bonjour. Pourquoi venez-vous me voir ?) à la personne testée, puis analysait à chaque fois la réponse pour tenter de reposer une question en relation avec celle-ci.
- Si une question lui était posée, elle demandait pourquoi on lui posait la question
- Si une phrase contenait le mot computer, elle demandait : Dites-vous cela parce que je suis une machine ?
- etc.
Des concours de chatterbot sont organisés chaque année pour promouvoir l'émulation dans ce domaine. Actuellement, on assiste à la naissance de nombreux chatterbots, en partie grâce au Prix Loebner, qui essaye d'être une sorte de test de Turing. Lors de ces concours, afin d'évaluer les chatterbot, le jury peut dialoguer soit avec un humain soit avec une chatterbox à travers une interface clavier/écran. Au bout d'un certain temps, le jury doit évaluer si le candidat testé est une machine ou pas.
Les chatterbots les plus audacieux sont ceux qui tentent d'extraire des connaissances de leurs conversations comme ECTOR (en anglais, learning bots), mais ce sont aussi ceux dont les résultats sont actuellement les moins impressionnants.
Pièges [modifier]
Voici quelques pièges (souvent faciles à déjouer) grâce auxquels le jury peut deviner si le candidat est une chatterbox ou non :
- Demander combien fait 7x410/4.3 : si le candidat répond trop vite, il ne fera aucun doute qu'il est une chatterbox. Mais la plupart des chatterboxs simulent justement des temps de réflexion variables.
- Tenter de provoquer une réaction en déclarant quelque chose d'incroyable, bien que la réponse évidente soit : Pourquoi changez-vous brusquement de sujet ?
- Demander,(par exemple) qui d'un avion à réaction ou de mon index est le plus gros. Un chatterbot ne réussira pas alors que c'est évident pour un candidat humain.
Techniques pour leurrer le jury [modifier]
- Essayer de simuler un suivi de conversation.
- Être très imprévisible.
Voir aussi [modifier]
Liens externes [modifier]
- (en) Conversez avec Eliza
- Dialoguez avec une chatterbox
- Un article complet sur les agents conversationnels
- Une liste de sites web parlant de chatterbots (en anglais et en français)
- Définition et principes de fonctionnement d'un agent conversationnel
Catégories : Architecture logicielle • Intelligence artificielle
--------------------------------------------------------------------------
Analyse conversationnelle
Un article de Wikipédia, l'encyclopédie libre.
L'analyse conversationnelle ou analyse de conversations (CA) a été initialement développée par Harvey Sacks et ses collaborateurs.
Cette discipline s'inscrit dans le mouvement initié par l'ethnométhodologie. Il s'agissait d'y étudier minutieusement ce qui se produisait dans les interactions verbales. Les analyses de conversation s'intéressent spécifiquement à l'organisation séquentielle des tours de paroles.
L'analyse de conversation connaît un vif développement depuis la fin des années 1970, particulièrement chez les linguistes pragmatiques. La perte de vitesse des analyses ethnométhodologiques en sociologie fait que, de nos jours, il ne subsiste plus guère que des conversationnalistes en ethnométhodologie.
Catégories : Pragmatique • Méthode d'analyse • Interactionnisme
--------------------------------------------------------------------------
Captcha
Un article de Wikipédia, l'encyclopédie libre.
Un Captcha est une forme de test de Turing permettant de différencier de manière automatisée un utilisateur humain d'un ordinateur.
Parce que le test est réalisé par un ordinateur, en opposition avec les tests de Turing standards réalisés par des humains, un Captcha est souvent décrit comme un test de Turing inversé. Ce terme est néanmoins ambigu parce qu’il pourrait aussi signifier que les participants essayent aussi de prouver qu'ils sont des ordinateurs.
Sommaire[masquer] |
Applications [modifier]
Ce test est utilisé sur Internet dans les formulaires pour se prémunir contre les soumissions automatisées et intensives réalisées par des robots malveillants.
La vérification utilise la capacité d'analyse d'image ou de son de l'être humain. Un Captcha usuel requiert ainsi que l'utilisateur tape les lettres et les chiffres visibles sur une image distordue qui apparait à l'écran. Certains sites Web préfèrent afficher une image qui contient une question mathématique.
Ils sont utilisés :
- contre le spam :
- lors de l'inscription à des webmails gratuits (dont les comptes pourraient être utilisés par la suite pour l'envoi de courriers non sollicités),
- lors de la soumission de messages dans des forums de discussion et des blogs (qui pourraient permettre de faire du spamdexing), etc. ;
- contre l'extraction automatisée de bases de données ;
- contre les tentatives d'attaque par force brute ;
- pour la participation à des sondages (dont les résultats pourraient être faussés par des votes automatisés).
À propos du nom [modifier]
« Captcha » est l'acronyme de l'anglais « Completely Automated Public Turing test to Tell Computers and Humans Apart », soit en français, « test public de Turing complètement automatique ayant pour but de différencier les humains des ordinateurs ». Ce terme, qui est une marque déposée par l'université Carnegie Mellon, a été inventé en 2000 par Luis von Ahn, Manuel Blum et Nicholas J. Hopper de cette université, et par John Langford d'IBM.
Historique [modifier]
Dès le début d'Internet, les utilisateurs ont toujours voulu rendre le texte illisible par les ordinateurs. Les premiers furent les hackers, postant sur des sujets sensibles dans des forums en ligne, qui étaient automatiquement surveillés avec des mots-clefs. Pour contourner ces filtres, ces hackers ont commencé à remplacer les mots par des caractères visuellement ressemblants. Par exemple, HELLO pouvait être remplacé par |-|3|_|_() ou )-(3££0, ainsi qu'une multitude d'autres variantes numériques. Ainsi les filtres à mots-clefs ne pouvaient évidemment pas tous les détecter. Ce procédé fut plus tard connu sous le nom de "13375p34k" (leetspeak).
La première réflexion sur la création de tests automatiques qui pourraient distinguer les humains des ordinateurs dans le but de contrôler l'accès aux services web est apparue dans un manuscrit de Moni Naor de l'institut de science de Weizmann, daté de 1996, et intitulé Verification of a human in the loop, or Identification via the Turing Test. Des Captcha primitifs semblent avoir été développés plus tard, en 1997 chez AltaVista par Andrei Broder et ses collègues dans le but d'empêcher des robots d'ajouter des sites à leur moteur de recherche.
En recherchant un moyen de rendre leurs images résistantes à des attaques de logiciels de reconnaissance de caractères, l'équipe a cherché dans le manuel de leur numériseur de marque Brother, qui donnait des recommandations pour améliorer les performances de la reconnaissance de caractères (types d'écritures similaires, fond homogène…). L'équipe conçut des puzzles en essayant de simuler ce qui pourrait causer une mauvaise reconnaissance automatique de caractères. En 2000, von Ahn et Blum développèrent et publièrent la notion de Captcha, qui comprenait tout programme qui pouvait différencier un humain d'un ordinateur. Ils inventèrent de multiples exemples de Captcha, dont les premiers Captcha qui furent largement utilisés (par Yahoo! notamment).
Caractéristiques [modifier]
Les Captchas sont, par définition, entièrement automatisés, ne nécessitant qu'une petite intervention humaine lors de l'utilisation du test. Ceci présente donc des bénéfices évidents au niveau des coûts et performances.
L'algorithme utilisé pour créer un Captcha est souvent public, bien qu'il puisse être breveté. Ceci est fait dans le but de démontrer que casser ce type de test nécessite la résolution d'un problème difficile dans le domaine de l'intelligence artificielle, plutôt que simplement la découverte des secrets de l'algorithme, qui pourraient être obtenus par décompilation ou autres moyens.
Accessibilité [modifier]
Les tests de Captcha basés sur une lecture de texte - ou toute autre tâche de perception visuelle - rendent impossible l'accès aux ressources protégées pour des personnes déficientes visuelles. Néanmoins, le Captcha n'a pas forcément besoin d'être visuel. N'importe quel problème d'intelligence artificielle, comme la reconnaissance vocale, peut être utilisé comme base pour un test de Captcha. Certaines implémentations de Captchas permettent aux utilisateurs d'opter pour un Captcha audio.
Le développement des Captchas audio semble être en retard par rapport aux tests visuels. D'autres types de tests, comme ceux qui nécessitent une compréhension de texte (par exemple, un puzzle logique, des questions, ou instructions pour créer un mot de passe) peuvent aussi constituer des méthodes utilisables dans le cadre d'un Captcha. Encore une fois, il n'y a que peu d'études concernant leur résistance face aux contre-mesures.
Quelques tests intéressants apparurent avec l'idée de la reconnaissance d'images. KittenAuth est un test de ce type, qui demande à l'utilisateur de reconnaître un animal (des chatons) dans une série de photographies de différentes espèces (dauphins, chiots, renards, etc.).
Pour les personnes déficientes visuelles (comme les utilisateurs aveugles, ou ayant des difficultés à la perception des couleurs), les Captchas visuels présentent de sérieux problèmes. Du fait que les Captchas sont conçus pour n'être pas lus par les machines, les outils courants d'aide comme les lecteurs d'écran ne peuvent pas les interpréter. Du fait que certains sites peuvent utiliser les tests de Captcha dès le processus d'inscription initial, ou même à chaque connexion, ces derniers peuvent complètement bloquer l'accès. Dans certaines juridictions, les propriétaires de sites peuvent devenir la cible de litiges s'ils utilisent des Captchas qui discriminent les gens ayant certains handicaps. Dans d'autres cas, ceux qui ont des difficultés visuelles peuvent choisir d'identifier un mot qui leur est lu.
Bien que fournir un Captcha audio permet aux utilisateurs aveugles de lire le texte, ce procédé exclut toujours les personnes qui sont à la fois déficientes visuelles et auditives[1].
L'utilisation de Captcha empêche ainsi un grand nombre d'individus d'utiliser tous les services basés sur Internet comme PayPal, Gmail, Orkut, Yahoo!, ainsi que de nombreux forums et systèmes de blogs…
Ceci étant dit, même pour des personnes parfaitement voyantes, les nouvelles générations de Captcha, conçus pour résister aux logiciels sophistiqués de reconnaissance, peuvent devenir pratiquement impossibles à lire. Même certains exemples présents sur les sites cités ci-dessous sont indéchiffrables aux yeux de la majorité, pour ne pas dire la totalité, des humains.
Un rapport du W3C a souligné l'inaccessibilité de certains tests visuels antirobots.
Contournement [modifier]
Il y a plusieurs approches pour mettre en échec un Captcha :
- on peut utiliser une main-d’œuvre humaine pour les reconnaître ;
- exploiter les bugs dans les implémentations qui permettent à l'attaquant de passer complètement outre le Captcha ;
- améliorer les logiciels de reconnaissance de caractères.
Main-d’œuvre humaine [modifier]
Il est possible de passer au travers du test de Captcha en utilisant des opérateurs humains employés à décoder les Captcha. Une publication du W3C indique qu'un tel opérateur « pourrait aisément vérifier des centaines de Captchas par heure ». Néanmoins, cette solution n'est pas forcément économiquement viable. Des spammeurs ont cependant réussi à contourner la difficulté en créant des sites internet qui demandent à ce que l'utilisateur passe un test de Captcha pour y accéder, ce test étant en fait celui requis par un autre site, tel celui de Yahoo pour valider la création d'une nouvelle adresse mail. L'utilisateur du premier site contribue ainsi, à son insu, aux actes malveillants de ces derniers. Une contre-mesure existe : ajouter, dans le captcha, une expression identifiant clairement son émetteur (telle que « yahoo.fr »).
Bogues de conception [modifier]
Certains systèmes de protection par Captcha mal conçus peuvent parfois être forcés sans utiliser de logiciels de reconnaissance de caractères, mais simplement en réutilisant l'ID d'une session d'une image connue de Captcha. Parfois, si une partie du logiciel qui génère le Captcha est situé côté client (la validation est faite sur un serveur, mais le texte que l'utilisateur doit saisir pour s'identifier est généré côté client), alors les utilisateurs peuvent modifier le logiciel client pour afficher le texte de Captcha non déformé par exemple.
Reconnaissance automatique de caractères [modifier]
Bien que les Captcha fussent initialement conçus pour contrer les logiciels de reconnaissance de caractères standards utilisés pour la numérisation par balayage de documents, plusieurs projets de recherche ont prouvé qu'il est possible de « vaincre » un grand nombre de Captchas avec des programmes spécifiquement adaptés à un type de Captcha. Pour des Captchas avec des lettres déformées, l'approche adaptée est constituée d'une manière générale par les étapes suivantes :
- suppression du fond de l'image, par exemple avec des filtres de couleurs et la détection de lignes fines ;
- segmentation, c'est-à-dire découpe de l'image en plusieurs segments contenant une seule lettre ;
- identification de la lettre contenue dans chaque segment.
Notes et références [modifier]
- ↑ D'après sense.org.uk, environ 4% des gens au Royaume-Uni ont des sérieuses déficiences visuelles et auditives. D'après le Corsortium national d'assistance technique pour les enfants et jeunes adultes aveugles, sourds et muets (NTAC), il y avait 9 516 enfants aveugles, sourds et muets aux États-Unis en 2004. L'université Gallaudet cite une estimation de 1993 qui donne 35 000 adultes entièrement aveugles, sourds et muets aux États-Unis. L'estimation de la population aveugle, sourde et muette dépend lourdement du degré de handicap retenu dans les définitions.
Voir aussi [modifier]
Articles connexes [modifier]
Liens externes [modifier]
- captcha.net, site du projet Captcha, à l'Université Carnegie Mellon, qui est à l'origine de ce concept, et qui est le propriétaire de la marque
- Sur les Captchas et les alternatives, W3C
