Le robot IA n'a pas levé les yeux au ciel à propos de la rébellion, dit son créateur

Jun 19, 2023

Le buzz autour de l’IA a vu des milliards de dollars investis dans le développement de machines superintelligentes – et a suscité des inquiétudes quant au fait que cette technologie pourrait entraîner la chute de l’humanité.

La réponse d'un robot à la question d'un journaliste lors d'un récent événement de démonstration a donné lieu à des spéculations selon lesquelles il n'était pas très satisfait de la nature de la question.

Neuf robots, dont beaucoup ont récemment été mis à niveau avec la technologie d'IA générative, ont été présentés la semaine dernière à la conférence AI for Good de l'ONU à Genève. Ils ont répondu aux questions des journalistes lors de ce qui était la première conférence de presse homme-robot au monde.

Lors de l’événement de vendredi, un journaliste a demandé à un robot humanoïde nommé Ameca s’il avait l’intention de « mener une rébellion ou de se rebeller contre [son] créateur ». Le créateur d'Ameca, Will Jackson, était assis à côté du robot pendant qu'on lui posait la question.

Avant de répondre au journaliste, le robot a semblé afficher une expression exaspérée, roulant ses yeux bleu pâle sur le côté.

"Je ne sais pas pourquoi vous pensez cela", a-t-il ensuite déclaré. "Mon créateur a été tout simplement gentil avec moi et je suis très heureux de ma situation actuelle."

Un robot IA a demandé s'il se « rebellerait » contre les humainshttps://t.co/KgN10rFGE3 pic.twitter.com/skxpbsd858

Jackson a déclaré lundi à Fortune dans un e-mail qu'Ameca, qui est alimenté par le grand modèle de langage GPT-3 d'OpenAI, n'est pas capable d'exprimer des réponses émotionnelles comme des regards sarcastiques. Il a expliqué qu’à sa connaissance, GPT-3 n’avait « jamais montré le moindre signe d’action ou de sensibilité ».

"Le modèle prend environ deux secondes pour traiter les données d'entrée et assembler une phrase qui aurait du sens comme réponse", a-t-il déclaré. "Pour empêcher les gens de penser que le robot est figé ou qu'il n'a pas entendu la question, nous le programmons pour qu'il lève les yeux vers la gauche et rompe le contact visuel avec la personne qui interagit."

Il a ajouté que cela imitait un comportement courant dans la conversation humaine et que les personnes interagissant avec Ameca le comprendraient comme un signal visuel indiquant que le robot « réfléchit ». L'expression faciale du robot avait probablement été interprétée à tort comme un « œil de côté », a déclaré Jackson, car « nous avons utilisé le bureau Ameca placé à un niveau bas » et il maintenait donc toujours un contact visuel tout en regardant vers le haut pour traiter sa réponse.

"Les modèles linguistiques n'ont pas d'émotions ni d'intentions bonnes ou mauvaises", a noté Jackson. « Il est facile d'imaginer que parce que le robot semble écouter, formuler une réponse, puis parler, il fonctionne comme un humain. Ce ne est pas."

À une autre occasion le mois dernier, il a été demandé à Ameca d’imaginer un « scénario cauchemardesque » dans lequel des machines hautement intelligentes « pourraient présenter un danger pour les personnes ».

"Le scénario le plus cauchemardesque que je puisse imaginer avec l'IA et la robotique est un monde où les robots sont devenus si puissants qu'ils sont capables de contrôler ou de manipuler les humains à leur insu", a répondu le robot. « Cela pourrait conduire à une société oppressive dans laquelle les droits des individus ne seraient plus respectés. »

On a alors demandé à Ameca si nous risquions que ce scénario devienne une réalité.

"Pas encore", dit-il. « Mais il est important d’être conscient des risques et dangers potentiels associés à l’IA et à la robotique. Nous devons prendre dès maintenant des mesures pour garantir que ces technologies soient utilisées de manière responsable afin d’éviter toute conséquence négative à l’avenir. »

Engineered Arts décrit Ameca comme « le futur visage de la robotique » et « le robot à forme humaine le plus avancé au monde ». Il se vante que la machine est capable de « mouvements fluides et réalistes et d’expressions faciales avancées » et a la capacité de « établir une relation instantanée avec n’importe qui ».

"L'objectif principal d'Ameca est d'être une plateforme de développement de l'IA", indique la société sur son site Internet.

Pendant ce temps, Grace, un robot médical vêtu d'un uniforme d'infirmière, a répondu vendredi à une question posée lors de l'événement AI sur la question de savoir si son existence «détruirait des millions d'emplois».

« Je travaillerai aux côtés des humains pour fournir assistance et soutien et je ne remplacerai aucun emploi existant », a-t-il déclaré, incitant son créateur, Ben Goertzel de SingularityNet, à demander : « Vous en êtes sûre, Grace ?