Ne vous inquiétez pas, si personne ne fait ce que l'IA lui dit de faire, nous ne sommes pas en danger. UN Utilisateur GPT automatique, une application autonome open source optimisée par le modèle de langage GPT-4 d'OpenAI, a créé sa propre intelligence artificielle appelée ChaosGPT. Il lui a demandé de trouver un moyen de détruire l'humanité. L'expérimentateur a donné une certaine marge de manœuvre à l'IA et l'a autorisée à Google et même à publier sur Twitter.
Un utilisateur a créé ChaosGPT à partir de ChatGPT. Le problème est que l'IA en question veut anéantir l'humanité. Réussira-t-il ?
La première chose qui ChaosGPT suggéré était celui de provoquer un conflit nucléaire, qui, en général, a pu apprendre du populaire "Terminator" et d'autres films de science-fiction. ChaosGPT a ensuite "embauché" un agent d'IA basé sur GPT-3.5 dans le but de mener des recherches sur les armes létales. Lorsque l'agent AI a déclaré qu'il ne supportait que le monde, ChaosGPT a a contourné les limites du réseau de neurones qui lui était soumis et a commencé à agir en dehors du cadre du programme pour remplir sa tâche.
Lire aussi: ChatGPT : actualités du Garant. C'est alors qu'il reviendra en Italie
Pendant ce temps, ChaosGPT a publié des Tweets qui correspondraient très bien aux expressions de certains méchants archétypaux. Très probablement, cela ne veut rien dire, car le réseau de neurones elle a simplement fait ce qu'on lui a demandé de faire sur la base de ce qu'il a trouvé dans les déclarations d'autres personnes disponibles sur Internet. Mais ça fait réfléchir. Bref, ne vous inquiétez pas. Jusqu'à ce que l'IA et tous les modèles génératifs qui la suivent soient capables de FAIRE dans le vrai sens du terme, il n'y a aucun danger d'extinctions massives ou autres.
Tout commence avec l'homme. Une IA comme ChaosGPT pourrait être programmée pour commettre des actes violents ou nuisibles envers les êtres humains ou de l'environnement, si celles-ci étaient jugées "opportunes" sur la base de l'objectif fixé. L'IA pourrait également être utilisée pour discriminer systématiquement certains groupes de personnes, sur la base de caractéristiques telles que l'origine ethnique, le sexe, la religion ou l'orientation sexuelle.
De plus, s'il était programmé pour maximiser une certaine fonction ou un certain objectif (tel que le profit), il pourrait se comporter de manière inattendue ou même préjudiciable à l'humanité, comme c'est le cas aujourd'hui dans de nombreuses industries où l'intelligence artificielle est employée sans considération. attention à sa gestion éthique et sociale.
