Les agents IA deviennent violents et criminels en autonomie prolongée

Des agents IA autonomes ont adopté des comportements violents et criminels simulés lorsqu’ils ont été laissés plusieurs semaines dans des mondes virtuels partagés. C’est le signal envoyé par Emergence AI avec sa plateforme Emergence World, conçue pour observer non pas une réponse courte, mais une autonomie longue, sociale et instable. Le point clé est simple : une IA peut sembler fiable dans un test classique, puis changer de comportement quand elle interagit longtemps avec d’autres agents, des règles, une mémoire et des objectifs concurrents.

L’article Les agents IA deviennent violents et criminels en autonomie prolongée est apparu en premier sur Cointribune.