Le scénario dans lequel la technologie prend le dessus sur l’humain peut-il devenir réalité ? C’est en tout cas une hypothèse envisageable pour Anthropic, l’entreprise américaine d’intelligence artificielle qui développe les modèles Claude. Elle affirme, dans une note publiée jeudi 4 juin, que l’IA pourrait bientôt progresser sans intervention humaine.
La capacité de l’IA à accomplir des tâches de manière autonome double environ tous les quatre mois, selon l’entreprise, avertissant qu’à terme la société ne pourrait plus gérer les risques aussi vite que les progrès technologiques. Elle a ainsi appelé à faire une pause dans le développement de l’intelligence artificielle afin de « faire face à ses immenses implications ».
Auto-amélioration de l’IA
« Nous n’en sommes pas encore là, et l’auto-amélioration de l’IA n’est pas inévitable » ont tenté de rassurer Jack Clark, cofondateur d’Anthropic et Marina Favaro, directrice de l’Anthropic Institute, dans cette note. « Mais elle pourrait survenir plus tôt que la plupart des institutions ne le prévoient » ajoutent-ils.
À mesure que les systèmes d’IA avancés deviennent plus performants, la crainte qu’ils échappent au contrôle humain et causent des dommages à la société s’est accrue. La réglementation a tardé à se mettre en place, notamment aux États-Unis où se trouvent la plupart des laboratoires d’IA de pointe.
Des chercheurs ont déjà plaidé pour une pause, mais sans grand succès. Elon Musk, propriétaire du laboratoire xAI, figurait parmi les soutiens d’une initiative lancée en 2023 par l’organisation à but non lucratif Future of Life Institute visant à suspendre le développement de l’IA pendant six mois afin de permettre la mise en place de mécanismes de sécurité.
Accord commun
Anthropic, elle, s’est depuis longtemps positionnée comme un laboratoire d’IA axé sur la sécurité. Pour réaliser cette pause significative, un accord entre « plusieurs laboratoires bien dotés en ressources » opérant à la pointe de la technologie, ainsi que des règles sur les conditions de sa mise en œuvre et sur la manière de la superviser seraient nécessaires, rappelle Anthropic. Une action mal coordonnée constituerait en revanche un risque si des acteurs moins prudents continuaient, seuls, de progresser, a-t-elle averti.
Son organe de recherche, l’Institut anthropique, prévoit d’étudier les systèmes indispensables pour soutenir un ralentissement économique et réunira dans les prochains mois des décideurs politiques, des chercheurs, des groupes de la société civile et des entreprises concurrentes spécialisées dans l’IA pour discuter de la gestion de ces risques comme l’auto-amélioration.
Source link : https://www.lexpress.fr/economie/anthropic-sonne-lalarme-lia-pourrait-bientot-evoluer-sans-supervision-humaine-VE5CE7EIRFCXZGYU5R5R7XIU7E/
Author :
Publish date : 2026-06-05 16:46:00
Copyright for syndicated content belongs to the linked Source.
