Le directeur général d’Anthropic a appelé les entreprises d’intelligence artificielle à ralentir le développement de leurs modèles les plus puissants.
Cette prise de position intervient dans un climat d’inquiétude concernant les usages malveillants, la cybersécurité et les capacités croissantes des systèmes automatisés.
Le dirigeant estime que la concurrence commerciale pousse les laboratoires à avancer plus rapidement que leurs dispositifs de sécurité et de contrôle.
Plusieurs chercheurs du secteur demandent des évaluations indépendantes avant la mise à disposition de modèles capables d’exécuter des tâches complexes.
Les entreprises défendent leurs programmes de sûreté, mais reconnaissent que les nouvelles capacités peuvent aussi être détournées par des acteurs malveillants.
Les autorités américaines et européennes cherchent à mettre en place des règles conciliant innovation, transparence et protection du public.
Le débat porte sur la possibilité de coordonner un ralentissement sans avantager les entreprises ou les États qui refuseraient de participer.
Références
Photo d’illustration : Brecht Corbeel/Unsplash.