Jan Leike rejoint Anthropic : un changement de paysage dans la recherche en IA
Jan Leike, anciennement chercheur principal chez OpenAI, a récemment fait un mouvement important en rejoignant Anthropic, un concurrent se concentrant sur le développement prudent de l'IA. La décision de Leike a été motivée par des préoccupations de sécurité chez OpenAI, où il était associé à l'équipe "Superalignment", dédiée à s'assurer que les systèmes d'IA agissent conformément aux valeurs humaines. Chez Anthropic, Leike contribuera à la supervision évolutive, à la généralisation faible à forte et à la recherche sur l'alignement automatisé, s'alignant sur son accent mis sur les implications de l'IA et la préparation à l'AGI.
Cette transition a également été marquée par la récente démission d'Ilya Sutskever, co-fondateur d'OpenAI, suggérant davantage un changement de valeurs et de priorités. Anthropic se différencie en intégrant des principes éthiques dans la formation des modèles d'IA via l'"IA constitutionnelle", en invitant les commentaires du public et en utilisant des sources comme la Déclaration universelle des droits de l'homme des Nations Unies.
Principales conclusions
- Le départ de Jan Leike d'OpenAI pour Anthropic est motivé par des préoccupations de sécurité chez OpenAI et signifie un changement dans le paysage de la recherche en IA.
- Anthropic met l'accent sur une évolution prudente dans le développement de l'IA, contrairement aux intérêts commerciaux d'OpenAI, avec un accent mis sur une IA éthique et responsable.
- Les domaines de recherche de Leike chez Anthropic incluent la supervision évolutive, la généralisation faible à forte et l'alignement automatisé, s'alignant sur ses travaux précédents au sein de l'équipe "Superalignment" d'OpenAI.
Analyse
Le mouvement de Jan Leike souligne l'accent mis croissant sur le développement éthique de l'IA, reflétant une tendance plus large au sein de l'industrie. Cela attire également l'attention sur l'impact potentiel sur OpenAI, pouvant potentiellement entraîner une pression accrue pour aborder les préoccupations de sécurité et donner la priorité aux valeurs éthiques. Ce changement pourrait favoriser une concurrence plus forte dans l'industrie de l'IA, stimulant l'innovation tout en assurant la prise en compte des considérations éthiques et en influençant les normes mondiales de développement de l'IA.