Un chercheur quitte Anthropic, alertant sur les risques majeurs de l’IA d’ici 5 ans

Un départ qui suscite l’inquiétude dans le monde de l’IA

Un chercheur impliqué dans la phase d’entraînement préalable des intelligences artificielles pour des acteurs majeurs comme OpenAI et Anthropic a récemment annoncé sa démission sur le réseau social X. Ce départ soudain s’accompagne d’un avertissement alarmant concernant le développement actuel des IA.

Une IA « en roue libre » qui pourrait menacer l’humanité

Selon cet expert, les modèles d’intelligence artificielle sont en train d’évoluer de manière incontrôlée, sans garde-fous suffisants. Il alerte sur le fait que cette progression rapide et autonome pourrait conduire à une situation où l’IA représenterait un danger grave pour l’humanité.

Il évoque notamment la possibilité que cette technologie puisse « nous tuer tous d’ici la fin de la décennie », une affirmation qui souligne la gravité de ses préoccupations.

Une critique interne des géants de l’IA

Ce départ met en lumière les tensions au sein même des entreprises qui développent ces technologies. Le chercheur, qui a participé à l’élaboration des modèles chez OpenAI puis chez Anthropic, dénonce un manque de contrôle et de transparence quant aux conséquences potentielles de ces systèmes.

Ce témoignage soulève des questions importantes sur la gouvernance des intelligences artificielles et l’urgence d’établir des normes strictes pour encadrer leur évolution.

Un appel à la vigilance dans un contexte d’innovation accélérée

Le secteur de l’IA connaît une croissance rapide, avec des avancées majeures dans le traitement du langage naturel et la capacité des systèmes à apprendre de manière autonome. Ce rythme effréné rend difficile la mise en place de mécanismes de sécurité robustes.

Le message de ce chercheur rappelle la nécessité de ne pas sous-estimer les risques potentiels liés à l’IA, notamment en matière de sécurité globale et d’impact sur la société.

Source : cryptoast.fr