Andrew Yang plaide pour un interrupteur d'arrêt d'urgence face aux risques de l'IA

Andrew Yang propose un mécanisme de coupure d'urgence pour les intelligences artificielles

Alors que les technologies d'intelligence artificielle (IA) avancent rapidement, les inquiétudes concernant leurs impacts sur la sécurité et l'emploi se multiplient. Andrew Yang, ancien candidat à la présidentielle américaine, s'est récemment exprimé en faveur de mesures législatives fortes pour encadrer le développement et la mise en œuvre des agents autonomes.

Un cadre réglementaire pour responsabiliser les acteurs de l'IA

Selon Andrew Yang, les entreprises qui conçoivent et déploient des IA dites « frontier », c’est-à-dire à la pointe de la technologie, devraient être soumises à des règles de responsabilité claires. Ces règles viseraient notamment à imposer un délai de réflexion avant la mise en service effective de nouvelles versions ou systèmes, afin d’évaluer les risques potentiels.

Cette proposition s'inscrit dans un contexte où les agents autonomes, capables d’agir sans supervision humaine constante, soulèvent des préoccupations majeures en matière de cybersécurité et d’impact sur le marché du travail. Le risque d’erreurs ou d’actions non anticipées pourrait avoir des conséquences graves, d’où l’importance d’un contrôle renforcé.

Un « kill switch » pour stopper rapidement les IA problématiques

Le point central du plaidoyer de Yang est l’instauration d’un « kill switch », un dispositif permettant d’interrompre immédiatement le fonctionnement d’une IA en cas de comportement dangereux ou non conforme. Cette mesure vise à offrir une capacité d’intervention rapide pour limiter les dégâts potentiels.

Un tel interrupteur d’arrêt d’urgence serait une première dans le domaine de l’intelligence artificielle, où les mécanismes de contrôle sont encore largement expérimentaux ou inexistants. Il pourrait constituer un élément clé pour rassurer les autorités, les utilisateurs et la société en général sur la sécurité des systèmes automatisés.

Des enjeux croissants pour la sécurité et l’emploi

La montée en puissance des agents autonomes soulève également la question de leur impact sur le marché du travail. Leur capacité à réaliser des tâches complexes sans intervention humaine directe peut entraîner des perturbations importantes, notamment dans certains secteurs.

Par ailleurs, la menace cyber liée aux IA devient de plus en plus tangible. Des systèmes mal configurés ou détournés pourraient ouvrir la voie à des attaques sophistiquées, compromettant des infrastructures critiques ou des données sensibles.

Face à ces risques, la proposition d’Andrew Yang s’inscrit dans une démarche pragmatique visant à intégrer la sécurité dès la conception et à prévoir des garde-fous efficaces.

Source : decrypt.co