Pourquoi la Californie accélère pour prendre des mesures de sécurité avec l'IA
Alors que le débat sur la régulation de l’intelligence artificielle reste bloqué au niveau fédéral américain, la Californie multiplie les initiatives pour prendre des mesures de sécurité avec l’IA. Cette avancée locale interroge sur la capacité des pouvoirs publics à encadrer une technologie qui évolue plus vite que la loi, et sur les responsabilités que les entreprises elles-mêmes acceptent d’endosser.
Un État précurseur face à l'inaction fédérale
La Californie est, de très loin, l’État américain qui a le plus légiféré pour encadrer l’intelligence artificielle. Début septembre, le gouverneur Gavin Newsom a promulgué deux textes votés au Parlement de l’État, posant les bases d’un mécanisme d’audit indépendant des sociétés d’IA et de leurs modèles. Ces textes mettent l’accent sur la sécurité de l’intelligence artificielle, un sujet que le pouvoir fédéral n’a, pour l’instant, pas réussi à traiter de manière structurée.
Un décret pour accélérer et renforcer le dispositif
Avec le décret signé vendredi, Gavin Newsom entend aller plus loin et accélérer la mise en place de ce cadre réglementaire. Un comité d’experts va notamment examiner la possibilité d’imposer aux sociétés les plus avancées de l’IA de faire état publiquement d’incidents impliquant une « perte de contrôle » de leurs modèles. Cette exigence de transparence viserait à donner une visibilité concrète sur des risques qui restent, aujourd’hui, largement documentés par les entreprises elles-mêmes, sans contrôle extérieur systématique.
Des engagements volontaires des grandes entreprises d'IA
Ce décret fait écho à des annonces faites du côté des entreprises. Le patron d’Anthropic, Dario Amodei, s’est engagé samedi à intégrer des observateurs indépendants chargés d’évaluer les actions de l’entreprise en matière de sécurisation de son IA. Le directeur général d’OpenAI, Sam Altman, a promis d’en faire de même au sein du créateur de ChatGPT. Ces engagements volontaires montrent une prise de conscience du sujet, mais ils restent, par nature, moins contraignants qu’une obligation légale portée par un État.
Un appel à ralentir face aux capacités croissantes des modèles
Dario Amodei a également appelé à un ralentissement du rythme de développement de l’IA, afin de permettre d’appréhender les nouveaux risques posés par des modèles dont les capacités se renforcent continuellement. Cette position, venant du dirigeant d’une entreprise directement impliquée dans la course à l’IA, illustre la tension entre l’innovation technologique et la nécessité de prendre le temps d’évaluer les conséquences de systèmes toujours plus puissants.
Des critiques qui minimisent les risques
Cette dynamique de prudence ne fait toutefois pas consensus. Donald Trump et plusieurs membres de la majorité ont critiqué cette proposition, qualifiant de « canulars » les alertes récemment lancées sur la dangerosité de l’IA. Ce désaccord politique souligne à quel point la perception des risques liés à l’intelligence artificielle divise, jusqu’au sommet de l’État fédéral, alors même que certains acteurs industriels appellent eux-mêmes à davantage de vigilance.
Ce que cela signifie pour les utilisateurs et le grand public
Pour le grand public, ces annonces peuvent sembler techniques ou lointaines, mais elles concernent directement la manière dont les outils d’IA que chacun utilise seront, ou non, contrôlés à l’avenir. Voici quelques points à garder à l’esprit face à cette actualité :
- Retenir que la régulation de l’IA reste, à ce stade, fragmentée entre États américains, sans cadre fédéral unifié.
- Distinguer les obligations légales, comme celles votées en Californie, des engagements volontaires pris par certaines entreprises.
- Suivre l’évolution du rôle des comités d’experts, qui pourraient à terme influencer la transparence exigée des grands modèles.
- Garder un regard critique sur les discours publics, qu’ils alertent sur les risques ou qu’ils les minimisent, car le sujet reste politiquement clivant.
Les limites d'une approche encore locale
Il convient de nuancer la portée de ces annonces. Un décret et deux lois californiennes, même s’ils sont significatifs, ne constituent pas un cadre national. Le communiqué du gouverneur, qui affirme que « pendant que Donald Trump et le Congrès somnolent, Gavin Newsom prend, une fois de plus, l’initiative pour renforcer la sécurité de l’IA pour tous les Américains », illustre aussi la dimension politique de cette démarche, dans un contexte où Gavin Newsom est pressenti comme candidat possible à l’investiture démocrate pour l’élection présidentielle de 2028. Cette dimension politique ne discrédite pas les mesures prises, mais elle invite à observer leur mise en œuvre concrète avant d’en évaluer pleinement l’efficacité.
Conclusion
La volonté de prendre des mesures de sécurité avec l’IA s’affirme donc en Californie, portée à la fois par des textes législatifs et par des engagements pris par des entreprises comme Anthropic et OpenAI. Ces initiatives dessinent un paysage réglementaire encore incomplet, marqué par des divergences politiques fortes sur la réalité des risques. Pour les utilisateurs comme pour les observateurs, l’enjeu des prochains mois sera de voir si ces mécanismes d’audit et de transparence se traduisent par des résultats concrets, ou s’ils restent, pour l’instant, une avancée essentiellement locale et volontaire.
