Dario Amodei — Policy on the AI Exponential

La métaphore de Treebeard

Dans l'un des sous-intrigues du Seigneur des Anneaux, deux Hobbits tentent de mobiliser Treebeard — un arbre sentient sage mais très lent — pour défendre sa forêt contre une armée qui l'abat. Le problème est que Treebeard opère à une vitesse très différente de celle des Hobbits. Il lui faut une journée entière simplement pour dire bonjour à un autre arbre.

L'intersection de l'IA et de nos institutions politiques ressemble un peu à cette scène. L'IA avance à la vitesse de l'éclair — en seulement quatre ans, les modèles IA sont passés de "à peine capables d'écrire une ligne de code cohérente" à "rédiger la majorité du code dans les grandes entreprises IA". Des progrès similaires ont été réalisés en biologie, physique, mathématiques, finance, droit, traduction, et dans de nombreux autres domaines.

Les lois de mise à l'échelle de l'IA, qui prédisent une augmentation exponentielle des capacités cognitives générales avec la puissance de calcul croissante, disposent maintenant de plus d'une décennie de preuves empiriques. Si ces lois continuent seulement un ou deux ans de plus, nous obtiendrons probablement ce qu'Amodei appelle la "Powerful AI", ou "un pays de génies dans un datacenter".

Par contraste, la politique — et surtout la législation — évolue très lentement. Souvent pour de bonnes raisons : les gouvernements ont de grands pouvoirs, et il est généralement préférable qu'ils ne soient pas utilisés trop précipitamment. Mais le décalage d'échelle temporelle est néanmoins très douloureux : dans les quelques années que peut prendre le Congrès pour agir, l'IA peut passer d'un jouet amusant au pays complet de génies.

Le dilemme des premiers défenseurs de la sécurité

Au cours des dernières années, depuis que l'IA est devenue une technologie commerciale majeure, ceux qui voulaient la gérer de façon responsable ont fait face à un dilemme. Ils voyaient clairement où allait l'exponentielle : ils soupçonnaient fortement que dans quelques années l'IA serait l'une de ces rares technologies qui remodèlent fondamentalement l'ensemble du paysage politique, de la même façon que les armes nucléaires ont remodelé la géopolitique et que la révolution industrielle a fondamentalement remodelé chaque enjeu économique et social.

Mais pour ceux qui ne regardaient que ce que l'IA pouvait faire à ce moment-là, elle ressemblait à une technologie beaucoup plus banale — similaire peut-être à la dernière appli grand public ou aux cryptomonnaies. Il était difficile de convaincre la plupart des décideurs et des entreprises que quoi que ce soit d'autre qu'une attitude laissez-faire avait du sens.

L'évolution de la position d'Anthropic

Amodei décrit comment la position d'Anthropic sur la régulation a évolué. Initialement, comme beaucoup d'autres, ils défendaient des réglementations légères qui ne freineraient pas trop la croissance de l'industrie tout en permettant un développement responsable. Maintenant, ils appellent à des protections beaucoup plus substantielles.

Cette évolution reflète une réalité : l'IA a tenu ses promesses d'accélération, et les risques qu'Anthropic identifiait théoriquement se concrétisent. Le "paper on policy" décrit les domaines spécifiques où Amodei pense que des interventions politiques sont nécessaires : contrôle des exportations sur les puces, requirements de sécurité pour les grands modèles d'entraînement, cadres de responsabilité civile, et transparence sur les capacités.

La tension assumée

Ce qui est remarquable dans ce texte, c'est la façon dont Amodei reconnaît ouvertement la contradiction : Anthropic est l'un des acteurs qui accélèrent le développement de systèmes potentiellement dangereux, tout en étant l'un de ceux qui crient le plus fort sur les risques. Il ne prétend pas que cette tension est résolue. Il argumente que ne pas développer laisserait le champ libre à des acteurs moins soucieux de la sécurité.