UN CHERCHEUR QUITTE L’INDUSTRIE DE L’IA : « ELLE POURRAIT TUER TOUS LES HUMAINS »
À seulement 27 ans, le chercheur britannique Jacob Coxon a décidé de quitter Anthropic et, plus largement, l’industrie de l’intelligence artificielle.
La raison de son départ : une inquiétude profonde face à la course engagée entre les grands laboratoires pour développer des systèmes d’IA toujours plus puissants.
Ancien chercheur chez OpenAI puis Anthropic, où il a travaillé sur le pré-entraînement des modèles d’intelligence artificielle, Jacob Coxon estime que les risques liés à l’émergence d’une IA capable, à terme, de s’améliorer elle-même ne sont pas suffisamment pris au sérieux.
UNE COURSE VERS LA SUPERINTELLIGENCE
Dans un message publié sur X, le chercheur dénonce une course technologique qu’il juge particulièrement dangereuse.
Selon lui, « aucune autre activité humaine ne pose un tel niveau de danger ».
Jacob Coxon reproche notamment aux laboratoires spécialisés dans l’IA de poursuivre la création de systèmes toujours plus performants alors que les garanties permettant d’en maîtriser les conséquences ne seraient pas encore suffisantes.
Il affirme également que cette inquiétude existe déjà au sein même des entreprises qui développent ces technologies.
« Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie », a-t-il écrit.
Pour lui, il ne s’agit donc pas simplement d’un discours alarmiste destiné à attirer l’attention sur les dangers de l’intelligence artificielle.
⚠️ ANTHROPIC PRENDRAIT LE RISQUE AU SÉRIEUX
Son passage chez OpenAI et Anthropic l’aurait également amené à constater des différences dans la manière dont les deux entreprises appréhendent ces risques.
Selon Jacob Coxon, les dangers seraient davantage pris en compte chez Anthropic.
Mais même cette entreprise serait confrontée à une pression considérable pour ne pas se laisser distancer dans la course à l’IA.
Le chercheur décrit ainsi une situation paradoxale : les dirigeants pourraient considérer qu’ils doivent continuer à avancer, notamment parce qu’ils ne font pas suffisamment confiance à leurs concurrents pour agir de manière responsable.
UN RESPONSABLE DE LA SÛRETÉ D’ANTHROPIC RÉAGIT
Les déclarations de Jacob Coxon ont pris une nouvelle dimension après la réaction d’Evan Hubinger, responsable de la sûreté chez Anthropic.
Sur X, celui-ci a directement répondu à l’ancien chercheur et a reconnu que le scénario évoqué était pris très au sérieux au sein de l’entreprise.
« Nous croyons réellement, et très sérieusement, que l’IA pourrait tuer tous les humains », a-t-il écrit, en renvoyant notamment au rapport de risque publié par Anthropic en août.
Cette déclaration illustre l’ampleur des débats qui traversent actuellement le secteur de l’intelligence artificielle.
UNE QUESTION QUI DIVISE LES CHERCHEURS
Depuis plusieurs années, certains spécialistes alertent sur la possibilité de voir apparaître des systèmes dont les capacités pourraient dépasser très rapidement celles des humains dans certains domaines.
Le débat porte notamment sur la capacité des chercheurs à comprendre précisément le fonctionnement interne de modèles toujours plus complexes et à anticiper leurs comportements.
C’est précisément ce qui inquiète Jacob Coxon.
Le chercheur appelle ainsi ses anciens collègues à s’interroger sur la direction prise par l’industrie.
Sa question est simple : est-il raisonnable de lancer l’entraînement de systèmes toujours plus puissants alors que les chercheurs ne disposent pas encore d’une compréhension suffisamment précise de leur fonctionnement interne ?
LA COURSE À L’IA RELANCE LE DÉBAT SUR LE RISQUE
Le départ de Jacob Coxon met ainsi en lumière l’un des débats les plus sensibles de l’industrie technologique.
Faut-il continuer à accélérer le développement de l’intelligence artificielle pour ne pas être dépassé par ses concurrents, ou ralentir suffisamment pour renforcer les mécanismes de sécurité et mieux comprendre les risques ?
Une question qui dépasse désormais largement les seuls laboratoires d’IA et qui concerne directement l’avenir de cette technologie.
