Google : une rumeur de guerre au sein de l'ia – les employés font mine de ne pas collaborer aux projets militaires
Plus de 580 ingénieurs en intelligence artificielle de Google ont publié une lettre virulente, s'opposant à toute collaboration avec le département de la Défense américain. Un mouvement qui s'inscrit dans la continuité de l'opposition menée par Anthropic, et qui soulève des questions cruciales sur l'éthique du développement de l'IA.
Un déclenchement de conscience : les risques cachés de la technologie
La missive, qui sera adressée au PDG Sundar Pichai lundi prochain, met en lumière les dangers potentiels de la centralisation du pouvoir entre les mains de systèmes d'IA, ainsi que leur propension à produire des erreurs, voire des biais. Il s'agit d'une prise de position claire et sans équivoque, témoignant d'une profonde inquiétude au sein de l'entreprise.
Ce geste audacieux s'accompagne d'une forte pression, à la lumière des récentes tensions avec le Pentagone, qui tente d'exclure Anthropic de ses chaînes d'approvisionnement en IA, et de rechercher de nouveaux partenariats avec les géants de la Silicon Valley. La stratégie du Pentagone, qui vise à investir des milliards de dollars dans le déploiement militaire de l'IA, y compris le développement d'armes autonomes, suscite de vives critiques.
Le défi éthique : un remords dans les systèmes
Ce n'est pas un coup de théâtre. En 2018, des employés de Google avaient déjà alerté sur les risques liés à l'utilisation de l'IA dans le domaine militaire, plaçant des garde-fous sur les projets de défense. Pourtant, les liens entre l'entreprise et l'industrie américaine de la défense se sont renforcés ces dernières années, avec une dilution progressive de leurs lignes rouges en matière d'IA. Cette volte-face est amère, et souligne une dérive inquiétante.
Sofia Liguori, ingénieure de recherche en IA chez Google DeepMind au Royaume-Uni, a déclaré avoir signé la lettre parce qu'elle estimait que Google n'avait pas abordé avec ses employés les contours d'une politique d'utilisation de l'IA dans le domaine des réseaux classifiés. Le récent déploiement de Gemini, l’agent d’IA de Google, aux trois millions d’employés du Pentagone, n'a fait qu'amplifier les tensions.
La guerre des ia : anthropic contre le pentagone
Le conflit entre Anthropic et le Pentagone illustre parfaitement la bataille pour l'avenir de l'intelligence artificielle. Anthropic s'oppose activement à l'utilisation de sa TechnologieClaude dans les applications militaires, tandis que le Pentagone persiste dans sa volonté d'intégrer l'IA dans ses systèmes de défense. Un affrontement qui cristallise les enjeux éthiques et sécuritaires de cette Technologie.
Il est important de rappeler que Google a déjà posé ses pions en matière de sécurité, en retardant initialement le déploiement de Gemini. Mais la pression exercée par ses employés persiste, et la décision de refuser tout projet classifié représente une ligne rouge clairement franchie. L'avenir de l'IA, et peut-être celui de l'humanité, en dépendent.