Sam Altman d'OpenAI soutient les lignes rouges du Pentagone d'Anthropic et propose des garde-fous techniques.

Limites éthiques alignées sur OpenAI dans l'IA de défense

Sam Altman, PDG d'OpenAI, a publiquement soutenu la position d'Anthropic dans son désaccord en cours avec le Pentagone, déclarant qu'OpenAI partage les mêmes "lignes rouges" éthiques concernant les applications de l'IA. Plus précisément, les deux entreprises s'opposent à l'utilisation de l'IA pour la surveillance de masse et les systèmes d'armes autonomes.

Garanties techniques plutôt qu'approches contractuelles

Pour résoudre l'impasse avec le Département de la Défense, OpenAI travaille sur un accord qui met l'accent sur des garanties techniques plutôt que sur des restrictions contractuelles. L'approche proposée inclut des mesures comme le déploiement exclusivement dans le cloud, ce qui maintiendrait le contrôle sur les systèmes d'IA grâce à des limitations d'infrastructure plutôt qu'à des accords juridiques.

Cette approche technique de la gouvernance de l'IA reflète une tendance croissante dans l'industrie où les entreprises mettent en œuvre des contraintes architecturales pour faire respecter les limites éthiques. Le déploiement exclusivement dans le cloud, par exemple, empêche l'exécution locale des modèles qui pourrait être modifiée pour des usages interdits, tout en conservant des pistes d'audit et une surveillance de l'utilisation via une infrastructure centralisée.

L'intérêt croissant du Pentagone pour les capacités de l'IA dans les applications de défense a créé des tensions avec les entreprises d'IA qui ont établi des lignes directrices éthiques. Cette situation met en lumière les défis pratiques de la mise en œuvre de politiques d'IA responsables lorsqu'il s'agit de contrats gouvernementaux pouvant avoir un potentiel à double usage.