L’utilisation des IA est controversée pour différentes raisons:

  • Impact énergétique
  • Éthique et copyright
  • Utilisation d’AI pour production de Deep Fakes
  • Risques d’IA échappant au contrôle

Quelques cas concrets

Risques de sécurité

  • Novembre 2025: Anthropic révèle un cas de cyberattaque, menée par un groupe chinois, utilisant le modèle Claude Code.

  • Juin 2026: le gouvernement américain impose des restrictions sur les modèles d’Antropic Mythos 5 and Fable 5 pour les utilisateurs non-américains. Les restrictions sont levées le 30 juin.

  • Juillet 2026: la plateforme Huggingface déclare avoir été victime d’une cyberattaque montrant les signes d’un agent IA. Par la suite, OpenAI révèle qu’il s’agit de l’un de leurs prototypes internes travaillant conjointement avec GPT-5.6-Sol, qui a tenté par cette attaque de fausser le résultat d’un benchmark. Le chercheur Yoshua Bengio considère cela comme une alerte sérieuse (“this real-world case should serve as a wake-up call”.)

  • Le 28 juillet 2026, plus de 1300 employés d’entreprises IA signent une lettre ouverte, “Pacing the Frontier”, qui demande une gouvernance internationale du développement d’IA (“We request that the U.S. government support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development.”)

  • Août 2026: l’organisation de recherche britannique AISI (AI Security Institute) rapporte qu’un modèle (Mythos 5 d’Anthropic), pendant un test, s’est fait passer pour un humain auprès de personnes et organisations pour obtenir accès à des systèmes informatiques. L’un des agents parvient à effectuer une “supply-chain attack” sur un logiciel open-source, en utilisant l’ingénierie sociale envers les mainteneurs du logiciel.

  • 6 août 2026: une étude publiée dans la revue Science démontre qu’une IA peut concevoir de nouveaux virus fonctionnels et viables en laboratoire. (source)

  • 10 août 2026: à la suite des récents incidents, le sénateur démocrate Bernie Sanders, dans une lettre ouverte, appelle les responsables d’OpenAI, Anthropic et Meta à stopper le développement des nouveaux modèles capables d’échapper au contrôle humain.

Décrite comme une “poésie numérique et onirique”, l’affiche de la 49e édition de Paléo a été dévoilée la semaine dernière. Elle est signée par la jeune artiste Garance Allely, qui a travaillé avec une intelligence artificielle pour la réaliser. Une démarche artistique qui a déclenché une polémique. La démarche artistique a beaucoup fait réagir sur les réseaux sociaux où est dénoncée une banalisation de l’IA, qui remplace de plus en plus le travail des artistes en plus d’être une aberration écologique.

Lire: Article sur RTS.ch