Jeud'IActu#8 : L’IA est-elle en train d’échapper à ses créateurs ?

Le 22 juillet 2025, Sam Altman, a lancé un avertissement fort devant la Réserve fédérale américaine. Le PDG d’Open AI s’inquiète de l’impact de l’intelligence artificielle sur l’emploi, la sécurité des banques et le manque de régulation. Cela entre dans un contexte ou, quelques semaines plus tôt, il publiait The Gentle Singularity, un texte fondateur sur les dangers d’une IA trop rapide.Quand même les bâtisseurs s’inquiètent de leur propre invention, il est peut-être temps d’écouter.

image représentant Sam Altman prenant la parole en alertant des problématiques liées à l'IA. Créée sur Chat GPT

En s’exprimant publiquement à Washington, le 22 juillet 2025, Sam Altman n’a pas cherché à rassurer. Devant un parterre de décideurs, le patron d’OpenAI a dressé un tableau préoccupant : les centres d’appels, la vente en ligne, et même une partie du diagnostic médical sont déjà « en voie d’automatisation complète ». Il ajoute que l’authentification vocale, utilisée par certaines banques, est devenue vulnérable à des clones vocaux créés par des IA grand public comme ElevenLabs*. « C’est déjà un problème, et ce sera de pire en pire », a-t-il déclaré. Cette prise de parole intervient alors que les entreprises américaines testent de nouveaux protocoles de sécurité pour répondre à ces menaces. Altman a également souligné l’urgence d’encadrer la technologie avant que le marché du travail ne s’effondre sous sa pression. Pour lui, une IA mal régulée n’est pas seulement un défi technique : c’est un risque macroéconomique.

Une vision de l’IA qui séduit… mais qui inquiète

Le 10 juin dernier, Sam Altman publiait sur son blog personnel un texte long et dense : The Gentle Singularity. Dans ce manifeste, il affirme que la singularité* – ce moment où l’IA dépasse les capacités humaines – ne sera pas brutale, mais douce et progressive. Il y projette une IA capable de doubler la productivité scientifique dès 2025, de produire des innovations techniques à partir de 2026, et de s’incarner dans des robots autonomes dès 2027. Mais cette vision ne repose pas uniquement sur la prouesse technique. Elle suppose, selon lui, la mise en place de garde-fous solides : un système de sécurité transparent, des modèles alignés sur des valeurs humaines, et une gouvernance partagée entre États, entreprises et citoyens. Altman insiste sur un point souvent oublié dans les débats : « Si les bénéfices de cette intelligence sont mal répartis, alors la fracture sociale s’aggravera ». Il appelle donc à intégrer dès maintenant les principes de justice économique et de transparence dans les modèles à venir.

Et si les créateurs n’avaient plus le contrôle ?

Au-delà du rêve technologique, ces sorties médiatiques soulèvent une question plus profonde : les pionniers de l’IA ne sont-ils plus en mesure de contrôler ce qu’ils ont eux-mêmes déclenché ? Sam Altman, qui avait déjà quitté brièvement OpenAI en 2023 pour des désaccords stratégiques, semble aujourd’hui déterminé à ralentir la course. Il s’inquiète d’un scénario où la régulation viendrait trop tard, une fois les dégâts causés. Et il n’est pas le seul. Plusieurs chercheurs, dont Yoshua Bengio (cofondateur de l’apprentissage profond*), ont publié des tribunes similaires ces derniers mois, évoquant le risque d’une dérive incontrôlée de l’intelligence artificielle. Pour le philosophe numérique Daniel Leufer, « il est rare qu’une industrie reconnaisse elle-même la nécessité d’une régulation mondiale ». La prise de conscience est là. Mais les moyens pour y répondre restent flous. Pendant ce temps, les grandes entreprises continuent de former des modèles toujours plus puissants, parfois sans consulter les gouvernements. Et c’est bien ce déséquilibre qui commence à inquiéter sérieusement.

Chez Domatec.IA, on vous aide à comprendre ces débats essentiels autour de l’IA, sans surjouer l’alarmisme ni minimiser les faits. Quand les bâtisseurs de cette révolution tirent la sonnette d’alarme, il ne s’agit pas d’avoir peur, mais d’ouvrir les yeux. Rendez-vous jeudi prochain pour un nouveau Jeud’IActu.

Glossaire :

• Singularité : moment où une IA dépasse l’intelligence humaine, entraînant des changements sociaux et technologiques majeurs.

• ElevenLabs : entreprise spécialisée dans la génération vocale par IA. Elle propose des outils permettant de reproduire n’importe quelle voix de façon très réaliste, à partir de courts extraits sonores.

• Apprentissage profond : sous-domaine de l’intelligence artificielle qui utilise des réseaux de neurones artificiels pour apprendre des tâches complexes (reconnaissance vocale, vision, langage…). Il est à la base des grands modèles comme ChatGPT ou Claude.