La peur de l’IA ne doit pas tuer le progrès : l’avertissement de Bostrom

Temps de lecture : 6 min

Un avertissement qui vient de loin

Concrètement, l’actualité récente autour de l’intelligence artificielle m’a fait tilter sur une interview de Nick Bostrom que j’ai lue dans Le Monde. Ce philosophe suédois, connu pour être le pape du transhumanisme, n’est pas du genre à agiter des peurs gratuites pour faire le buzz. Pourtant, aujourd’hui, ses thèses se retrouvent reprises dans un discours politique catastrophiste. Lui-même le dit : ce qu’il redoute le plus, ce n’est pas la superintelligence en soi, mais « un retour de balancier trop fort contre l’IA ».

Développeur depuis 25 ans, j’ai vu passer des cycles entiers d’engouement puis de rejet technologique — le .com bubble, le mobile first, le JavaScript fatigue, le no-code miracle. Celui-ci est différent parce qu’il touche à notre essence même. L’IA n’est pas un outin comme un autre. Elle interroge notre place dans l’économie, la connaissance et même la réalité. Bostrom met le doigt sur une contradiction : on s’inquiète à la fois d’un scénario Terminator et de perdre son job. Mais on pourrait aussi se priver des bénéfices colossaux en matière de santé, d’énergie ou d’éducation.

L’éthique avant la peur

Je me souviens d’un vieux projet d’automatisation de quiz marketing pour une agence. Le client voulait qu’on remplace une partie du travail de créa par un script un peu bourrin. À l’époque, avec n8n, on a pu monter un workflow en quelques heures. Le résultat était bluffant : le client a économisé 200 heures de travail par mois. Mais il y avait un revers : certains collègues se sont sentis menacés. Cette situation miniature, c’est exactement ce que dénonce Bostrom à grande échelle : l’IA peut doubler la productivité, mais si on la déploie sans filet social ni réflexion éthique, la peur légitime des travailleurs se transforme en rejet violent.

Le philosophe suédois propose une réforme anticipée de nos normes morales et institutions pour encadrer la création de ces esprits artificiels. Ce n’est pas un appel à la lenteur, mais à l’intelligence. En 2024, il estimait que la superintelligence pourrait arriver dans les deux années suivantes. On est en 2026, et rien de cataclysmique ne s’est produit. Pour autant, des systèmes comme Claude ou GPT-5 sont aujourd’hui capables de générer du code, du contenu et des stratégies à une vitesse déconcertante.

Le vrai danger, c’est l’excès inverse

Plus précisément, Bostrom craint que la réaction instinctive des législateurs et du grand public ne devienne trop restrictive. Il a comparé l’avenir potentiel à un « Disneyland sans enfants » – un monde truffé de merveilles technologiques, mais vidé de l’humanité qui les a créées. Cette image m’a marqué. Dans GymLog, mon app de fitness, j’utilise des algorithmes d’IA pour proposer des séances personnalisées. Si on m’avait imposé des contraintes insensées à l’époque, le projet serait mort-né. L’équilibre, c’est de laisser les entrepreneurs et les chercheurs innover, tout en posant des garde-fous clairs.

Bostrom n’est pas le seul à s’exprimer ainsi. Des figures comme Sam Altman ou Yoshua Bengio ont appellé à un cadrage éthique sans paralysie. Mais tandis que certains imaginent le pire scénario (éradication par une IA générale non alignée), d’autres, comme Bostrom, mettent en garde contre un scénario symétrique : une régulation tellement rigide qu’elle tue dans l’œuf les solutions aux grands défis planétaires. Concrètement, je pense aux discussions récentes autour de l’AI Act en Europe – il est bien conçu, mais avec des exceptions qui pourraient être trop restrictives pour la santé ou l’éducation.

L’erreur à ne pas commettre

D’après ce que j’ai lu dans les antitech resistance et les travaux de Bostrom, son vrai souci n’est pas qu’on développe une superintelligence aujourd’hui. C’est qu’on fasse un retour à l’âge de pierre numérique sous prétexte d’éviter un risque. L’exemple qu’il utilise : une civilisation avancée avec une puissance de calcul énorme qui simulerait ses ancêtres pour se divertir. Cela parait tiré par les cheveux, mais ça illustre la façon dont on peut utiliser l’IA pour le divertissement tout en négligeant les enjeux réels.

Je vois ça tous les jours dans mon job d’agence. Un client demande une app pour l’éducation canine, un autre veut automatiser la génération de factures. J’y injecte de l’intelligence (parfois via des APIs OpenAI, parfois du n8n maison). Mais je me demande toujours : quelle est la conséquence sur le métier de l’utilisateur final ? Si je remplace un assistant comptable par un workflow parfait, qu’advient-il de cette personne ? Bostrom nous rappelle qu’on doit répondre à cette question collectivement, pas juste individuellement.

Ma position, en tant que développeur

Moi, je suis à fond dans l’automatisation et l’IA. GymLog, c’est un mariage entre Firebase, des règles métier tordues et un petit réseau de neurones pour calibrer la charge d’entraînement. Mais derrière chaque feature, il y a une réflexion sur le rapport humain-machine. Bostrom me fait penser à un grand frère qui dirait : « Prends le volant, mais regarde la route. »

Pour aller plus loin, l’enjeu sociétal aujourd’hui est de construire des garde-fous qui ne soient pas des cadenas. Des normes partagées qui permettent de développer des IA robustes et alignées sur des valeurs démocratiques, sans verser dans la peur du tout-connecté ou du remplacement total. L’hypothèse de Bostrom d’un « monde tellement avancé qu’il en devient vide » est une allégorie puissante. Elle nous engage à ne pas opposer progrès et humanisme.

Si vous êtes développeur ou entrepreneur, prenez cinq minutes pour lire ce livre (Superintelligence, sorti en 2014 mais tellement actuel). Pas pour en faire un dogme, mais pour étoffer votre vision. L’IA n’est ni démon ni sauveur ; elle est ce qu’on en fait.

À mon avis, Bostrom a raison : dans les prochains mois, il faudra trouver l’équilibre entre la fascination technologique et la peur bien réelle. Le pire serait de foncer tête baissée dans une régulation d’urgence qui bride l’innovation, puis de laisser le champ libre à des régimes plus autoritaires. Le balancier, oui. Mais qu’il reste au centre.

Et vous, comment voyez-vous l’éthique de l’IA aujourd’hui ? On en discute en commentaires.

Photo d’illustration : IA de stock généré par AI