Derrière la crainte d’une apocalypse provoquée par l’IA, une philosophie potentiellement toxique

Detailed summary

Ceux qui prophétisent la fin du monde à cause de l’IA sont nombreux à avoir été nourris aux mamelles de l’« altruisme efficace », un courant de pensée qui, dans sa version « long-termiste », repose sur l’obsession de sauver l’humanité de demain. Quitte à sacrifier celle d’aujourd’hui.

Une foule compacte pénètre en cette mi-septembre dans l’hôtel Marriott Marquis de Washington, à quelques encablures de la Maison-Blanche. C’est pour suivre la « Pro-Human Assembly » (« assemblée pro-humaine »), des conférences sur les risques liés à l’intelligence artificielle (IA) qu’organise l’ONG Future of Life Institute. Sur scène défilent des invités prestigieux qu’a priori tout oppose : la figure de la gauche américaine Bernie Sanders, l’imprécateur d’extrême droite Steve Bannon, l’acteur Joseph Gordon-Levitt, le prix Nobel d’économie Daron Acemoglu. Ils partagent la même inquiétude : celle d’une future IA hors de contrôle.

La crainte d’une « IA-pocalypse », où une intelligence artificielle terrasserait l’humanité, est, depuis la rentrée, dans toutes les conversations. De façon surprenante, elle est alimentée par les géants de l’IA eux-mêmes. Pourquoi donc ceux qui développent cette technologie sont-ils aussi les plus …

Opening of the article, excerpted from L'Obs. To read the rest, open the article on the publisher's site.