Sam Altman sait-il ce qu'il crée ?

La quête ambitieuse, ingénieuse et terrifiante du PDG d'OpenAI pour créer une nouvelle forme d'intelligence

Écoutez cet article

00:00

1:16:18

Écoutez plus d'histoires sur Curio

Un lundi matin d'avril, Sam Altman était assis au siège d'OpenAI à San Francisco, me parlant d'une dangereuse intelligence artificielle que son entreprise avait construite mais ne publierait jamais. Ses employés, a-t-il déclaré plus tard, perdent souvent le sommeil en s'inquiétant des IA qu'ils pourraient un jour libérer sans pleinement apprécier leurs dangers. Avec son talon posé sur le bord de son fauteuil pivotant, il avait l'air détendu. La puissante IA lancée par sa société en novembre a captivé l'imagination du monde comme jamais auparavant dans l'histoire récente de la technologie. Certains se plaignaient des choses que ChatGPT ne pouvait pas encore faire, et d'autres se plaignaient de l'avenir que cela pourrait laisser présager, mais Altman ne s'en souciait pas ; ce fut pour lui un moment de triomphe.

Découvrez-en davantage sur ce numéro et trouvez votre prochaine histoire à lire.

À petites doses, les grands yeux bleus d'Altman émettent un rayon d'attention intellectuelle sincère, et il semble comprendre qu'à fortes doses, leur intensité peut être déstabilisante. Dans ce cas, il était prêt à prendre le risque : il voulait que je sache que quels que soient les risques ultimes de l'IA, il n'avait aucun regret d'avoir laissé ChatGPT se déchaîner dans le monde. Au contraire, il estime qu'il s'agit d'un grand service public.

« Nous aurions pu partir et construire ceci dans notre immeuble ici pendant cinq ans de plus », a-t-il déclaré, « et nous aurions eu quelque chose d'époustouflant. » Mais l’opinion publique n’aurait pas pu se préparer à l’onde de choc qui a suivi, une issue qu’il trouve « profondément désagréable à imaginer ». Altman estime que les gens ont besoin de temps pour prendre en compte l’idée que nous pourrions bientôt partager la Terre avec une nouvelle intelligence puissante, avant qu’elle ne renouvelle tout, du travail aux relations humaines. ChatGPT était un moyen de signifier un préavis.

En 2015, Altman, Elon Musk et plusieurs chercheurs éminents en IA ont fondé OpenAI parce qu’ils pensaient qu’une intelligence artificielle générale – quelque chose d’aussi intellectuellement capable, disons, qu’un diplômé universitaire typique – était enfin à portée de main. Ils voulaient l’atteindre, et plus encore : ils voulaient invoquer une superintelligence dans le monde, un intellect résolument supérieur à celui de n’importe quel humain. Et alors qu’une grande entreprise technologique pourrait se précipiter imprudemment pour y arriver en premier, pour ses propres fins, elle voulait le faire en toute sécurité, « pour le bénéfice de l’humanité dans son ensemble ». Ils ont structuré OpenAI comme une organisation à but non lucratif, pour qu’elle ne soit « pas contrainte par le besoin de générer un retour financier », et se sont engagés à mener leurs recherches de manière transparente. Il n’y aurait pas de retraite dans un laboratoire top secret dans le désert du Nouveau-Mexique.

Cet article a été présenté dans One Story to Read Today, un bulletin d'information dans lequel nos rédacteurs recommandent une seule lecture incontournable de The Atlantic, du lundi au vendredi. Inscrivez-vous ici.

Pendant des années, le public n’a pas beaucoup entendu parler d’OpenAI. Lorsqu’Altman est devenu PDG en 2019, apparemment après une lutte de pouvoir avec Musk, ce n’était qu’une histoire. OpenAI a publié des articles, dont un la même année sur une nouvelle IA. Cela a retenu toute l'attention de la communauté technologique de la Silicon Valley, mais le potentiel de la technologie n'était apparent au grand public que l'année dernière, lorsque les gens ont commencé à jouer avec ChatGPT.

Le moteur qui alimente désormais ChatGPT s'appelle GPT-4. Altman me l'a décrit comme une intelligence extraterrestre. Beaucoup ont ressenti à peu près la même chose en le regardant dérouler des essais lucides en rafales staccato et en courtes pauses qui (de par leur conception) évoquent une contemplation en temps réel. Au cours de ses quelques mois d'existence, elle a proposé de nouvelles recettes de cocktails, selon sa propre théorie des combinaisons de saveurs ; rédigé un nombre incalculable de documents universitaires, plongeant les éducateurs dans le désespoir ; écrit des poèmes dans des styles variés, parfois bien, toujours rapidement ; et réussi l'examen uniforme du barreau. Il commet des erreurs factuelles, mais il admettra avec charme qu’il a tort. Altman se souvient encore de l'endroit où il se trouvait la première fois qu'il a vu GPT-4 écrire du code informatique complexe, une capacité pour laquelle il n'a pas été explicitement conçu. « C'était comme : « Nous y sommes » », a-t-il déclaré.