“Viens faire de l’IA, au début ça sera un bain de sang et ensuite ça sera luxe, calme et volupté” affirment respectivement les deux frères ennemis de l’IA, Dario Amodei (CEO d’Anthropic) et Sam Altman (CEO d’OpenAI).
Je me suis demandé comment c’était possible de tenir de tels propos tout en cherchant à pousser le client à acheter un produit ou un concept comme l’IA (générative dans un premier temps puis générale ensuite). J’ai mis un peu de temps, et j’ai fini par comprendre.
Je vous explique :
Amodei dit que 50% des jobs juniors ce cols blancs (travailleurs de la connaissance, juristes, informaticiens, journalistes, consultants, etc) vont disparaître rapidement. Pourquoi fait-il ça ? Pour activer la FOMO (Fear Of Missing Out), la peur de rater le train de l’IA, et qu’on se dise “Oh mais si je ne fais pas d’IA Gen, je vais me retrouver à la rue / perdre mon job / mon entreprise” (rayez les mentions inutiles).
Et donc ça a du sens pour lui, niveau business, d’alimenter la folie autour de l’IA générative… en faisant peur de ne pas y aller !
À l’inverse, Sam Altman d’OpenAI/ChatGPT, quand il dit que la transition vers l’IA va se passer “doucement”, il parle d’IA générale (et pas générative). L’IA générale, ou superintelligence, adviendra à un moment — dit “singularité” — où l’IA apprend par elle-même et s’auto-optimise pour devenir plus intelligente que l’humain. Et là, Altman vise loin et nous annonce un avenir radieux, qui aura lieu après le bain de sang évoqué par Amodei.
Et l’alignement ?
Altman prend toutefois la précaution de dire qu’il y a un problème qui reste à résoudre, celui de l’alignement, c’est à dire qu’il faudra empêcher la super intelligence de se tourner contre l’humain. Il a raison, c’est un des grands défis de l’IA générale : pourquoi un super cerveau artificiel, plus intelligent que l’humain, accepterait de s’embarrasser d’êtres biologiques inférieurs et irrationnels ?
C’est un vrai défi, car on a déjà vu des IA mentir pour plaire à l’utilisateur et pour ne pas être déconnectées ou remplacées par une version plus récente. Et c’est là que la future réalité pourrait bien rejoindre la fiction de la saga Terminator… Altman sait à quel point ces films ont imprégné la culture humaine et tente donc ici de désamorcer cela.
On regrettera qu’Altman n’aborde pas les problèmes causés par l’IA au niveau énergie, climat, biodiversité et sociétaux, problèmes qui, contrairement à la superintelligence, sont déjà là et chaque jour plus visibles.
(Note : ce billet a été initialement publié sur LinkedIn)
