Rapport d’information sur les défis de la cyberdéfense (Assemblée nationale, 17 janvier 2024).

Rapport d’information sur les défis de la cyberdéfense (Assemblée nationale, 17 janvier 2024).

par Theatrum Belli – publié le

Theatrum Belli

Theatrum Belli https://theatrum-belli.com/

Faut-il avoir peur de ChatGPT ?

Faut-il avoir peur de ChatGPT ?

 

par Revue Conflits – publié le 10 mai 2023


Trop intelligente pour certains, trop stupide pour d’autres. Révolution ou arnaque ? ChatGPT agite de nombreuses discussions depuis plusieurs mois. Un apport au débat pour comprendre les enjeux de cette technologie.

Par François Jolain. Article original paru sur Contrepoints.

En 1143, le pape Innocent II interdit l’arbalète. L’innovation de l’époque permettait à n’importe qui de tirer comme le meilleur archer : « Avec cette arme perfide, un poltron peut tuer sans risque le plus vaillant homme. »

En 1878, la voiture était jugée inutile et dangereuse. Il fallait la faire précéder d’un piéton agitant un drapeau rouge afin de signaler le danger.

En 1965, le stylo à bille fut enfin autorisé à l’école. On le jugeait auparavant dangereux pour le poignet des élèves, sans parler de la fin des pleins et des déliés qui allaient réduire l’intelligence de l’enfant.

À notre époque, le Bitcoin semble le mal indépassable qui nous conduira vers l’apocalypse.

Mais depuis deux mois, on a trouvé un diable encore plus sournois : ChatGPT.

Que vous souhaitiez une recette de cuisine, un cours sur la physique quantique ou une estimation immobilière, ChatGPT a réponse à tout. Il a su se faire autant de partisans que de détracteurs criant à l’arnaque. Essayons de comprendre où se situe cette innovation dans le progrès technique.

Le progrès suit son cours

L’ingénierie consiste à automatiser le travail.

Que ce soit un travail musculaire avec les moteurs (machine à vapeur de 1780) ; un travail de dextérité avec les automates (Jacquard de 1801) ; ou plus récemment un travail intellectuel avec l’informatique.

Ainsi, l’informatique a déjà remplacé bon nombre d’emplois, tels les assistants, les commerces ou les postiers. ChatGPT continue ce remplacement avec les médecins ou avocats.

Ce que l’on perçoit moins : l’informatique remplace aussi les développeurs. Un logiciel ou un site web demandent beaucoup moins de développeurs qu’il y a 20 ans. Pour beaucoup de cas (blog, site d’entreprise, etc.) on peut même s’en passer.

Là aussi, l’arrivée de ChatGPT ne change donc pas la tendance, les développeurs vont encore une fois se concentrer sur le code plus complexe.

Bref, ChatGPT prolonge le progrès. Un seul humain a déjà la force d’un millier de ses semblables aux manettes d’une grue. Un seul humain peut connaître et réfléchir comme des milliers de ses semblables aux manettes de ChatGPT.

Vouloir un moratoire sur l’IA sera tout aussi utile que les régulations imposées à l’arbalète ou la voiture.

D’ailleurs, certains vont même jusqu’à critiquer ChatGPT. Il ne serait bon qu’à prédire statistiquement les mots d’une phrase. Que vaut cette critique ?

Une vraie révolution

Il est vrai que le « cerveau » de ChatGPT consiste uniquement à prédire la suite des phrases en fonction de ce qu’il a lu auparavant sur internet. Il peut donc paraître éloigné d’une quelconque forme d’intelligence. Ses prouesses ressemblent à des supercheries.

Or, toute révolution technologique est une « supercherie ». Pour imiter la marche, on inventa la roue, une solution parfaitement fonctionnelle pour doter les objets de jambes, et pourtant très éloignée de la marche humaine.

Les lave-vaisselles ne lavent pas comme les humains. Ils sont incapables de distinguer les assiettes dans l’évier, incapables de prendre délicatement l’assiette, incapables de passer l’éponge ou le torchon. On a repensé intégralement le lavage pour finalement obtenir des assiettes propres.

Les premières IA cherchaient à apprendre, comme détecter des objets dans une image ou jouer au jeu de Go. Il fallait des années pour leur faire apprendre une discipline. Et surtout, l’IA restait cantonnée à sa discipline. AlphaGo de Google a battu le champion du monde de Go, mais ne peut même pas décrire les règles d’un jeu d’échecs.

Plusieurs projets ont été lancés à la recherche d’un cerveau numérique pour imiter l’intelligence humaine. Comme le projet européen Human Brain Project. Les avancées dans une intelligence humaine synthétique semblaient tellement tourner en rond que des sommités du domaine comme Yann Le Cun ne prédisaient pas une IA généraliste avant plusieurs décennies.

Puis des entreprises comme OpenIA ont cherché d’autres chemins.

Oui, ChatGPT ne connaît rien, ne réfléchit pas comme le ferait un humain. Il se contente de prédire la suite d’une phrase avec ce qu’il a lu sur internet. Et pourtant, à la fin, il a réponse à tout.

Eh oui, une roue ne se déplace pas comme un humain. Et pourtant, à la fin, elle permet d’avancer.

La force humaine a été décuplée par les roues et les engrenages. L’invention ultime a été le moteur qui permet à un humain de disposer d’autant de force qu’il veut. Les limites pour déplacer des objets sont maintenant déterminées par l’ingénierie (faire de gros moteurs) et l’énergie (alimenter ces gros moteurs).

L’intelligence humaine a été décuplée par le langage et l’écriture. L’invention ultime risque d’être ChatGPT qui permet à un humain de disposer d’autant de cerveau qu’il le souhaite. Les limites pour réfléchir seront maintenant imposées par l’ingénierie (faire des grosses IA) et l’énergie (alimenter ces grosses IA).

ChatGPT marque la première IA généraliste. Nous sommes bien sûr devant une révolution qui marquera le progrès technique.