Éditorial du numérique – 4 avril 2023 – Chat-GPT Révolution ou menaces?


Éditorial du numérique – 4 avril 2023 – Chat-GPT Révolution ou menaces?

Article
Accueil Effisyn S.D.S
 
| Effisyn S.D.S | Intelligence Artificielle | Chat-GPT  Vu 37201 fois
Article N°27513

Éditorial du numérique – 4 avril 2023 – Chat-GPT Révolution ou menaces?

Depuis plusieurs jour une nouvelle fois le buzz "chat-gpt" nous assaille. Quelles questions sont soulevées par cette intellignece artificielle générative ? Et surtout la façon dont elle est conçue et entrainée...
Je ne prétends pas avoir de réponse définitive, mais j'essaie dans ce nouvel édito vous apporter quelques pistes de réflexions...
Il est important de réfléchir et de bien voir les inconvénients et danger de l'approche choisie pour en tirer des cas d'usages qui nous apporteront une véritable plus value!
#IAgénérative #protectiondesdonnées #chatgpt #biais

Depuis quelques jours, Chat-GPT est revenu sur le devant de la scène, et suscite de nouveau le buzz. De nombreuses voix dans le numérique français s’élève pour mettre en exergue le « retard » français et/ou européen sur le domaine, clamant que nous passons à côté de la nouvelle révolution technologique. Dans le même temps de nombreuses voix des géants du numérique américain souhaitent une pose dans le développement de ces technologies… Que penser ?

Je me garderais bien de poser des affirmations et des certitudes, cependant j’aimerais poser quelques éléments pour abonder la réflexion sur le sujet.

La France et l’Europe sont-elles en retard ? Oui et non. En effet, il existe de nombreuses start-up françaises dont notamment Lexistems dont j’ai pu recueillir une interview de sa cofondatrice Marie Granier. Au contraire du buzz et des moyens mis par Chat-GPT, on a là des solutions destinées aux entreprises et organisations avec une vraie plus value… Est-ce que ne pas être sur le devant de la scène médiatique signifie que l’on existe pas et que l’on apporte pas des solutions à haute valeur ajoutée ?

Sommes nous à l’aube d’une révolution technologique, encore une fois oui et non… Oui parce que les algorithmes des ces AI génératives ont été améliorées, et la puissance de calcul allouée ne cesse d’augmenter, et des puces (le hardware) de plus en plus performantes et dédiées à ces usages sont développées.

Non, car il s’agit d’améliorations incrémentales, et qu’ils subsistent un certain nombre de questions qui soulèvent des inquiétudes multiples.

Ces technologies d’IA générative reposent sur une brique architecturale : le cloud. Le problème de la maîtrise de cette brique tant au niveau technologique que légal persiste. Notamment sur des sujets comme la sécurité de l’information et de l’utilisation des données personnelles restent un sujet critique et sans réponse réelle et sérieuse. Ceux qui vous dise que l’on doit se consacrer à l’IA sans avoir résolu notre autonomie stratégique sur le cloud ont un aveuglement sélectif !

Ensuite, viennent pour moi des problèmes plus spécifiques au cas d’usage de Chat-GPT. Celui des biais directs, volontaires et ceux indirects liés à sa base d’apprentissage : le web. L’opacité qui entoure le fonctionnement de chat-GPT et de la gestions des biais inévitables posent un vrai problème :

  • renforcement des fausses nouvelles : L’IA génère des contenus basés sur des contenus biaisés qui alimentent le web, qui sert à produire de nouveaux contenus… Biais auto-renforcés…

  • Chat-GPT contrairement à par exemple Lexistems pour l’usage professionnel, ne source pas l’origine de ses contenus. Il pourra vous faire une belle dissertation sans la soutenir par des citations et/ou des ouvrages de référence (en tous les cas à l’heure actuelle).

  • Enfin, mais pas le moins important, il est orienté idéologiquement comme d’autres outils sur internet, ce qui pose un réel problème de risque d’endoctrinement ou de propagande de masse. Ici, il s’agit de Chat-GPT, mais il serait faux de penser qu’on n’ait pas le même problème avec l’IA Chinoise...


 

Pour le moment, ces IA génératives, ne sont pas encore au stade d’une conscience propre, les peurs liées à cet imaginaire ne sont pas encore d’actualité. Cependant il est inquiétant de constater que les créateurs de ces IA maîtrisent de moins en moins le fonctionnement réel de leur création.

Ces éléments ne font que confirmer le constat de Jacques Ellul, nous sommes dans un système technicien qui s’auto-suffit et s’auto-accroit, la place de l’Homme se réduisant à la part congrue d’une pièce interchangeable dans ce monde technique...


Emmanuel MAWET

Lien :https://effisyn-sds.com/2023/04/04/editorial-du-numerique-4-avril-2023/

  • 0
    • j'aime
    • Qui aime ça ? »
  • 0
    • je n'aime pas
    • Qui n'aime pas ça ? »
  •  
 

Réagissez, commentez !

  • Aucun commentaire pour l'instant
rechercher un article, une vidéo...