ChatGPT : c’est quoi et peut-on l’utiliser en toute sécurité ?

L’intelligence artificielle (IA) relève-t-elle du rêve ou du cauchemar ? À en croire les films, elle a le potentiel de prendre le contrôle du monde, ce qui n’est pas si éloigné de la réalité lorsqu’on observe la réaction virale suscitée par ChatGPT.

Au cours de ses cinq premiers jours, le nouveau venu dans l’univers de l’IA a attiré un million d’utilisateurs, dépassant la barre des 100 millions en seulement trois mois. Mais à quoi doit-il donc sa popularité ? Et plus important encore, ChatGPT est-il sûr, surtout pour les enfants ? Ou est-il aussi dangereux que l’IA telle qu’elle est dépeinte dans les films ? Regardons de plus près cet outil, son fonctionnement et la manière d’en discuter avec vos enfants.

ChatGPT, c’est quoi ?

ChatGPT est un chatbot (également appelé « robot conversationnel »), développé et créé par OpenAI, un laboratoire de recherche dédié à l’IA. Ce système a été conçu et entraîné pour simuler des réponses humaines dans le cadre d’une conversation où les internautes peuvent lui adresser des requêtes ou des questions.

Rapidement devenu un phénomène viral dès son lancement en novembre 2022, ChatGPT montre une capacité impressionnante à donner des réponses détaillées et faciles à comprendre avec un style relativement naturel.

Comment ChatGPT fonctionne-t-il ?

ChatGPT est un bot utilisant l’IA et entraîné à l’aide d’un corpus considérable de sites Web, de livres, d’articles et de bien d’autres textes, qui lui permettent de comprendre et copier les schémas du langage humain. Bref, il se comporte comme un générateur de texte capable d’utiliser ses connaissances pour donner une réponse qui pourrait tout aussi bien être celle d’une vraie personne.

À quoi ChatGPT peut-il servir ?

Grâce à son langage « naturel », ChatGPT peut remplir tout type de tâche et d’objectif, notamment : 

•       répondre à des questions
•       traduire une langue
•       produire un texte, tel qu’un article, une histoire ou un poème
•       résumer des informations
•       écrire du code
•       effectuer des recherches
•       formuler des recommandations

ChatGPT est-il sûr ?

Sur le plan technique, ChatGPT crypte toute donnée saisie par ses utilisateurs. Par ailleurs, le modèle lui-même est hébergé sur des serveurs sécurisés, dont l’accès est restreint. Cependant, gardez une chose à l’esprit : si c’est gratuit, c’est vous le produit. Tout renseignement que vous indiquez à ChatGPT – ou à d’autres services en ligne gratuits – n’est donc plus sous votre contrôle. L’entreprise derrière lui y a accès et peut s’en servir.

Si vous ou vos enfants utilisez ChatGPT, assurez-vous donc de ne pas fournir de données personnelles dans vos questions.

De plus, cet outil soulève des inquiétudes quant à la manière dont certains individus pourraient choisir d’interagir avec lui et à la fiabilité des informations qu’il fournit : 

• ChatGPT est susceptible de servir à des hackers ou des escrocs, entre autres pour créer des e-mails soi-disant de la part d’un proche ou avec la mise en page d’une entreprise spécifique, dans le but de demander des données personnelles (hameçonnage).
• Par ailleurs, ses réponses sont parfois erronées ou trompeuses, notamment sur des sujets liés à la santé. Les renseignements fournis par ce bot doivent donc être abordés avec un adulte et/ou vérifiés auprès d’une source fiable.

Où ChatGPT puise-t-il ses informations ?

ChatGPT a été entraîné avec un large corpus de textes aux sources diverses, parmi lesquels des livres et des articles en ligne. Par conséquent, il peut facilement produire un texte en apparence précis et crédible qui n’est pourtant ni l’un ni l’autre. Même les chercheurs d’OpenAI ont déclaré que ChatGPT ou des outils similaires pouvaient contribuer à répondre à « un agenda politique particulier et/ou un désir de semer le chaos ou la confusion ».

Pourquoi ChatGPT a-t-il été interdit dans certaines écoles ?

Des écoles et des circonscriptions scolaires aux États-Unis, en Australie et en Inde ont interdit l’utilisation de ChatGPT, car elles craignent qu’il puisse encourager les élèves à tricher et qu’il les prive de leur esprit critique ou de la capacité à réfléchir par eux-mêmes. D’autres ont peur qu’il donne lieu à une augmentation du plagiat, car les élèves copient ses réponses.

Pourtant, un certain nombre de spécialistes en technologie soutiennent que ChatGPT pourrait représenter une nouvelle opportunité en matière d’apprentissage. Il offrirait aux élèves un moyen interactif et intéressant de pratiquer leurs acquis et favoriserait une approche personnalisée, adaptée au style de chacune et chacun pour une meilleure compréhension. 

Loin de vouloir interdire cet outil, des organisations telles que le Baccalauréat International ont, quant à elles, déclaré que leurs élèves seraient autorisés à citer du contenu produit par ChatGPT, le traitant comme toute autre source ou idée trouvée sur Internet.

« L’intelligence recherche toujours la solution la plus simple. Les enfants vont utiliser de nouveaux outils comme ChatGPT pour faire leurs devoirs, que cela nous plaise ou non, donc il est important de leur montrer quand l’IA est appropriée et quand elle ne l’est pas. Ce type d’intelligence entraîne une révolution dans les salles de classe. L’avenir de l’éducation ne consistera pas à écrire des rédactions et à mémoriser des faits. Ce n’est que le début. »

Eduardo Cruz, fondateur et directeur général de Qustodio

Parler à vos enfants de ChatGPT

Comme dans le cas de tout produit basé sur l’IA, les enfants et les adultes profiteront au mieux d’outils tels que ChatGPT en montrant des attentes raisonnables et en faisant preuve de précaution. Ce type de technologie représente l’avenir, donc les jeunes doivent comprendre ses avantages et ses inconvénients, savoir comment vérifier les informations fournies par ChatGPT et être en mesure de déterminer si ses réponses sont biaisées ou imprécises.

Si vous avez peur de la manière dont vos enfants pourraient interagir avec ChatGPT, proposez-leur d’effectuer quelques essais et de discuter de ses réponses avec vous. Vous pouvez leur montrer les éléments positifs ou négatifs des résultats obtenus, en évaluant notamment ces éléments :

•       créativité
•       véracité et niveau de précision
•       pertinence
•       style

 Compte tenu de la viralité de ChatGPT, il est peine perdue d’espérer que les enfants n’en entendent pas parler et ne le testent jamais. Les technologies fondées sur l’IA font désormais partie de notre quotidien, donc si les enfants souhaitent les utiliser, il vaut mieux les encourager à le faire avec prudence, pour qu’ils comprennent quand s’en servir ou non.