Il y a quelque temps, j’ai découvert une étude intéressante réalisée par des chercheurs de l’Université du Québec sur la sécurité du code généré par ChatGPT, le modèle de langage développé par OpenAI. Vous vous demandez peut-être ce qu’ils ont trouvé ? Eh bien, accrochez-vous, car les résultats sont surprenants !
Les chercheurs ont demandé à ChatGPT de générer 21 programmes et scripts dans différents langages, et seuls cinq d’entre eux étaient sécurisés dès la première tentative. Après avoir insisté pour que ChatGPT corrige ses propres erreurs, ils ont réussi à obtenir sept codes sécurisés de plus.
Une partie du problème semble provenir du fait que ChatGPT ne prend pas en compte un modèle d’exécution de code de type « adversarial« . En d’autres termes, il ne considère pas que le code qu’il génère pourrait être utilisé à des fins malveillantes. De plus, ChatGPT refuse de créer un code offensif, mais créera volontiers un code vulnérable, ce que les auteurs considèrent comme une incohérence éthique.
Les chercheurs ont également constaté qu’une des « réponses » de ChatGPT comme solution miracle aux préoccupations de sécurité était d’avoir uniquement des entrées valides, ce qui n’est pas vraiment réaliste dans le monde réel. De plus, le modèle ne fournit jamais de conseils utiles pour renforcer la sécurité d’un code, sauf si on lui demande précisemment de remédier aux problèmes. Et pour lui demander ça, il faut savoir quelles demandes lui formuler exactement, ce qui veut dire que vous devez vous-même être familier du langage et des vulnérabilités, par avance.
En conclusion de leur étude, les chercheurs pensent que ChatGPT, sous sa forme actuelle, représente un risque et que l’IA est victime du syndrome de Dunning Krüger. Les étudiants et les développeurs doivent être parfaitement conscients que le code généré avec ce type d’outil peut être non sécurisé. De plus, le comportement du modèle est imprévisible, car il peut générer un code sécurisé dans un langage et un code vulnérable dans un autre.
Bref, si vous utilisez ChatGPT ou un autre outil similaire (Github Copilot…etc) pour générer du code, gardez à l’esprit qu’il ne faut pas prendre pour argent comptant que le code fourni est sécurisé. Soyez vigilant et assurez-vous de vérifier et de tester le code pour détecter les éventuelles vulnérabilités. Et n’oubliez pas, comme dit Gaston Lagaffe : « La sécurité avant tout ! »
En tant que lecteur habitué de mon site, vous avez remarqué que depuis quelques mois je parle pas mal d’Intelligence Artificielle. Depuis mes découvertes de ChatGPT ou encore de DALL-E 2 je m’éclate pas mal avec ce genre d’outils ! Je vous ai même partagé une vidéo d’une heure pour vous expliquer comment j’utilise le premier pour me faciliter le quotidien.
Rapide.ly, société suisse, est dans la même lignée et propose une panoplie de services assez complète. Il y a quelques années, l’outil proposait surtout de vous aider à rédiger des contenus adaptés aux réseaux sociaux (gros focus Instagram quand même). Et si l’idée est toujours la même aujourd’hui, grâce à l’ajout d’une couche IA basée sur GPT-3, le champ des possibilités est beaucoup plus vaste. Le corps de métier reste le même, mais la nouvelle technologie permet beaucoup plus de choses grâce notamment aux Large Language Models (LLM). Les LLM sont une façon assez sympa de créer des modèles qui peuvent apprendre et comprendre le langage humain.
Si vous êtes débutant et que toucher à l’Intelligence Artificielle vous semble intimidant, ne paniquez pas 😉 Rapide.ly va vous tenir la main afin de vous permettre d’utiliser cette nouvelle techno sans devoir maitriser le côté technique de la chose. L’interface est pensée en ce sens simple et intuitive.
L’outil vous permet par exemple de :
créer des textes entiers ou des posts pour réseaux sociaux
générer de nouvelles idées pour vos créations
économiser du temps de rédaction
créer de l’engagement autour de vos posts
effectuer des recherches à votre place (nouvelles tendances …)
créer des visuels et utiliser de l’audio (modèles Canva, images Pexels …)
Et tout cela sans que vous ayez besoin de connaitre vos meilleurs prompts sur le bout des doigts !
Pour ceux qui ne le savent pas encore, la promptitude le « prompt » est l’ensemble des différentes informations que vous fournissez à l’IA pour générer sa réponse (exemple de prompts pour MidJourney). Un peu comme lorsque vous effectuez une recherche dans un moteur de recherche classique, mais avec plus de précisions, des termes spécifiques, etc. Je suis sûr que ce sera bientôt une vraie compétence à faire valoir (plus tard tu sera prompteur mon fils).
C’est d’ailleurs un peu le point bloquant pour beaucoup : comment obtenir un résultat vraiment précis lors de sa demande ? Comment personnaliser la réponse à son type d’audience ? Quels mots-clés ou types d’accroches utiliser ? Comment différencier l’angle pour aborder une même problématique ? … avec Rapide.ly vous n’avez pas à vous poser ces questions, il suffit de suivre les instructions de l’interface et de renseigner les champs demandés.
Rapide.ly vous aide donc de A à Z. À partir de plusieurs modèles, il va vous trouver des idées d’articles ou de posts sociaux (stories, citations …), vous rédige le texte, ajoute éventuellement un visuel … et tout cela en quelques secondes à peine. Il ne vous reste alors qu’à vérifier le résultat et peaufiner vos publications si besoin. Vous allez vite voir que le niveau de personnalisation est plutôt sympa et qu’il ne va sans doute faire qu’augmenter dans le futur.
Après ça reste à vous de faire votre sauce. Certains auront besoin de textes complets alors que d’autres ne voudront jamais prendre le risque de publier tels quels un article généré par l’IA (risques SEO, etc.). Et l’outil vous permet justement de l’adapter à vos limites. Il pourra venir en surcouche d’une de vos créations, par exemple pour générer à votre place des posts pour les réseaux sociaux (Facebook, LinkedIn, Twitter, Instagram …), votre newsletter, vos emails marketing, une fiche destinée à vivre « hors ligne », etc. Cela vous fera gagner un temps précieux qui pourra alors être consacré pour créer encore plus de contenu.
Vous trouverez aussi sur le site un outil de planning, qui va vous aider à organiser vos publications, mais aussi à être prévenu des journées spéciales qui arrivent bientôt (journée de Pi le 14 mars, Saint-Patrick le 17 …). Plutôt pratique pour vous donner des idées de contenus et vous organiser. Vous disposez aussi de sections « boite à idées » et « citations » (des dizaines de choix) dans lesquelles piocher si vous n’avez pas l’inspiration. Vous pouvez aussi brainstormer avec l’IA directement.
Un autre petit plus du site c’est de vous proposer régulièrement divers challenges, qui vous aideront à sortir de votre zone de confort et apprendre à mieux utiliser la technologie. Vous recevez des défis par email afin de vous aider à mettre en place votre stratégie, à améliorer l’engagement avec vos abonnés/lecteurs, développer votre audience, etc. Ils ont même une communauté Facebook pour échanger avec d’autres créateurs ou poser vos questions. Bref vous n’êtes pas abandonné à votre sort et il y a une forme de coaching.
D’ailleurs dans le même esprit vous avez le blog et des vidéos régulières qui vont vous permettre de suivre les actus, les mises à jour d’algo, etc. Ainsi que d’obtenir des conseils pour tirer le meilleur de vos réseaux. Il y a un tas de petites astuces à tester et à apprendre, parce que vous savez que c’est toute une chimie ces histoires ^^
Le site propose un essai gratuit (sans besoin de renseigner sa carte de crédit) ainsi que des comptes pro (15€/mois) ou adapté aux équipes (39€/mois). Si vous vous intéressez au retour des utilisateurs, et bien il a déjà un très bon score sur Trustpilot. Aucune raison de ne pas l’essayer !
On ne fait des choses géniales avec l’IA. Tenez, par exemple avec Elicit, un assistant de recherche qui utilise des modèles de langage comme celui de GPT-3 pour automatiser certaines parties du travail des chercheurs.
L’action principale d’Elicit est d’abord d’examiner de la littérature scientifique qu’on trouve en accès libre sur internet. Ainsi, en vous posant une simple question (ou en laissant Elicit les générer pour vous), le site vous montrera des articles scientifiques pertinents avec des résumés des informations clés qu’ils contiennent.
C’est merveilleux ! Ce moteur de recherche propulsé à l’IA peut ainsi trouver des documents pertinents même s’ils ne correspondent pas exactement aux mots clés que vous avez entrés.
Elicit utilise la similarité sémantique, et trouve des articles liés à votre question même s’ils n’utilisent pas les mêmes mots clés. Par exemple, il peut retourner des articles sur la « méditation » même si votre requête ne mentionne que « la pleine conscience ».
Pour chaque résultat de recherche, Elicit lit l’abstract du document et vous pondra un résumé personnalisé qui sera en accord avec votre question. Ça permet d’avoir une meilleure compréhension du sujet pour mieux évaluer la pertinence du document.
Une fois un document spotté, vous pouvez même poser des questions à Elicit qui tentera de vous répondre avec les données présentes dans le document. C’est un peu comme discuter avec un bouquin. Et le plus magique là dedans, c’est que vous pouvez y importer vos propres PDF et ensuite lui poser vos questions pour en sortir l’essentiel. Vraiment pratique !
Elicit est donc un service formidable pour les chercheurs mais également les gens qui sont curieux et qui aiment gratouiller un peu la littérature scientifique sans forcement tout capter. Avec ses fonctionnalités avancées de recherche, de filtrage et d’organisation des documents, on peut comme ça trouver plus rapidement l’information qu’on cherche.
Join us for this week's Practical 365 Podcast, where we talk AI, the Death of Yammer, Exchange Security issues, and long-awaited features that are coming soon to teams!
Connexion
