Brève digitale du 10 janvier 2023

Un prototype serait déjà opérationnel. Le robot conversationnel ChatGPT, du fait de ses capacités impressionnantes, puisque capable de répondre à de nombreuses questions, de rédiger des textes courts et longs, des morceaux de codes, pourrait être utilisés à des fins malveillantes. Pour empêcher ces dérives, un chercheur invité par OpenAI, a annoncé en fin d'année dernière, que l'entreprise était en train de développer un moyen d'identifier les textes générés par ChatGPT.
- La génération de contenus malveillants est surveillée de près par OpenAI. Pour prévenir les dérives, un système de "signature invisible", ou de filigrane pourrait être mis en place. Pour Scott Aaronson, le chercheur invité par OpenAI pour travailler sur le sujet, "Nous voulons qu’il soit beaucoup plus difficile de prendre les résultats d’un modèle de langage IA et de les faire passer pour des résultats humains". De plus, " cela pourrait être utile pour empêcher le plagiat académique, évidemment, mais aussi la génération massive de propagande - par exemple, en spammant chaque blog avec des commentaires soutenant l’invasion de l’Ukraine par la Russie, ou encore l’imitation du style d'écriture de quelqu’un afin de l’incriminer".
- La solution ainsi envisagée repose sur une approche cryptographique. Ce dispositif, un filigrane, permettrait de prouver que le document a été rédigé par une IA. Mais cette solution serait assez facile à contourner, avec une simple reformulation et en exploitant correctement le champ sémantique. De plus, ce système, étant situé côté serveur, pourrait ne pas fonctionner pour tous les utilisateurs.
L'autre problème est que si la signature est trop visible et spécifique, cela impacterait la fluidité du discours du modèle, et si elle est trop subtile, cela pourrait laisser une trop grande place au doute. Idéalement, l'empreinte numérique idéale ne devrait pas être discernable par un lecteur humain, et permettrait une détection fiable. Et pour aller plus loin, OpenAI pourrait l'apposer sur d'autres modèles de langage, ce qui place la question de la confiance au centre du débat.
Le web regorge d'opportunités comme celle-ci.
A vous de prendre en main le développement et la pérennité de votre activité, avec Khazad à vos côtés.

A vous de jouer :

2 semaines pour tester Khazad,
la plateforme qui rend le digital simple, efficace, profitable !

Tester Khazad gratuitement