Nous en avions un peu parler mais le phénomène est aujourd'hui bien identifié : semer des contenus biaisés sur le web pour alimenter les modèles de LLM. ⬇️
Entrepreneur & Architecte Cybersécurité | Je vous évite de payer une cybersécurité construite sur la peur ou les rêves | Fana de discuter busines et technologie | ...également CISSP
Empoisonnement par inondation... 🙄 Nous avons discuté les semaines précédentes des problématiques de sécurité pouvant affecter l'IA. Un des premiers principes évoqué : la qualité des données. Pour des données de piètre qualité en entrée, inutile d'espérer que votre modèle fonctionne bien ensuite ! 😇 💡 Ce cas particulier rencontre un écho dans l'actualité puisque plusieurs acteurs de la désinformation ont ainsi fait état de comportements inattendus de plusieurs modèles démontrant que la propagande russe avait été ingérée...et digérée. Ainsi, le réseau Pravda, déjà largement documenté par VIGINUM dans son étude "PortalKombat" a refait parler de lui. ✅ Plusieurs articles du Digital Forensic Research Lab (DFRLab) et de NewsGuard exposent ainsi les résultats de leurs analyses : parmi les 10 chatbots les plus communs, utilisés et proposés par les leaders du marché, jusqu'à 33% des réponses reprenaient de la propagande russe ! 🚨 Seulement dans la moitié des cas environs, un debunk était proposé ! Pour paraphraser, il va donc devenir nécessaire de "multiplier [les chatsbots] pour mieux régner [sur votre information]". Cette stratégie semble parfaitement volontaire et assumée et s'appuie en particulier sur le fait que l'entraînement des LLM a notamment été basé sur l'exploitation extensive des données en ligne (avec peu de considération pour le copyrigt mais bon, autre histoire) Dans une perspective plus pratique, cette information doit amener tous les praticiens et professionnel à re-considérer sérieusement l'architecture de vos systèmes basés sur l'IA. Pour une actualité toujours plus précise sur ces questions, je vous invite également à suivre le collectif M82 project qui fournit un excellent travail pour rendre accessible ces informations La Tech et la Cyber sont indissociables de la Stratégie : si cela vous intéresse, bah restez dans le coin :) Et si vous vous posez des questions que vous avez besoin d'aide, contactez-moi :) #ia #propaganda #llm #disinformation