Post de ANSSI - Agence nationale de la sécurité des systèmes d'information

Les guides de l'Agence Nationale de la Sécurité des Systèmes d'information(ANSSI) sont toujours d'excellentes qualité. En voici un bon exemple, un document complet, mais pas barbant (enfin pour un professionnel de l'informatique 😉)

✨Guide de l’ANSSI - Agence nationale de la sécurité des systèmes d'information sur la sécurité des systèmes d’IA générative ✨ « En complément des menaces classiques inhérentes à tout système d’information, un système d’IA générative peut-être soumis à des attaques spécifiques visant par exemple à perturber le bon fonctionnement de celui-ci (attaques diverses) ou bien exfiltrer des données traitées par celui-ci. » - Guide de l’ANSSI 📆Le 29 avril, l’ANSSI a publié son premier guide de recommandations de sécurité pour un système d’IA Générative. Ce guide est à destination des développeurs, des administrateurs, des RSSI, des DSI mais aussi des utilisateurs. 📝Le guide contient 30 pages et s’articule en cinq parties : 1° Le contexte 2° La synthèse 3° La description d’un système d’IA générative 4° Les scénarios d’attaques sur l’IA générative 5° Les recommandations ✍🏼En tout, il énonce 35 recommandations se décomposant en plusieurs points : - Les recommandations générales - Les recommandations pour la phase d’entraînement  - Les recommandations pour la phase de déploiement  - Les recommandations pour la phase de production - Le cas particulier de la génération de code source assistée par l’IA - Le cas particulier de services d’IA grand public exposés sur Internet - Le cas particulier d l’utilisation de solutions d’IA génératives tierces 🔗Pour télécharger le guide : https://lnkd.in/eacuR9-F ⬇️Le guide ci-dessous⬇️

#VendrediLecture | 🤖 L'ANSSI a publié un guide sur les recommandations de sécurité pour un système d’#IA générative.   🎯 Ce document vise à sensibiliser les administrations et entreprises aux risques liés à l’IA générative ainsi qu'à promouvoir les bonnes pratiques dans la mise en œuvre de ce type de système.   Découvrez sa version EN : 🔗 https://lnkd.in/e3MQ4FAv   (Re)découvrez la version FR : 🔗 https://lnkd.in/gVM9FXXB

L’ANSSI publie ses recommandations pour la sécurisation des architectures de systèmes d’IA générative.

L'ANSSI se prononce enfin sur les recommandations de sécurité à suivre pour les systèmes d'IA Générative 🧐 . #cybersécurité #ANSSI #SystèmesdIA #RecommandationsSécurité

A tous les RSSI qui ont du mal à s’endormir le soir en pensant aux risques introduits par la genAI, à l’occasion de la publication en anglais, je conseille de lire ou relire ce document de l’ANSSI qui donne une bonne vue d’ensemble sur le sujet, des scenarios de risques mais aussi des pistes pour les mitiger, des propositions d’archis. Bref c’est toujours un super livre de chevet pour retrouver le sommeil! 🥰

Un guide clef de l'ANSSI - Agence nationale de la sécurité des systèmes d'information, sur les technologies d'IA générative à ne pas éclipser lors du développements de vos projets. Attention, l'usage d'outils tierces très performants est souvent tentant, surtout quand les bonnes pratiques ne sont pas déclinées dans l'entreprise, mais pas sans risque vis-à-vis de la fuite de vos données et de leurs usages. Si les recommandations de l'ANSSI sont valides sur différents types de datas, il serait intéressant de décliner ce guide sur les métiers de la vidéo et du son, et notamment en portant une attention particulière au risque d'infection ou d'injection de deepfakes durant la phase d'apprentissage.

Pour celles et ceux qui souhaitent s'engager dans l'IA générative, je vous invite à consacrer un moment à la lecture de ce guide de l'ANSSI. Il présente des recommandations essentielles à la mise en œuvre et l'utilisation d'un sys. d'IA générative. Parmi les recommandations pertinentes, je retiendrai entre autre : " - Cartographier l’ensemble des éléments en lien avec le modèle d’IA : bibliothèques tierces, sources de données, applications interconnectées, etc. ; - Cartographier l’ensemble des bibliothèques et modules externes utilisés dans le cadre du projet et d’évaluer leur niveau de confiance. - Cartographier l’ensemble des sources de données externes utilisées dans le cadre du projet et d’évaluer leur niveau de confiance " Ces recommandations portent sur la bonne gestion de la connaissance du système, de ses composants, des données utilisées/restituées, ainsi que de l'écosystème. L'architecte d'entreprise, le cartographe SI sont des acteurs clés pour mettre en œuvre ces recommandations et contribuer à la réussite du projet. Bonne lecture, merci l'#ANSSI ! 😉 #IAGenerative #ANSSI #Architecture #Cartographie #Data #IAGen

Documentation très instructive qui met en avant les risques pour les 3 environnements (Entrainement, Déploiement, Production). 35 recommandations, une première étape pragmatique

Il est primordial d'utiliser les outils de la bonne façon, imaginons planter un clou avec une masse plutôt qu'un marteau 🔨. Ça fait mal ! L'IA doit être considérée comme un outil et non une baguette magique. Par contre, partager des secrets d'entreprise avec l'IA peut entraîner la fuite de données privées et par la suite les retrouver dans des réponses de prompt de d'autres utilisateurs. Pour exemple, des employés de Samsung ont involontairement divulgué des données sur une IA entraînant la fuite de données propriétaires. Il faut donc apprendre en tant qu'utilisateur à bien utiliser ces outils même si des moyens de protection ont été intégrés.