I gestionali documentali che usano l’AI: attenzione alla sicurezza

Ormai nelle multinazionali e nelle aziende più strutturate non è raro trovare gestionali documentali che utilizzano l’intelligenza artificiale.

Abbiamo quindi di fronte dei gestionali in cui è stata messa tutta la documentazione della fabbrica: le procedure, i manuali, le bolle, i DDT…

Questi documenti vengono depositati su un archivio di quel gestionale, archivio che di solito è localizzato in Italia. Quegli stessi contenuti vengono poi “riversati” su un motore di intelligenza artificiale. Ce ne sono vari: OpenAI, Gemini, Watson…

Il motore di AI aiuta a restituire dei risultati a seconda delle ricerche – query - che vengono inserite nel manuale. In pratica abbiamo un operatore, un manutentore o un RSPP che fa una domanda al software (magari quello che ha sempre usato dov’è stato però caricato il plugin dell’intelligenza artificiale).

Le domande possono essere diverse, a seconda del contesto e dell’esigenza, ad esempio:

·  Come faccio ad aggiustare quella valvola in particolare?

·  Come faccio ad entrare in quel macchinario?

·  Il DDT corrisponde all’ordine?

Come vedi, alcune di queste domande riguardano l’ambito della sicurezza, ed è proprio su queste che vorrei concentrarmi.

Prendiamo l’esempio del manutentore che vuole sostituire una valvola. Se il software è fatto bene, il nostro uomo può chiedere al software come fare tramite comando scritto o comando vocale.

Cosa succede a questo punto?

Il motore di ricerca AI funziona per “ambiente semantico”. Detto in parole povere, non andrà semplicemente a cercare i documenti che contengono la parola valvola, ma troverà tutti i documenti che usano parole collegate a valvola dal punto di vista del significato, e li restituisce come anteprime di testo già nella lingua dell’operatore.

Qui arriviamo alla parte fondamentale: queste anteprime sono come dati grezzi, materiale in lavorazione. Non sono il prodotto finito, sono materie prime!

In altre parole, i dati che fornisce l’AI potrebbero essere sbagliati!

Come si fa, allora? Beh, se il gestionale è fatto bene dovrebbe fornire anche i link alle fonti, che saranno ovviamente in lingua originale.

Ne deduciamo che la persona che fa l’interrogazione deve avere tutte le competenze per poter comprendere e validare la fonte da cui l’IA ha tratto l’informazione. Se, ad esempio, l’operaio che pone la domanda è cingalese e non parla italiano, e il software gestionale fornisce i risultati e le fonti solo in italiano e francese, per dire, non possiamo certo dire che l’operaio ha le competenze per verificare la fonte e scegliere come procedere!

Insomma, i gestionali documentali arricchiti con l’IA hanno diversi vantaggi:

·  Facilità di accesso alle informazioni;

·  Maggiore semplicità di comprensione (per via della traduzione)

·  Messa a disposizione costante di tutti i manuali e le procedure

Detto questo, bisogna sapere che i risultati non sono sempre giusti, che c’è una possibilità di errore – che, secondo le software house con cui ho parlato io, si aggira tra il 15 e il 18%. Sì, questo vuol dire che più dell’80% delle volte l’IA non sbaglia, ma gli errori ci sono.

Dobbiamo sempre ricordare che l’AI “sta imparando” il mestiere. Per ora, averci a che fare è come mettersi in relazione con un bimbo di 6 anni. Agiamo di conseguenza, controllando quello che fa!

 Per approfondire questo argomento, leggi questo articolo:

https://www.certificazionece.it/2024/10/15/chatbot-e-intelligenza-artificiale-per-assistenza-tecnica-macchinari-industriali/