Regolamento (UE) 2024/1689 — AI Act — NexusVisite

La risposta in breve

Perché il software base è fuori

L'art. 3(1) definisce un sistema di IA come un sistema che deduce (infers) dagli input come generare output. È questo verbo che separa un programma da un sistema di IA. NexusVisite, senza l'assistente, non deduce niente:

• Nessuna libreria di IA o di apprendimento automatico. Le sedici dipendenze sono un server web, un traduttore verso il database e un lettore di file Excel. Verificabile in backend/requirements.txt
• Nessun modello, nessun peso, nessun addestramento
• Ogni numero è un conteggio SQL. «Chi ha lavorato» somma righe; «da riprendere» confronta date. Sono le stesse operazioni di un foglio di calcolo
• Nessuna decisione automatizzata e nessuna profilazione: nessun punteggio, nessuna classificazione, nessun suggerimento generato

⚠️ Un'osservazione che va fatta, perché è la più vicina al confine. Il cruscotto misura l'attività dei lavoratori — quante visite, quanto tempo dall'ultima. Se lo facesse un sistema di IA, ricadrebbe nell'allegato III, punto 4, fra i sistemi ad alto rischio per la gestione dei lavoratori. Non ci ricade perché non c'è nessuna IA: contare le visite di una persona è aritmetica, non inferenza. Ma il confine è quello, e conviene saperlo — vedi «cosa cambierebbe» in fondo.

L'assistente: perché è dentro, e perché a rischio minimo

Se il titolare collega un account, il software usa un modello di terze parti. In quel momento il titolare diventa deployer (art. 3(4)) di un sistema di IA, e D&J un fornitore a valle che lo integra.

Non è ad alto rischio

L'allegato III elenca gli usi ad alto rischio. L'assistente non rientra in nessuno, e in particolare non nel punto 4 (lavoratori):

• non valuta persone: mette in colonne un testo su aziende
• non decide su assunzioni, promozioni, assegnazioni o cessazioni
• non assegna compiti: le proposte vanno a chi le ha chieste, che decide
• non monitora né valuta il rendimento di nessuno

Non è fra le pratiche vietate

L'art. 5 vieta manipolazione subliminale, punteggio sociale, polizia predittiva, riconoscimento delle emozioni sul luogo di lavoro, categorizzazione biometrica. L'assistente non fa nulla di tutto questo: legge un testo e restituisce righe.

Trasparenza (art. 50): assolta e superata

L'obbligo scatta per i sistemi che interagiscono con le persone fisiche. Qui la persona sa di usare un assistente: la funzione si chiama così, sta in una pagina sua, e prima di poterla usare legge cosa esce dal software — il testo incollato, o la descrizione di cosa sta cercando.

⚠️ L'unico obbligo che si applica davvero: l'art. 4

In vigore dal 2 febbraio 2025. Fornitori e deployer devono garantire un livello sufficiente di alfabetizzazione delle persone che usano il sistema. Non serve un corso: serve che chi lo usa sappia cosa fa e cosa non fa. Il software lo dice a schermo, prima dell'uso, e il manuale ha una sezione dedicata. Il contenuto di quell'avviso è la misura di conformità all'art. 4:

Quando cerca, naviga davvero. Un modello a cui si chiede «trova dieci aziende a Brescia» senza cercare ne produce dieci plausibili e inventate. Per questo ogni azienda deve portare l'indirizzo della pagina da cui viene: chi non ce l'ha viene scartato. E che una pagina esista non vuol dire che sia aggiornata — il software garantisce la tracciabilità, non la verità.

⚠️ Questo avviso è cambiato il 6 settembre 2026, quando è stata aggiunta la ricerca sul web. Prima diceva l'esatto contrario — «non naviga in internet» — ed era vero. Un avviso che resta identico mentre il software cambia è peggio di nessun avviso: chi lo legge si fida di una garanzia che non c'è più.

La garanzia tecnica dietro l'avviso

Un avviso che non è sostenuto dal codice è un disclaimer. Qui è sostenuto — e le garanzie sono due, perché le due funzioni corrono rischi diversi.

Quando legge un testo incollato

• Le istruzioni al modello vietano di aggiungere qualunque cosa e impongono di lasciare vuoto ciò che non è nel testo.
• Ma dirglielo non basta, e il codice non si fida: _ripulisci_proposte scarta i campi non richiesti, le righe senza ragione sociale e tutto ciò che non è una stringa.

Quando cerca sul web

⚠️ Qui la vecchia garanzia non vale più, e va detto apertamente. Finché il modello non navigava, la sicurezza stava nel fatto che non poteva aggiungere niente: tutto era già nel testo. Adesso naviga, e quella frase sarebbe falsa. La garanzia che la sostituisce è di natura diversa — non «non può inventare», ma «ciò che non è tracciabile non entra»:

• Ogni azienda deve portare l'indirizzo della pagina da cui viene. _ripulisci_trovate scarta chi non ce l'ha. Non la segnala: la butta. Una riga marcata «da verificare» entra lo stesso, e nessuno rilegge le righe marcate.
• Non basta una stringa qualunque nel campo fonte: _fonte_valida pretende un indirizzo che una persona possa aprire. «Sito ufficiale dell'azienda» non è una prova.
• ⚠️ Se vengono scartate tutte, il software lo dice. È il caso che conta: significa quasi sempre che il modello non ha cercato affatto. Se uscisse «nessun risultato», chi cerca concluderebbe che quelle aziende non esistono — invece è lo strumento a non funzionare.
• La ricerca viene chiesta esplicitamente al fornitore, e una prova controlla il corpo della richiesta HTTP, non solo il nostro codice. ⚠️ Su OpenAI lo strumento di ricerca funziona solo su /v1/responses: su /v1/chat/completions viene ignorato in silenzio e la risposta arriva lo stesso, verosimile e scritta a memoria.

Per entrambe

• ⚠️ I campi che identificano — partita IVA, codice fiscale, codice gestionale — non sono fra quelli ammessi, nemmeno nella ricerca dove una fonte c'è. Un identificatore inventato non è un dato sbagliato in più: è una riga che al prossimo import si fonde con quella di un altro cliente.
• Niente entra da solo. Le righe sono proposte: si aprono una per una nella scheda cliente e passano dai controlli di sempre.

Questi punti hanno prove automatiche che li sorvegliano, e le prove sono state viste fallire: togliendo il controllo della fonte, togliendo la richiesta di ricerca al fornitore, e riportando OpenAI sull'indirizzo che ignora lo strumento. In tutti e tre i casi le prove sono diventate rosse.

⚠️ Quello che nessun codice può garantire

Che la pagina trovata dica il vero, o che sia aggiornata. Il software garantisce la tracciabilità, non la verità. È scritto a schermo accanto ai risultati, ed è la ragione per cui il collegamento alla pagina è cliccabile: serve ad aprirlo.

Cosa cambierebbe il quadro

Il momento in cui questa valutazione va rifatta:

⚠️ La riga più importante è la prima. «Il modello suggerisce chi merita il premio» è a un passo dalla funzione che c'è già — il cruscotto — e sposta il software in una categoria con obblighi seri. Non è una cosa da aggiungere senza deciderlo.

Cosa fare, in pratica

D&J (fornitore):

• ✅ documentare cosa fa e cosa non fa l'assistente — questo documento e il manuale
• ✅ garanzie tecniche a sostegno — verificate da prove automatiche
• ✅ possibilità di spegnerlo in qualunque momento
• ⬜ rifare questa valutazione a ogni funzione che usi un modello

Il titolare (deployer):

• ⬜ assicurarsi che chi usa l'assistente sappia cosa fa (art. 4) — basta il manuale
• ⬜ verificare col fornitore che i dati non siano usati per addestrare
• ⬜ aggiungere il fornitore al registro dei trattamenti
• ⬜ non usare l'assistente per valutare le persone — cambierebbe categoria

Cosa non dice questo documento

Non sono un legale. È un'analisi tecnica onesta di cosa il software fa davvero, con il ragionamento in chiaro perché possa essere verificato. La conclusione «rischio minimo» regge finché reggono i fatti su cui poggia: nessuna inferenza nel software base, e un assistente che struttura testo invece di generare giudizi. Se cambia il secondo, cambia la conclusione.