Sicurezza degli agenti AI: PSP all’Università di Parma

Il prossimo 3 dicembre, il nostro Head of AI sarà ospite dell'Università di Parma per tenere il seminario dal titolo "Sicurezza degli agenti AI: autonomia, verifica e controllo umano".

L'intervento porterà in ambito accademico l'esperienza maturata quotidianamente in PSP, dove lavoriamo allo sviluppo e all'integrazione di soluzioni basate sull'intelligenza artificiale, affrontando in prima persona le opportunità e le sfide che queste tecnologie introducono nei processi aziendali.

Perché parlare di sicurezza degli agenti AI

Gli agenti AI non si limitano a fornire risposte: possono eseguire attività, utilizzare strumenti e supportare lo sviluppo software all’interno di processi definiti. Questa autonomia rende necessario stabilire quali azioni siano consentite, come verificarne gli esiti e quando debba intervenire una persona.

La sicurezza riguarda quindi sia la protezione dei dati e degli ambienti di lavoro, sia l’affidabilità delle azioni compiute dai sistemi. Il seminario affronterà opportunità e rischi con un’attenzione concreta alla trasparenza, alla tracciabilità e alla supervisione umana.

Autonomia, verifica e controllo umano: i temi del seminario

Saranno approfonditi alcuni dei temi oggi più rilevanti nel panorama dell'intelligenza artificiale, tra cui la gestione dell'autonomia degli agenti, la protezione dei dati, il controllo delle azioni eseguite dai sistemi AI e le modalità con cui le organizzazioni possono introdurre queste tecnologie in modo responsabile e verificabile.

Partendo da casi reali e dall'esperienza maturata sul campo, saranno analizzati rischi, limiti e buone pratiche per integrare gli agenti AI nei processi di sviluppo e nelle attività aziendali, senza rinunciare a trasparenza, tracciabilità e supervisione umana.

L’esperienza di PSP nel confronto con l’università

Noi di PSP lavoriamo allo sviluppo e all’integrazione di soluzioni AI nei processi aziendali. Questo lavoro ci porta ad affrontare direttamente le possibilità offerte dall’automazione e le condizioni necessarie per introdurla in modo responsabile e verificabile.

Il seminario sarà un momento di confronto tra competenze aziendali e mondo accademico, con l’obiettivo di condividere rischi, limiti e buone pratiche utili alle imprese e alle organizzazioni.

Fotografia d’archivio del Plesso di Matematica dell’Università di Parma: AMs / Wikimedia Commons, pubblico dominio.