Creep: prevenire il cyberbullismo con l’intelligenza artificiale

Prevenire il cyberbullismo con l’intelligenza artificiale e coinvolgendo i ragazzi. Questo l’obiettivo di Creep (Cyberbulling Effects Prevention), attività di innovazione promossa e finanziata da Eit Digital, organizzazione che promuove la trasformazione digitale a livello europeo. Coordinato dalla Fondazione Bruno Kessler di Trento (Fbk), il progetto si propone di sviluppare tecnologie e soluzioni avanzate di intelligenza artificiale per l’individuazione precoce e la prevenzione degli effetti del cyberbullismo tramite il monitoraggio dei social media e la comunicazione di consigli preventivi e raccomandazioni personalizzate per gli adolescenti attraverso un assistente virtuale (chatbot).

Foto: Alessandro Girardi (Fondazione Bruno Kessler Trento)

In Italia il 5,5% degli adolescenti è stato vittima di cyberbullismo almeno una volta al mese. Secondo le ultime rilevazioni Istat, in Italia il 5,5% dei giovani fra gli 11 e i 17 anni è stato vittima di cyberbullismo per una o più volte al mese. La percentuale sale addirittura al 22,3% se si considerano anche coloro che subiscono aggressioni qualche volta all’anno. Non solo. L’indagine Istat rivela inoltre che bullismo e cyberbullismo sono fenomeni parzialmente collegati tra loro: l’88% delle vittime di cyberbullismo dichiara di essere stato vittima di forme di bullismo tradizionale. “Nel 2016 – spiega Serena Bressan, ricercatrice della Fondazione Kessler – un milione di teenager sono stati molestati, minacciati o soggetti ad altre forme di cyberbullismo solo su Facebook. Ci sono, inoltre, prove rilevanti che il cyberbullismo possa influenzare stati depressivi, malattie mentali, uso di sostanze psicotrope o comportamenti suicidari, soprattutto tra i giovani”.

Foto: Alessandro Girardi (Fondazione Bruno Kessler Trento)

Due nuovi strumenti per fare prevenzione. Creep è un progetto che nasce per fare prevenzione. “L’obiettivo del gruppo multidisciplinare che si sta occupando del progetto Creep è quello di costruire tecnologie per la prevenzione del cyberbullismo – spiega il coordinatore Enrico Piras, Fbk-Itc – che offrano un supporto di prima linea, andando a muoverci in un contesto popolato da personale competente in questo campo (penso ad esempio a psicologi e ad agenti di polizia postale) senza sostituirci a loro, ma mettendo loro a disposizione tecnologie che possano evidenziare quelli che sono i primi segnali di cyberbullismo”. Segnali che spesso si fatica a cogliere. Le molestie che avvengono attraverso l’utilizzo della tecnologia, infatti, nascono in un circuito chiuso da cui escono solo quando diventano “virali” e assumono così un carattere “pubblico”. Ma a quel punto, non di rado, all’episodio di cyberbullismo si affianca drammaticamente un fatto di cronaca. Due sono le soluzione che il gruppo di tecnici di computer science della Fondazione Kessler e di sociologi e criminologi dell’Università di Trento stanno mettendo a punto nell’ambito di Creep.

Foto: Alessandro Girardi (Fondazione Bruno Kessler Trento)

Un progetto in cui i ragazzi non sono solo i destinatari. “Stiamo lavorando a due tipi di strumenti – spiega Piras – uno legato all’analisi semantica dei messaggi e un chatbot, un assistente virtuale in grado di dialogare con i ragazzi per dare loro suggerimenti e consigli per capire come comportarsi e chi poter contattare in casi effettivamente a rischio”. Il software di analisi semantica ha come obiettivo quello di analizzare i profili social grazie all’intelligenza artificiale, monitorare le interazioni potenzialmente più critiche e individuare le caratteristiche dei profili ritenuti più a rischio. Per fare questo sono stati coinvolti i ragazzi. “Grazie alla collaborazione della Provincia di Trento – prosegue Piras – abbiamo avviato dei Living Lab in alcune classi di seconda media. Per noi è assolutamente necessario lavorare con i ragazzi, perché quando ragioniamo sui testi è praticamente impossibile anche per gap di età, comprendere quale sia per loro il livello di offesa contenuto in un messaggio. Uno dei lavori che stiamo facendo a partire dalle informazioni che ricaviamo dai Living Lab è quello di addestrare le macchine a disambiguare situazioni reputate dai ragazzi scherzose da altre di tono più aggressivo, da portare all’attenzione di un adulto”. La scelta dell’età dei ragazzi protagonisti dei laboratori non è stata casuale. “Sono ragazzi che iniziano ad usare questi strumenti e in cui si nota scarsa capacità di comprendere le potenzialità di certi comportamenti”, chiarisce Piras. Sono, in sostanza, giovani che si stanno affacciando al mondo dei social e per questo possono essere più ricettivi e spontanei di chi in questo mondo è di casa ormai da diversi anni.

Foto: Alessandro Girardi (Fondazione Bruno Kessler Trento)

Un gioco di ruolo per “addestrare” il chatbot. Con gli stessi ragazzi, i ricercatori del progetto Creep stanno proponendo all’interno dei laboratori delle simulazioni di cyberbullismo. “Costruiamo dei setting sperimentali su whatsapp – spiega Piras – dove Filippo Oncini ed io assumiamo la parte della vittima. Facciamo finta di essere dei ragazzi di seconda media, che fanno danza classica e che invitano la classe al loro saggio di danza. A ciascun ragazzo della classe assegniamo poi i vari ruoli (bullo, supporto del bullo e supporto della vittima). Le chat che nascono da questa simulazione vengono monitorate dai ricercatori e da un docente della classe, che è sempre presente durante i laboratori. Una persona della classe rimane fuori da questo particolare gioco di ruolo. Egli interpreta la parte del chatbot ed è chiamato a fare delle domande alle persone bullizzate, dandoci così dei consigli che ci sono utili per tarare il virtual chatbot”. In questo modo

sono gli stessi ragazzi a suggerire ai ricercatori quelle che sono le caratteristiche che vorrebbero avesse il chatbot.

Ottima la risposta che i ricercatori di Creep hanno avuto dai ragazzi protagonisti dei laboratori. “I laboratori stimolano la riflessione tra i ragazzi – commenta Piras -. Siamo rimasti sorpresi di come reagiscano quando vedono quello che loro stessi hanno prodotto in chat “uscire dallo smartphone” e divenire di “dominio pubblico” e sottoposto al giudizio di tutti. Pur consapevoli che si tratta di una simulazione, c’è una sorta di presa di distanza da parte loro quando la chat viene proiettata in aula, assumendo così una dimensione collettiva”. Accanto ai laboratori, sempre nell’ambito di Creep i ricercatori dell’eCrime Research Group dell’Università di Trento stanno svolgendo una ricerca sul territorio trentino per fotografare il fenomeno del cyberbullismo e identificare i profili delle possibili vittime, se ad essere colpiti sono più i maschi o le femmine, e per evidenziare i tipi di interazioni bullizzanti.

Foto: Alessandro Girardi (Fondazione Bruno Kessler Trento)

Un progetto europeo che abbraccia Francia e Germania. Nato all’interno del portfolio 2018 delle attività di innovazione per il Digital Wellbeing di Eit Digital, il progetto Creep è guidato dall’unità di ricerca e-Health del centro Ict della Fondazione Bruno Kessler, in partnership con l’azienda italiana Expert System, l’eCrime Research Group dell’Università di Trento, il centro francese Inria e la startup tedesca NeuroNation. Il progetto, partito a gennaio, si concluderà a dicembre 2018.