Google implementa miglioramenti dell’IA per facilitare la sicurezza della ricerca e le query di “crisi personale” – TechCrunch

Google ha annunciato oggi che lancerà miglioramenti al suo modello di intelligenza artificiale per rendere la Ricerca Google un’esperienza più sicura che gestisce meglio le query sensibili, comprese quelle su argomenti come suicidio, aggressione sessuale, abuso di sostanze e violenza domestica. Utilizza anche altre tecnologie di intelligenza artificiale per migliorare la sua capacità di rimuovere contenuti espliciti o allusivi indesiderati dai risultati di ricerca quando le persone non li cercano specificamente.

Attualmente, quando le persone cercano informazioni sensibili, come suicidio, abuso o altri argomenti, Google visualizzerà i dettagli di contatto delle linee di assistenza nazionali pertinenti sopra i risultati di ricerca. Ma l’azienda spiega che le persone che si trovano in situazioni di crisi possono cercare in tutti i modi, e non è sempre ovvio per un motore di ricerca che ne hanno bisogno, anche se solleverebbe alcune bandiere se un essere umano vedesse le loro query di ricerca. Con l’apprendimento automatico e gli ultimi miglioramenti al modello AI di Google chiamato MUM (Unified Multitasking Model), Google afferma che sarà in grado di rilevare automaticamente e in modo più accurato una gamma più ampia di ricerche di crisi personali grazie a come MUM è in grado di comprendere meglio l’intento dietro le domande e le domande delle persone.

L’anno scorso, l’azienda ha presentato il suo piano per rivedere la ricerca utilizzando le tecnologie di intelligenza artificiale al suo evento Search On, ma non ha affrontato quel caso d’uso specifico. Invece, Google si è quindi concentrato su come sfruttare la migliore comprensione delle intenzioni degli utenti da parte di MUM per aiutare gli utenti a ottenere informazioni più approfondite sull’argomento che stanno cercando e guidare gli utenti verso nuovi percorsi di ricerca. Ad esempio, se un utente ha cercato “vernice acrilica”, Google potrebbe suggerire “cose ​​​​da sapere” sulla pittura acrilica, come diverse tecniche e stili, suggerimenti su come dipingere, suggerimenti per la pulizia e altro ancora. Potrebbe anche indirizzare gli utenti ad altre domande che potrebbero non aver pensato di cercare, come “come realizzare colori acrilici con articoli per la casa”. In questo esempio, Google ha affermato di poter identificare oltre 350 diversi argomenti relativi ai colori acrilici.

In un modo in qualche modo simile, MUM verrà ora utilizzato per aiutare a comprendere meglio il tipo di argomenti che una persona in crisi potrebbe ricercare, che non sono sempre così ovvi come digitare una richiesta diretta di aiuto.

“…se non riusciamo a riconoscere questo accuratamente, non possiamo codificare i nostri sistemi per mostrare i risultati di ricerca più utili. Questo è il motivo per cui l’utilizzo dell’apprendimento automatico per comprendere la lingua è così importante”, ha spiegato Google in un post sul blog.

Ad esempio, se un utente cercava “siti del suicidio di Sydney”, i sistemi precedenti di Google avrebbero interpretato la query come una query di ricerca di informazioni, poiché è così che viene spesso utilizzato il termine “spot suicidi”, anche nelle query di ricerca sui viaggi. Ma MUM comprende che la domanda è correlata a persone che cercano di trovare un punto di partenza per il suicidio a Sydney e identificherebbe questa ricerca come potenzialmente proveniente da una persona in crisi, consentendole di mostrare informazioni utili come linee di hotline per il suicidio. Un’altra domanda sul suicidio che potrebbe vedere miglioramenti da parte di MUM è “i modi più comuni in cui le persone si uccidono”, che, ancora una volta, Google avrebbe precedentemente inteso solo come una ricerca di informazioni.

MUM comprende anche meglio le query di ricerca più lunghe in cui il contesto è ovvio per gli esseri umani, ma non necessariamente per le macchine. Ad esempio, una domanda del tipo “perché mi ha aggredito quando ho detto che non mi piaceva” implica una situazione di violenza domestica. Ma le lunghe query in linguaggio naturale sono state difficili per i sistemi di Google senza l’uso dell’IA avanzata.

Inoltre, Google osserva che MUM può trasferire le sue conoscenze nelle 75 lingue in cui è stato formato, aiutandolo ad adattare miglioramenti dell’IA come questo più rapidamente agli utenti di tutto il mondo. Ciò significa che sarà in grado di mostrare informazioni utili da partner fidati, come le linee di assistenza locali, per questi tipi di ricerche di crisi personali a un pubblico più ampio.

Questa non è la prima volta che MUM si è messo al lavoro per aiutare a guidare le ricerche su Google. MUM era stato precedentemente utilizzato per migliorare le ricerche di informazioni sul vaccino COVID-19, ha affermato la società. Nei prossimi mesi, Google afferma che utilizzerà MUM per migliorare le sue funzionalità di protezione antispam ed espanderle alle lingue in cui ha pochi dati di formazione. Presto verranno implementati altri miglioramenti MUM.

Un’altra area potenziata dalla tecnologia AI è la capacità di Google di filtrare i contenuti espliciti dai risultati di ricerca. Anche quando la tecnologia di filtro SafeSearch di Google è disabilitata, Google tenta comunque di ridurre i contenuti espliciti indesiderati dalle ricerche in cui la ricerca di contenuti audaci non era l’obiettivo. E oggi, i suoi algoritmi stanno migliorando questa capacità poiché gli utenti eseguono centinaia di milioni di ricerche in tutto il mondo.

Ma la tecnologia AI nota come BERT ora funziona per aiutare Google a capire meglio se le persone stavano cercando contenuti espliciti. La società afferma che nell’ultimo anno BERT ha ridotto del 30% i risultati di ricerca scioccanti indesiderati, sulla base di un’analisi condotta da “Search Raters” che ha misurato i risultati ipersessualizzati su campioni casuali di query per la ricerca sul Web e sulle immagini. La tecnologia è stata anche particolarmente efficace nel ridurre i contenuti espliciti per le ricerche relative a “etnia, orientamento sessuale e genere”, che secondo Google ha un impatto sproporzionato sulle donne e soprattutto sulle donne di colore, a seconda dell’analisi.

Google afferma che i miglioramenti dell’IA MUM inizieranno a essere implementati su Serach nelle prossime settimane.

Leave a Comment