Le aziende utilizzano il “bossware” per ascoltare il proprio personale mentre è vicino ai propri desktop. Le telefonate possono essere registrate da una varietà di applicazioni “spyware”. Anche i gadget domestici come Echo di Amazon possono acquisire chat quotidiane. Una nuova tecnica nota come Neural Voice Camouflage ora fornisce protezione. Mentre parli, emette rumori audio su misura in sottofondo, confondendo l’intelligenza artificiale (AI) che trasduce il nostro discorso registrato.
La nuova tecnologia impiega quello che è noto come un “attacco contraddittorio”. Il metodo incorpora l’apprendimento automatico in cui gli algoritmi cercano schemi nei dati per modificare i suoni in modo tale che un’intelligenza artificiale, ma non gli esseri umani, li scambi per qualcosa di diverso. In sostanza, utilizzi un’IA per ingannarne un’altra.
Quando desideri nasconderti in tempo reale, l’intelligenza artificiale dell’apprendimento automatico deve organizzare l’intera clip audio prima di capire come regolarla.
Nell’ultimo studio, gli esperti hanno addestrato una rete neurale, un sistema ML modellato dal cervello, per prevedere il futuro in modo efficiente. L’hanno addestrato su ore di discorsi registrati in modo che potesse analizzare continuamente frammenti audio di 2 secondi e nascondere ciò che è probabile che venga detto dopo.
Ad esempio, se qualcuno ha appena detto “godetevi la grande festa”, è impossibile prevedere cosa verrà detto dopo. Tuttavia, considerando ciò che è stato detto di recente e le caratteristiche della voce di chi parla, genera rumori che interromperanno una varietà di parole alternative che potrebbero seguire. Questo copre ciò che è accaduto dopo, come affermato dallo stesso relatore, “è in preparazione”. Gli ascoltatori umani percepiscono il camuffamento audio come rumore di fondo e non hanno difficoltà a riconoscere le parole pronunciate. Tuttavia, le macchine commettono errori.
I discorsi nascosti dal rumore bianco e un attacco contraddittorio competitivo avevano tassi di errore rispettivamente del 12,8% e del 20,5%.
Anche quando il framework ASR è stato condizionato a trascrivere il parlato che era stato interrotto dal Neural Voice Camouflage, il margine di errore è rimasto al 52,5%. Le parole brevi, come “il”, erano le più difficili da interrompere in generale, ma sono gli elementi meno illuminanti del dialogo.
La tecnologia è stata testata anche nel mondo reale, con gli esperti che hanno riprodotto una registrazione vocale abbinata al camuffamento su una serie di altoparlanti nella stessa area di un microfono. Era ancora funzionante.
Secondo Mia Chiquier, ingegnere informatico della Columbia University che ha condotto la ricerca, questo è semplicemente il primo passo verso la protezione della privacy di fronte all’intelligenza artificiale.
Chiquier spiega che la componente predittiva del programma ha un grande potenziale per altri usi che richiedono un’elaborazione in tempo reale, come le automobili senza conducente. I cervelli funzionano anche attraverso l’anticipazione; ti senti sorpreso quando il tuo cervello indovina qualcosa in modo errato. “Stiamo replicando il modo in cui le persone fanno le cose”, spiega Chiquier a questo proposito.
“C’è qualcosa di piacevole nella forma in cui integra la previsione del futuro, un classico problema di ML, con un altro problema di ML conflittuale”, afferma Andrew Owens. Bo Li è rimasto stupito dalla capacità del nuovo approccio di sconfiggere il sistema ASR fortificato.