Tecnologie

Le scuole statunitensi utilizzano l'intelligenza artificiale per monitorare gli studenti

Le scuole statunitensi utilizzano l'intelligenza artificiale per monitorare gli studenti

Negli ultimi 10 anni, gli Stati Uniti hanno assistito a 180 sparatorie nelle scuole con l'incredibile cifra di 356 vittime. Con leggi sul controllo delle armi più deboli nel paese, le scuole si stanno rivolgendo Intelligenza artificiale (AI) per proteggere gli studenti. Ma un recente sistema di intelligenza artificiale installato in quasi 9 scuole pubbliche statunitensi, secondo Recode, ha sollevato alcune preoccupazioni sulla privacy.

Il software basato sull'intelligenza artificiale si chiama Appearance Search ed è sviluppato da una società chiamata Avigilon. Il software è in grado di trovare uno studente in un campus scolastico, in base al suo aspetto, età, sesso, vestiti e alcune caratteristiche del viso.

Il software consente all'amministrazione scolastica di localizzare uno studente e trovare le possibili posizioni in cui è stato all'interno del campus dove sono presenti telecamere di sorveglianza. Usa descrizioni fisiche come età, sesso e colore dei capelli della persona. Analizzando le caratteristiche, il software cerca le corrispondenze dagli altri filmati video. Quindi lo strumento non può dire chi sia esattamente la persona, ma può dire dove potrebbero essere stati durante il loro tempo nell'area scolastica.

Come funziona la ricerca per aspetto

Il software è integrato nel sistema di sorveglianza della scuola. Quindi, se un responsabile della sicurezza scolastica è testimone di un'attività sospetta di uno studente, può fare clic sul corpo dello studente specifico per ottenere maggiori informazioni sullo studente. Il software analizzerà le proprietà fisiche dello studente come i vestiti, il sesso, il colore dei capelli e ciò che l'Avigilon dice alcune caratteristiche del viso. Dopo aver analizzato le suddette caratteristiche, il software abbinerà l'immagine con qualsiasi immagine avente caratteristiche simili a quelle di altri feed della telecamera.

Le preoccupazioni per la privacy

Come al solito, con il software AI arrivano ovvi problemi di privacy e questo software non è diverso. Molti esperti di sicurezza e privacy hanno messo in dubbio Appearance Search di Avigilon.

"Le persone non si comportano allo stesso modo quando vengono osservate", ricorda Brenda Leong, direttrice dell'IA e dell'etica al Future of Privacy Forum. "Vogliamo davvero che sia i giovani studenti che i liceali e chiunque altro si senta come se operassero in quell'ambiente tutto il tempo?"

Sebbene si supponga che questo software aumenti la sicurezza e diminuisca la violenza nelle scuole, viene utilizzato in modo diverso. Gli amministratori scolastici utilizzano questo strumento per monitorare il bullismo, le violazioni del codice di condotta da parte degli studenti e anche per aiutare le indagini sui dipendenti della scuola.

Questa tecnologia non si basa completamente sul riconoscimento facciale, tuttavia, è un software in grado di riconoscere alcune caratteristiche del viso. Varoon Mathur, uno studioso che studia apprendimento automatico presso l'AI Now Institute, ritiene che Appearance Search utilizzi il "rilevamento di oggetti". Anche se Logan Koepke, della ripresa senza scopo di lucro per i diritti digitali, lo definisce un software di "rilevamento delle persone" poiché analizza altre caratteristiche della persona e non esclusivamente il volto.

Con questo software in funzione nella maggior parte delle scuole degli Stati Uniti, gli studenti non potranno mai avere la privacy. Gli amministratori scolastici hanno riferito che non ci sono state segnalazioni di violazione della privacy riguardo al software.

Ma l'ex studentessa della Marjory Stoneman Douglas High School (una scuola in cui il software è già stato installato), Koerber ha detto: “Una sparatoria a scuola potrebbe avvenire in qualsiasi momento e in qualsiasi luogo. Lo sappiamo. Ma dobbiamo invadere la privacy di ogni persona che si iscrive a una scuola particolare per impedirlo? Non credo che sia così. "

Queste ragazze hanno dei messaggi forti a tutti gli uomini in India
Le donne in India sono sempre state soggette a molte nozioni preconcette. Si è detto molto al riguardo, ma la maggior parte degli uomini in India non ...
9 Impostazioni di Windows 10 da modificare
Windows 10 è uscito da quasi una settimana e ha già visto oltre 14 milioni di download entro il primo giorno dal suo lancio, il che è sicuramente un r...
Come controllare il tempo rimanente della batteria in macOS Sierra 10.12.2
Quando è stato segnalato che l'ultima iterazione di Apple di MacBook Pro soffriva di prestazioni della batteria incredibilmente inferiori alla media, ...