Valvontaohjelmien on kerrottu kohdistuvan LGBTQ+ -opiskelijoille

Uuden raportin mukaan kouluissa käytetyt digitaaliset valvontaohjelmat merkitsevät LGBTQ+ -sisällön sopimattomasti pornografiseksi. Tulokset herättävät vakavaa huolta opiskelijoiden yksityisyydestä ja valvontaohjelmistojen tehokkuudesta.



Koulutusuutissivuston tekemä tutkimus 74 havaitsi merkittäviä tietosuojaongelmia liittyen Gaggleen, ohjelmistoon, jonka Minneapolis Public Schools otti käyttöön COVID-19-pandemian alussa. Gaggle valvoo käytännössä kaikkea oppilaan tietokoneella: sähköpostien, chat-viestien ja muiden asiakirjojen sisältöä, mukaan lukien päiväkirjamerkinnät ja luokkahuonetehtävät. Jos ohjelmisto löytää tiettyjä avainsanoja tai kuvia, siitä ilmoitetaan koulun virkamiehille.

Mutta kuten monien automatisoitujen järjestelmien kohdalla, Gagglen sisällönvalvontakäytännöillä on tahattomasti kielteisiä vaikutuksia LGBTQ+-ihmisiin.

Eräs trans kahdeksasluokkalainen Teeth Logsdon-Wallace kuvaili väitettyä tapausta, jossa hän antoi koulutehtävän, joka koski hänen toipumistaan ​​itsemurhayrityksestä ja kuinka folk punk -laulu auttoi häntä selviytymään siitä. Mutta kaksi päivää myöhemmin kouluneuvoja soitti Logsdon-Wallacen äidille kertoakseen hänelle, että Gaggle oli ilmoittanut lapsensa tehtävästä mainita sana itsemurha, täysin vailla kontekstia.



Yritin olla haavoittuvainen tämän opettajan kanssa ja sanoa: 'Hei, tässä on minulle tärkeä asia, koska kysyit', Logsdon-Wallace sanoi. Nyt, kun olen tehnyt selväksi, että olen paljon parempi, koulu ottaa yhteyttä ohjaajaani ja on sekaisin.

Ottaen huomioon, että queer- ja transnuoret ovat huomattavasti todennäköisemmin kuin suorat ikätoverinsa itsemurha-ajattelun kokemiseen, tällaiset politiikat voivat vaikuttaa suhteettomasti heihin samalla, kun ne aikovat pitää heidät turvassa. Ja raportti näyttää viittaavan siihen, että yllä oleva tapaus ei ole yksittäinen: 74 löysi yli kolme tusinaa tapausraporttia, joissa Gaggle mainitsi seksuaalisuuteen liittyviä termejä, kuten homo ja lesbo.

Huolimatta huolista opiskelijoiden yksityisyydestä, Gagglen toimitusjohtaja Jeff Patterson kertoi CBS-uutiset t Hän uskoi, että ohjelmisto todella tarjoaa enemmän etuja näiden haavoittuvien ryhmien opiskelijoille. Hän väitti, että nämä termit sisällytettiin merkittyjen sanojen luetteloon kiusaamisen ja häirinnän estämiseksi.



Kriitikot väittävät, että ohjelmistolla on ollut päinvastainen vaikutus. Minneapolisissa South High Schoolin opiskelijan väitettiin lähetetyn vanhemmilleen heidän tietämättään, kun opiskelija merkittiin Gagglen kautta kampuslehden mukaan.

Koulun hallinto ei puhunut [oppilaalle] ollenkaan ennen kuin heidän vanhemmilleen soitettiin, lähde kertoi Etelämaalainen .

Ohjelmisto on herättänyt huolta myös demokraattien lainsäätäjien keskuudessa, mukaan lukien senaattorit Elizabeth Warren (D-Mass.), Ed Markey (D-Mass.) ja Richard Blumenthal (D-Conn.), jotka kirjoitti kirjeitä Gagglen yrityksen johtajille syyskuussa. Senaattorit ilmaisivat huolensa tietojen seurannan liiallisuudesta ja avoimuuden puutteesta.

Näiden työkalujen käyttö voi murtaa luottamusta kouluissa, estää oppilaita saamasta kriittistä terveystietoa ja estää oppilaita ottamasta apua aikuisilta, mikä saattaa lisätä opiskelijoiden haittojen riskiä, ​​eräässä kirjeessä lukee.

Opiskelijoiden verkkotoiminnan valvonta saattaa myös estää värikkäitä ja LGBTQ+-opiskelijoita hakemasta apua aikuisilta, jolloin opiskelijat jää ilman kriittistä tietoa ja tukea.

artikkelin kuva Homopappi erosi Grindrin käytön takia. Hän oli syrjäytynyt matkapuhelindatansa takia Kriitikot sanovat, että se on muistutus siitä, kuinka helposti teknologian käyttäjien yksityisyyttä voidaan väärinkäyttää digitaaliaikana. Näytä tarina



Sen sijaan, että ne maksaisivat jopa 60 000 dollaria vuodessa ohjelmistosta, lainsäätäjät suosittelevat, että koulut investoivat paikallisiin inhimillisiin tukipalveluihin, kuten ohjaajiin tai muihin kouluissa työskenteleviin mielenterveysalan ammattilaisiin, jotka voivat kehittää suhteita ja luottamusta oppilaiden kanssa turvatakseen heidän hyvinvointinsa. ja ehkäistä mielenterveyshäiriöitä.

Se on erityisen tärkeä ehdotus, kun otetaan huomioon, että se on olemassa vähän tai ei ollenkaan todisteita että opiskelijoiden seurantaohjelmat todella luovat turvallisuutta opiskelijoille tai parantavat mielenterveystuloksia.

Algoritmeilla on ollut pitkään ongelmia LGBTQ+ -sisällön sopimattoman ilmoittamisen kanssa. Huhtikuun raportti teknisistä julkaisuista Emolevy havaitsi, että toinen koulun tietoturvaohjelmisto Securly merkitsi LGBTQ+:aan liittyvät verkkosivustot pornoksi. Securlyn algoritmin kohdistamat verkkosivustot sisälsivät omituisia uutissivustoja ja resurssisivuja LGBTQ+-terveydestä.

Eikä pelkästään opetusohjelmistot ole ongelma: YouTuben kaltaiset teknologiajätit ovat olleet haastaa oikeuteen queer-luojien demonisoimisesta ja tukahduttamisesta aikuisille tarkoitetulle sisällölle. Tiettävästi TikTok shadowband LGBTQ+ -tekijät sillä aikaa väkivaltaisen homofobisen sisällön leviäminen virukseksi , vaikka yritys lopulta pyysi anteeksi aikaisempaa virhettä. Tumblrin surullisen kuuluisa pornon ja naisia ​​esittävien nännikielto vuonna 2018 päättyi merkitsee täysin vaarattomia materiaaleja , mukaan lukien ei-pornografinen LGBTQ+ -sisältö.