Självmord är nu den näst vanligaste dödsorsaken bland amerikanska ungdomar mellan 10 och 14 år. Problemet med ungdomssjälvmord har bara förvärrats på senare tid, delvis på grund av en nationell brist på psykisk hälsovårdspersonal – särskilt i skolor – där bristen på psykologer, kuratorer och socialarbetare försvårar arbetet att upptäcka ungdomar med riskbeteende.

AI ett hjälpmedel

Som en lösning har skoladministratörer, ställda inför omfattande finansierings- och personalbrist, alltmer vänt sig till tekniken för att hjälpa dem hantera krisen med ungdomssjälvmord. Företag som Bark, Gaggle, GoGuardian och Securly har specifikt utvecklat teknik i form av AI-baserad elevövervakningsprogramvara som spårar elevers datoranvändning för att identifiera studenter som står inför psykiska hälsoutmaningar. Den är generellt utformad för att fungera i bakgrunden på elevernas skolutdelade datorer och konton, och flaggar aktivitet som kan tyda på att de riskerar självskada.

Låg kännedom om användningen

Denna spårningsprogramvara används i hela landet, på miljontals studenter. Men många föräldrar och allmänheten är fortfarande omedvetna om dess existens. Eleverna kan ha en viss uppfattning om att deras skolenheter övervakas, men sannolikt har de en begränsad förståelse för hur den används. Och även om identifiering av självmordsrisk kan vara ett önskvärt mål, kan AI-övervakning också uppfattas som ett tydligt integritetsintrång enligt kritiker.