Facebook gebruikt machine learning om suïcidale gebruikers te identificeren

Abonneer je gratis op Techzine!

Deze week kondigde Facebook aan dat het AI-gestuurde technologie uitrolt die suïcidale gebruikers kan opsporen en hulp kan aanbieden. Algoritmes die getraind worden om data te rapporteren speuren continu naar waarschuwingssignalen in content die gebruikers posten en antwoorden die daarop worden ontvangen. Zodra er een suïcidale gebruiker wordt gedetecteerd komt er een team van reviewers in actie zodat een gebruiker gecontacteerd kan worden en hulp aangeboden kan krijgen.

Facebook heeft aangegeven dat het in verbinding staat met hulplijnen om methodes te ontwikkelen voor het in contact brengen van deze risicogroepen met een hulpverlener. Facebook begon zo’n tien jaar geleden al met het monitoren van suïcidaal gedrag maar was tot nu toe afhankelijk van gebruikers die melding maakten van potentieel gevaarlijke situaties. Deze ontwikkeling markeert de eerste invloed van AI en machine learning in dit proces. De blogpost die het bedrijf naar buiten brengt gaat niet diep in op de details maar geeft een aantal aanwijzingen over hoe deze technologie werkt.

Er wordt pattern recognition technologie gebruikt om berichten die hoogstwaarschijnlijk suïcidale gedachten bevatten te markeren voor de hulpteams. Volgens Facebook is dit de eerste keer dat het gebruikmaakt van AI algoritmes om gebruikerscontent te onderzoeken op problematische content. In de toekomst zou dezelfde technologie kunnen worden ingezet voor terrorismebestrijding. De technologie is ook uitgerold in de Facebook Live video streaming services als reactie op een aantal tragische incidenten waarbij mensen zichzelf van het leven beroofden tijdens een live video.

Vanuit het oogpunt van de gebruiker is de primaire functie van Facebook om mensen bij elkaar te brengen en het makkelijker te maken om in contact te blijven met mensen. Als Facebook nu ook gebruikt kan worden om mensen die zich in een dieptepunt van hun leven bevinden in contact te brengen met anderen, vrienden, familie of hulpverleners die kunnen helpen dan is dat een heel positief gebruik van technologie.