Mark Zuckerberg bejelentette, hogy terroristákat, öngyilkossági kockázatot és online molesztálást gyorsan azonosító mesterségesintelligencia-szoftvert fejleszt a Facebook. Az algoritmuson akár évekig eldolgozhatnak, míg a mérnökök pontosan megtanítják neki, hogyan jelöljön meg tartalmakat. A kezdeteknél járnak, kockázati tényezőket keresve tanulmányoz képeket és videókat. Mindenesetre a Facebook-csapat által átnézendő anyagok 30 százalékát máris ő szállítja.
Zuckerberg elmondta, hogy terrorista szervezetek egyre nagyobb mértékben használják a platformot. Az MI-nek meg kell tudni különböztetni terrorizmusról szóló híreket a tényleges terrorista propagandától. Utóbbiakat a lehető leggyorsabban eltávolítják a közösségi hálózatról.
A kamu hírekkel kapcsolatban visszafogottabban beszélt a Facebook-főnök. Technikailag ugyanis nagyon nehéz feladat híreket olvasó és megértő MI-t fejleszteni.
Az utóbbi hónapok hibái, tragikus eseményei hatására igyekeznek hatékonyabban monitorozni a platformot. Például öngyilkosságot is streameltek élőben, amelyet nagyobb odafigyeléssel talán meg lehetett volna előzni. Már fejlesztettek öngyilkosságra utaló posztokat észlelő eszközöket, infrastruktúrát, amellyel barátok, közösségek segíthetnek az illetőn.
A mindennapos online molesztálás (bullying) ellen szintén igyekeznek hatékonyabban fellépni.