Bicara tentang sosial media, pasti tidak lepas dengan aksi bullying dan pelecehan online. Tindakan tersebut sering kita temui, dan meskipun Instagram telah memperkenalkan berbagai alat untuk mencegah hal tersebut terjadi dengan menerapkan filter pada kolom komentar, namun bagaimana jika tindakan bullying dan pelecehan dilakukan dalam foto? Tentu filter biasa tidak dapat menangkapnya dan kini Instagram akan menggunakan mesin pembelajaran untuk melakukan hal tersebut.
Instagram berencana menggunakan mesin pembelajaran untuk mencoba dan menemukan bullying yang mungkin terjadi dalam foto dan keterangannya. Penggunaan mesin pembelajaran ini tidak berarti bahwa itu akan secara otomatis mengenali posting seperti itu, tetapi lebih akan proaktif dalam menandai mereka sehingga moderator manusia dapat mengambil tindakan lebih cepat, di mana posting seperti itu bisa dihapus jauh lebih cepat dibandingkan sebelumnya, di mana moderator manusia mungkin perlu menunggu orang lain untuk menandainya lebih dulu.
Rencana Instagram ini sedikit berbeda dengan hal yang dilakukan oleh Facebook untuk mencegah foto yang tidak pantas. Sebelumnya Facebook telah meluncurkan tools kontroversial yang dapat mencegah posting porno yang mengharuskan pengguna untuk berbagi foto yang mereka pikir mungkin diposkan, dan di mana jika foto-foto itu akan diunggah, Facebook dapat mendeteksi mereka dan mencegah mereka agar tidak diunggah sepenuhnya.
Selain mencoba mencegah bullying di foto, Instagram juga akan mencoba untuk menindak pelecehan selama Live berlangsung dengan filter komentar opsional untuk Live video.
