Niños, adolescentes y jóvenes son las principales víctimas del acoso, especialmente en las escuelas. Instagram combate el ciberbullying con inteligencia artificial, a fin de que los mensajes violentos no lleguen a sus destinatarios.
Instagram actúa contra el acoso, especialmente en el ciberespacio, tomando en cuenta que algunos usuarios se amparan en el anonimato para intentar hace daño a otros sin ser detectados. Países como Venezuela buscan regular las redes sociales para que a través de ellas no se viertan contenidos violentos. Algunos afirman que se trata de abusos contra la libertad de expresión, mientras que otros opinan que se debe hacer algo en pro de la salud mental de los afectados.
Expertos como Kevin Systrom, de Instagram, consideran que las empresas detrás de las redes sociales no se deben quedar de brazos cruzados viendo cómo crece el número de víctimas del ciberbullying a diario. Systrom es el autor del filtro empleado por Instagram para bloquear de forma automática contenidos que se consideren ofensivos o hirientes. Usuarios que intenten ofender a otros a través de las redes sociales podrían ser bloqueados de un momento a otro.
En Instagram han lanzado esta advertencia, y no descartan la posibilidad de tomar acciones legales de ser necesario. Algoritmos como DeepText han sido diseñados con el propósito de minimizar o eliminar los contenidos ofensivos en las redes sociales. Hasta ahora se ha probado con total éxito en Facebook, y se espera que tenga la misma efectividad en Instagram.
Mensajes spam también son eliminados a través de este recurso de inteligencia artificial. De esta manera, Instagram garantiza que no sea un espacio para la hostilidad ni la ofensa, sino para la libre expresión personal sin que nadie intente arremeter contra otros.
Systrom señala que los trolls son una amenaza en crecimiento. En todo el planeta existen personas dedicadas a hacer comentarios hirientes en las redes sociales, algunos de los cuales pueden constituir amenazas directas o indirectas, incluso contra la vida de los usuarios.