Alertan sobre tres consecuencias de las redes sociales en niños: “El diseño causa daño”

Ravi Iyer, tecnólogo y psicólogo social, quien trabajó durante cuatro años y medio en Meta en el diseño de redes sociales, advirtió que algunas decisiones detrás de estas plataformas pueden tener efectos en niñas, niños y adolescentes.

Iyer, director general del Instituto de Psicología, Tecnología y del Neely Center de la Universidad del Sur de California, explicó cómo determinadas funciones y algoritmos influyen en la experiencia de los usuarios.

El diseño de las plataformas, en el centro de su planteamiento

Iyer explicó que los algoritmos pueden construirse para responder al comportamiento que las personas muestran a corto plazo, tomando como referencia señales como qué contenidos ven, en qué hacen clic, qué comentan y cuánto tiempo permanecen frente a ellos.

De acuerdo con su exposición vía remota en la conferencia de la presidenta Claudia Sheinbaim, los algoritmos actuales suelen estar diseñados para optimizar la interacción o engagement, mientras que también podrían desarrollarse para atender las aspiraciones que los usuarios expresan sobre cómo quieren vivir.

El especialista puso como ejemplo su propia relación con el teléfono celular. Dijo que tiene tres hijos y que pasa demasiado tiempo con su dispositivo cuando está con ellos, aunque preferiría pasar tiempo al aire libre junto a su familia. Explicó que algunas aplicaciones están diseñadas para intentar que las personas las utilicen durante más tiempo.

Iyer sostuvo que la tecnología para diseñar productos de otra manera existe, pero que ese enfoque no es la norma comercial.

Primera consecuencia: uso excesivo

La primera consecuencia que señaló fue el uso excesivo de las redes sociales, incluso entre jóvenes que no desean pasar tanto tiempo conectados.

Iyer citó una encuesta de Pew Research Center entre adolescentes estadounidenses. Según los datos que presentó, 70% dijo sentirse manipulado, mientras que 45% afirmó que pasa demasiado tiempo en redes sociales.

Además, 45% señaló que las redes sociales afectan su sueño y 40% indicó que perjudican su productividad.

Para el especialista, estos datos muestran una diferencia entre lo que las personas hacen a corto plazo y lo que dicen aspirar para sus propias vidas.

Segunda consecuencia: contacto no solicitado

La segunda consecuencia que mencionó Iyer fue el contacto no solicitado hacia menores.

Como ejemplo, citó una investigación interna de Meta que se hizo pública como parte de un litigio reciente en Nuevo México. Según los datos expuestos, 13% de los usuarios de Instagram de entre 13 y 15 años había recibido alguna insinuación sexual no deseada durante los siete días previos.

Iyer relacionó este tipo de situaciones con determinadas decisiones de diseño de las plataformas, entre ellas las configuraciones de privacidad que permiten establecer quién puede contactar a los menores.

Tercera consecuencia: contenido no deseado

La tercera consecuencia señalada fue la exposición a contenido que los menores no estaban buscando.

De acuerdo con la misma investigación interna de Meta citada por Iyer, 19.2% de los niños de entre 13 y 15 años reportó haber visto desnudos o contenido sexual no deseado en una sola semana.

El especialista destacó que se trata de contenido que los menores no necesariamente buscan, sino que puede aparecer mediante sistemas de recomendación diseñados para captar su atención.

Iyer explicó que el contenido sexual puede captar la atención de manera particularmente efectiva y que los sistemas de recomendación pueden influir en el material que aparece frente a los usuarios.

Peleas, retos peligrosos y comentarios ofensivos

El tecnólogo también presentó datos de la Comisión de Seguridad Digital de Australia, que encuestó a más de 3 mil niños de entre 10 y 17 años.

Según las cifras que compartió, 47% había visto comentarios ofensivos o sexistas sobre niñas y mujeres, otro 47% había visto videos de peleas y 46% había observado retos peligrosos en internet.

La mayoría de los participantes señaló que esas experiencias habían ocurrido durante el año anterior.

¿Qué funciones de las redes sociales cuestionó?

Iyer señaló varias características de diseño que, desde su perspectiva, están relacionadas con el comportamiento que describió.

Entre ellas mencionó los algoritmos que optimizan el engagement, el desplazamiento o scrolling infinito y la reproducción automática, funciones que eliminan puntos naturales de interrupción.

También habló de la gamificación, como el conteo de “likes” y las rachas de Snapchat, así como de la necesidad de tener una cuenta para acceder a determinados contenidos.

A esto agregó las notificaciones, que pueden llegar durante la noche, y configuraciones predeterminadas de privacidad que consideró demasiado laxas y que permiten el envío de mensajes masivos a menores.

Iyer sostuvo que cada una de estas características representa una decisión de diseño y que, por lo tanto, puede tomarse de otra manera.

Iyer habló del caso contra Meta en Nuevo México

Durante su intervención, el especialista se refirió a la sentencia definitiva de un tribunal de Nuevo México en el caso Estado de Nuevo México contra Meta Platforms.

Afirmó que fue la segunda sentencia de ese año en la que un tribunal determinó que empresas de redes sociales tienen responsabilidad legal por daños relacionados con el diseño de sus plataformas.

Según explicó, el caso también representó una exigencia para que una plataforma modificara decisiones específicas de diseño.

Iyer mencionó que, durante cinco años, Meta deberá cumplir con diversas medidas en Nuevo México. Entre ellas están reforzar la verificación de edad para reducir la presencia de menores de 10 a 12 años en sus plataformas y ocultar de manera predeterminada el conteo público de “likes” en cuentas de menores de 18 años.

También señaló la obligación de desactivar las notificaciones push durante la noche y el horario escolar, así como establecer un límite máximo al tiempo de uso combinado de Facebook e Instagram para menores de 18 años.

Otras medidas que mencionó incluyen mantener las cuentas de adolescentes en modo privado de manera predeterminada, evitar recomendar cuentas de menores a adultos con los que no tengan relación y bloquear los mensajes de esos adultos hacia los menores.

Iyer agregó que las disposiciones contemplan impedir que menores de 18 años tengan intercambios románticos o sexualizados con chatbots de Meta, así como abordar los vínculos que un niño pueda desarrollar con un producto de inteligencia artificial.

Otros países también plantean cambios

El especialista señaló que las medidas relacionadas con el diseño de las plataformas no se limitan a Estados Unidos.

Iyer indicó que la Comisión Europea determinó aproximadamente un mes antes de su participación que el diseño adictivo de Instagram y Facebook viola la Ley de Servicios Digitales, al mencionar funciones como el desplazamiento infinito, la reproducción automática, las notificaciones y los sistemas de recomendación personalizados.

También señaló que Indonesia restringió a principios de este año las cuentas de usuarios menores de 16 años en servicios que cuentan con características consideradas dañinas.

Además, mencionó políticas de diseño apropiado según la edad en más de una docena de estados de Estados Unidos y en jurisdicciones como la Unión Europea, Reino Unido, Indonesia, Emiratos Árabes Unidos y Brasil.

“No estamos en contra de la tecnología”

Iyer aclaró que su postura no es contraria a la tecnología. Su planteamiento es que los productos tecnológicos sean diseñados para ayudar a las personas a alcanzar sus aspiraciones y no para obstaculizarlas, especialmente cuando se trata de niñas, niños y adolescentes.

Al presentar al especialista, Mario Delgado explicó que Iyer trabajó en Meta y que lideró equipos de investigación de ciencias de datos y productos dedicados a estudiar los impactos de Facebook en la sociedad.

El secretario de Educación Pública señaló que actualmente Iyer es investigador de la Universidad del Sur de California y asesor en la oficina regulatoria del Reino Unido.

Delgado destacó que una de las ideas centrales expuestas por Iyer es que las decisiones sobre qué contenido ven las personas, cuánto tiempo permanecen conectadas y qué estímulos reciben son tomadas por quienes diseñan los algoritmos.

Con ello, el secretario señaló que la responsabilidad sobre esos efectos no corresponde únicamente a los usuarios, sino también a las empresas que desarrollan las plataformas.

Únete al canal de WhatsApp y recibe en tu celular lo más importante de México y el mundo con el análisis y la voz de Guillermo Ortega Ruiz.