“Tecnología depredadora”: Silicon Valley enfrenta un juicio histórico por impulsar la adicción de niños y jóvenes a las redes sociales

AMY GOODMAN: Esto es Democracy Now!, democracynow.org, el informativo de guerra y paz. Soy Amy Goodman.

NERMEEN SHAIKH: Soy Nermeen Shaikh. Damos la bienvenida a nuestros oyentes y espectadores en todo el país y alrededor del mundo. Hoy analizaremos la adicción a las redes sociales entre los jóvenes y un histórico juicio contra las grandes empresas tecnológicas. El 18 de febrero, el director ejecutivo de Meta, Mark Zuckerberg, testificó ante un tribunal de Los Ángeles y fue interrogado por los abogados de la defensa sobre las prácticas de Instagram. El juicio se deriva de una demanda contra Meta y Google presentada por una joven de 20 años de California llamada Kaley, quien dice que se enganchó a YouTube a los seis años de edad y luego a los nueve años de edad se pasó a Instagram. Un día pasó 16 horas en dicha plataforma. Ella dice que las aplicaciones de redes sociales alimentaron su depresión y sus pensamientos suicidas. El abogado de Kaley dijo al jurado: “Estas empresas construyeron máquinas diseñadas para generar adicción en los cerebros de los niños, y lo hicieron a propósito”, y comparó las plataformas con “casinos digitales” que se benefician de conductas adictivas.

AMY GOODMAN: La semana pasada, el director de Instagram describió el uso de la plataforma por parte de Kaley como problemático, pero dijo que la aplicación no era “clínicamente adictiva”. TikTok y Snap habían sido nombradas anteriormente en el caso, pero dichas empresas lograron un acuerdo antes del juicio. Padres y madres de niños afectados por las redes sociales se reunieron en Los Ángeles para el juicio. Esta es Julianna Arnold, de la organización Parents RISE! Su hija murió a los 17 años de edad por envenenamiento con fentanilo después de recibir medicamentos adulterados de alguien que conoció en Instagram.

JULIANNA ARNOLD: Irónicamente, este juicio estará sucediendo durante su cumpleaños, la próxima semana cumpliría 21 años. Voy a estar en esta sala representándola a ella y a todos los demás niños y niñas que han sido perjudicados y han muerto debido a las plataformas de redes sociales y sus peligrosos productos y algoritmos que han creado con el propósito de volver adictos a estos niños y mantenerlos enganchados. ¡Son niños! Enganchan a los niños para aumentar sus niveles de interacción [en la plataforma], que a su vez, como saben, es para generar publicidad y ese es su modelo de negocio. Están ganando miles y miles de millones de dólares mientras los niños están siendo lastimados. ¡Están poniendo las ganancias sobre las vidas de nuestros hijos! Es por eso que este juicio es tan importante, porque es la primera vez que el público y los legisladores van a conocer la verdad.

NERMEEN SHAIKH: Este es Todd Minor. Su hijo Matthew murió a los 12 años de edad mientras participaba en un desafío en redes sociales conocido como el desafío de la asfixia o el desafío del desmayo.

TODD MENOR: Matthew murió específicamente a causa del desafío de la asfixia o el desafío del desmayo. Cuando lo encontré, tuve que intentar una reanimación cardiopulmonar, porque soy un militar retirado, así que intenté hacerlo. Pero al final, cuando llegamos al hospital, mi hijo falleció. Pero el detective fue quien nos dijo sobre el desafío del desmayo en las aplicaciones de redes sociales, el algoritmo peligroso, y vio un aumento peligroso de muertes de niños debido a estos algoritmos peligrosos. Somos una familia unida por la tragedia y el dolor y estamos aquí para decir nuestra verdad, para decir que la vida de nuestros niños importa. Las otras familias que están en el juzgado, sus familias importan. Y los niños que aún no han salido lastimados pero tienen el potencial de ser lastimados, sus vidas también importan.

AMY GOODMAN: Para hablar más del tema, nos acompañan varias personas que han estado asistiendo al juicio. Lori Schott, cuya hija de 18 años, Annalee, murió por suicidio en 2020 tras lidiar con problemas de imagen corporal que Lori cree fueron exacerbados por las redes sociales. Lennon Torres es directora sénior de programas y campañas en la organización Heat Initiative, la cual se enfoca en ejercer presión estratégica sobre las grandes empresas tecnológicas por su negligencia ante los abusos sexuales de menores en internet. También es defensora de la comunidad LGBTQ+. Aquí en Nueva York, nos acompaña Laura Marquez-Garrett, especialista en Derecho del Centro Legal de Víctimas de las Redes Sociales, con sede en Seattle. Laura ha presentado más de 1.200 denuncias contra empresas tecnológicas ante tribunales estatales y federales en todo el país. La revista TIME nombró a Laura como una de las cien personas más influyentes en cuestiones de salud; también hizo parte del documental “Can’t Look Away”.

Laura Márquez-Garrett, comencemos con usted. Usted estuvo con nuestras otras invitadas en California en el juicio, y luego voló durante toda la noche a Nueva York —gracias por acompañarnos tras ese vuelo nocturno— porque usted recibirá ese reconocimiento de la revista TIME esta noche. ¿Puede comenzar hablando sobre la importancia de este juicio al que usted se ha referido como “histórico”?

LAURA MARQUEZ-GARRETT: Este juicio es algo por lo que estos padres han trabajado durante años en busca de rendición de cuentas. Lo que es significativo aquí no es un veredicto. No se trata de quién tiene razón. No se trata de una victoria. Se trata de que nuestro sistema funcione de la manera que debe. Se trata de que haya transparencia. Se trata de la verdad. Y eso es lo que estamos viendo ahora mismo. Estamos viendo salir a la luz estos documentos. Estamos viendo testimonios. Mark Zuckerberg testificó ayer. Estamos viendo a estos padres y madres reunidos fuera del juzgado contando sus historias para que otras familias sepan lo que está pasando. Eso es lo realmente significativo aquí, que el sistema legal estadounidense haga lo que se supone que debe hacer y, francamente, lo que debió haber hecho hace diez años. Muchos menos niños habrían muerto de haber sido así.

NERMEEN SHAIKH: Lori Schott, usted es una de las madres que están asistiendo al juicio en busca de rendición de cuentas por lo que pasó con su hija. ¿Puede explicar qué sucedió exactamente con Annalee mientras estaba en internet y con el tiempo que pasó en las redes sociales?

LORI SCHOTT: Sí. Mi hermosa hija Annalee tenía 18 años cuando se quitó la vida. Pero más o menos desde su segundo año en la escuela secundaria y en adelante, pudimos ver un cambio en su personalidad. Siempre criamos a nuestros hijos con confianza y claridad. Y pudimos ver que lo que creíamos que era solo una adolescente creciendo, ahora sabemos que fue el impacto significativo que tuvieron las redes sociales en definir quién era, no quién ella era realmente en su corazón, sino lo que le decían que era.

NERMEEN SHAIKH: ¿Qué esperan ver como resultado de este juicio, Lori?

LORI SCHOTT: Creo que la justicia se presenta de muchas formas. Nada va a traer a mi hija de vuelta ni a ninguno de los otros niños y niñas, pero quiero que el mundo y los padres y madres alrededor del mundo sepan cuál era el objetivo de las operaciones internas de estas grandes corporaciones tecnológicas. No son realmente empresas de tecnología. Es una tecnología depredadora. Los depredadores siempre culpan a las víctimas y nosotros fuimos víctimas de esto. Quiero que se escuchen nuestros mensajes, fuertes y claros y alrededor del mundo, de que ya hemos tenido suficiente. Aléjense de nuestros hijos. Vamos a mostrar los documentos internos, no me importa si es aquí o en Washington D.C. o alrededor del mundo, que muestran los daños que internamente sabían que estaban haciendo. Para mí, como madre, sentarme en esa sala y escuchar que 18 de los 18 investigadores, investigadores internos de Meta, sabían que los filtros que fomentan la dismorfia corporal perjudicaban a los niños y no hicieron nada es inaceptable, y necesitamos que haya justicia. Necesitamos un cambio.

AMY GOODMAN: Lori, ¿cuál es su respuesta a lo que Zuckerberg dijo el miércoles en el tribunal y en qué se diferencia de la vez que testificó ante el Congreso?

LORI SCHOTT: Fueron dos cosas diferentes. Te sientas ahí y los miras tratando de reajustar su versión solo porque están en un juzgado. No se puede borrar lo que estaba en los archivos y lo que hemos documentado que dijo cuando estuvimos en el Congreso ese día, y tratar de tergiversar eso es simplemente inaceptable. Pero estoy agradecida de que tuviera que subir al estrado frente a ese jurado, frente a la jueza, y básicamente que haya tenido que rendir cuentas por lo que hizo. Él lo sabía. Y creo que nunca pensó que tendría que subir esos escalones del juzgado. Pero el miércoles fue básicamente un día de justicia para nuestros hijos.

NERMEEN SHAIKH: Lennon, Lori acaba de mencionar el concepto de tecnología depredadora. Usted misma estuvo sujeta a esto cuando comenzó a usar las redes sociales a los 13 años de edad. ¿Puede describir su experiencia y en particular el intento de extorsión sexual que sufrió?

LENNON TORRES: Cuando pienso en mi tiempo en las redes sociales, pienso en todas las decisiones individuales que me llevaron a vivir esas experiencias en dicha plataforma. Se parece mucho a lo que vi en Annalee y eso es algo que no me lo tomo a la ligera. Estoy aquí por casualidad. Estoy aquí en nombre de los niños que no pueden estar aquí. Mi experiencia como joven trans, como una persona trans joven, fue que mi entorno inmediato no me estaba proporcionando la ayuda que necesitaba, así que me introduje a las comunidades digitales. La gran tecnología o tecnología depredadora realmente le quitó el significado que tenía la comunidad digital para las personas LGBTQ+, porque cuando pasamos a experiencias en línea, tenemos tres veces más probabilidades de experimentar interacciones no deseadas o peligrosas. Eso dicen las investigaciones. Las personas LGBTQ tiene un nivel mayor de riesgo de estos casos.

Entonces, cuando estaba en Instagram, cuando estaba en estas plataformas, especialmente tras haber sido un niño visible para la sociedad por estar en programas de telerrealidad como Dance Moms, tenía cientos de miles de seguidores con acceso a mí y a algunos de mis momentos más íntimos. Lo que es difícil de admitir, pero es importante, es que por mucho tiempo pensé que mi experiencia fue algo de lo que debería avergonzarme. Nunca le conté a nadie que estaba recibiendo cientos de mensajes a través de internet de hombres adultos tratando de manipularme porque entendieron que yo era vulnerable. Nunca hablé sobre el hecho de que pude sortear los límites de edad y las verificaciones de edad en línea porque me uní a plataformas tipo Omegle. Estaba fuera de Instagram porque en ese momento no había FaceTime o video chat en los mensajes, porque sabían que yo era vulnerable y estaba buscando entablar conexiones y ellos eran profesionales en explotar eso. Así ha sido diseñado. Los programas de redes sociales podrían impedir fácilmente que extraños contacten a menores. Dirán que lo hacen, pero no lo hacen. Y hasta que no tengamos una verificación independiente de terceros de sus sistemas de seguridad no veremos progresos en este tema.

AMY GOODMAN: ¿Puede hablar de cuándo obtuvo su primer iPhone? ¿Fue en séptimo grado? Y explique qué fue lo que le atrajo de Instagram. Y cuando habla del límite de edad, explique exactamente a qué se refiere cuando estas empresas dicen que “las personas menores de esta edad no pueden estar en Instagram” o lo que sea, pero usted logró sortear eso.

LENNON TORRES: Cuando me uní a Instagram no me preguntaron mi edad. Llenan sus términos y condiciones con un montón de reglas, pero no las están aplicando. También esperan que niños pequeños lean sus términos y condiciones. No recuerdo el último adulto con el que haya hablado y que haya leído por completo esos términos y condiciones. Es por eso que el sistema está roto. Estamos esperando demasiado del consumidor. Estas grandes empresas tienen el deber de proteger a sus consumidores y crear productos que no causen daños a una escala exponencial.

Lo que me llevó a estas plataformas fue la comunidad y la conexión. Quería ser capaz de expresarme. Quería ser capaz de conectarme con amigos en todo el mundo. A nuestra generación se nos lavó el cerebro para que pensáramos que para tener todas esas cosas buenas, todas esas conexiones, de toda esa comunidad, apoyo y recursos, debíamos aceptar todo lo malo que viene incluido. Cuando miro a los liderazgos de las grandes tecnológicas, solo veo descuido. Veo falta de innovación. Veo falta de rendición de cuentas. Y veo falta de motivación para crear una comunidad digital que los jóvenes como Anna o como yo merecíamos. Si no van a construir plataformas en las que los jóvenes puedan prosperar y crear comunidad y obtener apoyo, entonces deben hacerse a un lado. Porque tenemos jóvenes innovadores por ahí en otras empresas que están trabajando porque saben que podemos tener todo lo bueno sin lo malo.

NERMEEN SHAIKH: Y, Lori, ¿podría hablar sobre la complicidad de TikTok en lo que le pasó a su hija y sobre el hecho de que tanto TikTok como Snapchat llegaron a un acuerdo poco antes de que comenzara el juicio cuyos términos se desconocen? TikTok es una plataforma que no tiene tantos usuarios habituales como Facebook. En el caso de Facebook son 3.000 millones, y 2.000 millones y creciendo en el caso de TikTok. ¿Qué opina del hecho de que se llegara a un acuerdo?

LORI SCHOTT: Creo que eso es muy revelador. Creo que es revelador que TikTok y Snap no querían ser expuestos ante el mundo junto a Meta. Pero creo que también se debe a que era un caso de un demandante individual, y analizando eso desde un contexto legal tuvo que haber alguna discusión para llegar a ese acuerdo. Pero en el caso de mi hija, yo ni sabía que ella estaba en TikTok. Ocultó la aplicación debajo de un ícono de calculadora y, lamentablemente, tras su muerte, descubrimos por uno de sus amigos que ella había visto un suicidio en directo en TikTok, lo que se sumó a su espiral de problemas de salud mental.

AMY GOODMAN: Vamos a hacer una pausa, pero quiero comentar que Lori Schott lleva una gran insignia con una foto de su hermosa hija Anna. Lori Schott y Lennon Torres están hablando con nosotros desde Los Ángeles, donde están asistiendo al juicio. Mark Zuckerberg habló este miércoles en el juicio. Testificó. Laura Márquez-Garrett también estuvo allí en el juicio, pero ha venido aquí a Nueva York a celebrar su inclusión en la lista TIME100 en un gran evento esta noche.

A continuación, hablaremos con la denunciante de Facebook Frances Haugen. Quédense con nosotros.