Una escuela en Lancaster, Pennsylvania, está en las noticias por un grave escándalo que involucra fotos desnudas de estudiantes creadas por IA.
Esta situación ha llevado a la renuncia de importantes funcionarios escolares.
Muchos padres y estudiantes están enojados y preocupados por lo que sucedió.
El escándalo escolar destaca los peligros relacionados con el uso de inteligencia artificial.
El problema comenzó en la Lancaster Country Day School, que tiene alrededor de 600 estudiantes desde preescolar hasta secundaria.
En noviembre de 2023, se reportó un aviso anónimo a través del programa Safe2Say Something.
Este programa permite a las personas informar sobre preocupaciones de seguridad.
El aviso decía que un estudiante masculino había utilizado herramientas de IA para crear imágenes explícitas de compañeras de clase.
Manipuló sus fotos para hacerlas parecer desnudas.
Aunque el aviso era serio, pasó mucho tiempo antes de que alguien hiciera algo significativo.
Los funcionarios escolares no contactaron a la policía ni tomaron medidas rápidas para proteger a las chicas.
Esta respuesta lenta permitió que el estudiante masculino apuntara a más víctimas.
Eventualmente, casi 50 chicas estuvieron involucradas en esta alarmante situación.
El problema se hizo público en mayo de 2024 cuando los padres se enteraron de lo que había estado sucediendo.
Para ese momento, algunas de las imágenes explícitas ya se habían compartido en línea.
Los padres estaban comprensiblemente molestos, especialmente porque los líderes escolares no actuaron rápidamente.
En agosto de 2024, la policía arrestó a un niño de 15 años bajo sospecha de crear y enviar las imágenes inapropiadas.
Su iPhone fue confiscado como parte de la investigación.
Sin embargo, la confianza en los líderes de la escuela ya había sido profundamente sacudida.
Los padres acusaron a los funcionarios de no cumplir con su deber de informar sobre el abuso infantil sospechado.
También sintieron que la escuela no protegió a sus hijos.
A medida que se difundían las noticias sobre el escándalo, los padres se unieron en su demanda de responsabilidad por parte de la administración escolar. En noviembre de 2024, emitieron una carta a través de sus abogados pidiendo renuncias inmediatas y cambios importantes en la Lancaster Country Day School.
Solicitaron la renuncia del Director de la Escuela Matt Micciche y de la Presidenta de la Junta Angela Ang-Alhadeff, junto con capacitación obligatoria para todo el personal sobre cómo informar sobre el abuso infantil. También pidieron la contratación de un oficial de recursos certificado a tiempo completo para supervisar la seguridad de los estudiantes y recomendaron que se contratara a una empresa de informática forense para rastrear dónde se habían compartido las imágenes explícitas.
Además, los padres instaron a la escuela a proporcionar servicios de consejería gratuitos para todos los estudiantes afectados. Bajo una inmensa presión de la comunidad, tanto Micciche como Ang-Alhadeff renunciaron a mediados de noviembre de 2024. A pesar de sus renuncias, los padres mantuvieron su intención de presentar una demanda contra la escuela.
Los estudiantes de LCDS también expresaron su enojo y frustración. El 8 de noviembre de 2024, más de la mitad del alumnado de la escuela secundaria realizó una huelga, marchando por el campus y exigiendo ser escuchados. Su protesta significó los sentimientos generalizados de traición entre los estudiantes que esperaban que su escuela creara un ambiente seguro.
El 18 de noviembre, las clases fueron canceladas mientras los funcionarios de la escuela se apresuraban a manejar la crisis. En una declaración ese día, la escuela reconoció el momento desafiante que enfrenta la comunidad y se comprometió a revisar sus protocolos de seguridad y métodos de reporte. Se pusieron a disposición servicios de consejería para los estudiantes que fueron impactados.
Este incidente ha planteado preguntas críticas sobre el uso responsable de la inteligencia artificial, arrojando luz sobre problemas más amplios relacionados con el uso indebido de la tecnología para crear contenido dañino. Las herramientas de IA capaces de generar imágenes realistas son cada vez más accesibles, lo que genera preocupaciones sobre cómo podrían ser mal utilizadas, particularmente en las escuelas.
En Pensilvania, una nueva ley que entrará en vigor en diciembre de 2024 prohibirá específicamente la creación o distribución de material de abuso sexual infantil generado por IA. Esta ley es parte de un esfuerzo nacional más amplio para abordar los peligros asociados con tales tecnologías. Aunque las leyes federales actuales ya prohíben las imágenes manipuladas de menores bajo los estatutos de pornografía infantil, el incidente en LCDS destaca las lagunas en las leyes existentes sobre la IA.
Los eventos en la Escuela Country Day de Lancaster no son un caso aislado. Han surgido incidentes similares que involucran imágenes explícitas generadas por IA en varias instituciones educativas de EE. UU., incluyendo lugares en Alaska, Nueva Jersey, Seattle, Los Ángeles y Miami. A principios de este año, dos adolescentes fueron arrestados en Florida por producir imágenes desnudas deepfake de sus compañeros de clase, marcando una de las primeras instancias en EE. UU. donde se presentaron cargos criminales relacionados con imágenes desnudas generadas por IA.
A medida que continúan las investigaciones y se persiguen medidas legales, es evidente que el abuso de la tecnología de inteligencia artificial presenta serias consecuencias que la sociedad debe enfrentar urgentemente.
