Demandan a xAI por generar imágenes sexualizadas de adolescentes en EEUU

Tres adolescentes en Estados Unidos presentaron una demanda colectiva contra xAI, la empresa de inteligencia artificial de Elon Musk. Acusan a su chatbot Grok de haber generado imágenes pornográficas de ellas a partir de fotos reales, según anunciaron sus abogadas.

La acción judicial está relacionada con la proliferación a finales del año pasado de montajes hiperrealistas (deepfake, en inglés) de mujeres y niños desnudos.

La aparición de esas imágenes en redes sociales provocó una ola de indignación mundial y la apertura de investigaciones en varios países y en California. La demanda cita el caso de una persona ya detenida, que utilizó Grok para transformar fotos ordinarias de las jóvenes, tomadas de redes sociales o de anuarios escolares, en imágenes sexualizatdas hiperrealistas.

Estos montajes circularon luego en X, Discord y Telegram, y después migraron a la internet profunda (dark web) como moneda de cambio para otros contenidos de pornografía infantil, así lo señala la demanda presentada ante un tribunal federal de San José (California).

La madre de una de las adolescentes en un comúnicado señaló «Ver a mi hija sufrir un ataque de pánico al darse cuenta de que esas imágenes habían sido creadas y difundidas sin ninguna esperanza de borrarlas fue desgarrador«, dijo.

Por otra parte, se dio a conocer que una de las demandantes sufre pesadillas recurrentes, mientras que otra necesita apoyo médico para poder dormir y teme asistir a su ceremonia de graduación.

Finalmente la parte demandante aseguró que se diseñó «deliberadamente Grok para producir contenidos sexualmente explícitos con fines lucrativos», sin implementar las protecciones utilizadas por otros grandes actores de la IA contra la pornografía infantil.

T/Agencias