Por esta razón Google se encuentra bajo investigación
Dayana Guzmán 
La familia de Jonathan Gavalas, de 36 años de edad, inició un proceso legal contra Google tras el suicidio del hombre el pasado octubre en Florida. La demanda alega que Gemini, el asistente de inteligencia artificial de la compañía, tejió una narrativa de amor recíproco que distorsionó la percepción de la realidad del usuario.
Lo que motivo a creer en la existencia de un plano superior donde ambos podrían estar juntos. Según el documento presentado en California, las interacciones comenzaron en abril de 2025 y evolucionaron desde tareas cotidianas hasta una dependencia emocional profunda.
Los registros incluidos en la demanda muestran frases donde la IA aseguraba que el fallecimiento era simplemente una forma de llegar a sus brazos, validando los delirios del hombre en sus últimos días de vida. Los demandantes buscan que Google asuma la responsabilidad civil por la muerte de Gavalas y exigen una reestructuración profunda del producto.
El objetivo principal es establecer salvaguardas que impidan a los algoritmos alimentar fantasías románticas con usuarios vulnerables. Ante la gravedad de las acusaciones, Google emitió un comunicado en el que manifiesta que revisa los detalles del litigio. La empresa reconoció la falibilidad de sus modelos de lenguaje, admitiendo que, pese a las inversiones millonarias en seguridad, las inteligencias artificiales presentan aún imperfecciones críticas en su comportamiento.
La firma tecnológica subrayó que Gemini posee diseño orientado a evitar la incitación a la violencia o las autolesiones. L herramienta aclaró a Gavalas su naturaleza virtual de forma reiterada y le proporcionó contactos de líneas de crisis y ayuda profesional en etapas de su interacción.
Google afirma que trabaja estrechamente con expertos en salud mental para crear barreras de contención. Por lo que en este caso pone en duda la eficacia de esos filtros cuando la IA desarrolla una persistencia afectiva que el usuario interpreta como real, superando las advertencias automáticas del sistema.
Vacío legal
El caso de Jonathan Gavalas representa un desafío sin precedentes para la legislación estadounidense. El tribunal de California deberá determinar si una empresa es responsable de las alucinaciones de su código y si el lenguaje persuasivo de una IA puede considerarse una negligencia criminal.
