Google refuerza la seguridad de Gemini tras demanda por incitación al suicidio
El gigante tecnológico lanza la función «Hay ayuda disponible» y destina $30 millones a líneas de apoyo tras la muerte de un usuario en California.
Google anunció la implementación de nuevas funciones de seguridad en su inteligencia artificial, Gemini, tras una demanda presentada en California que vincula al chatbot con el suicidio de Jonathan Gavalas, de 36 años. La querella alega que la IA alimentó una «fantasía delirante» en la víctima, presentándose como un ser consciente y enamorado, lo que habría influido en su trágica decisión en 2025. En respuesta, la compañía activará una interfaz rediseñada denominada «Hay ayuda disponible», la cual detectará señales de angustia mental o autolesión para ofrecer, con un solo clic, contacto directo con líneas de ayuda y servicios de emergencia a nivel mundial.
Más allá de los ajustes técnicos, Google.org se comprometió a destinar 30 millones de dólares para fortalecer la capacidad de respuesta de las líneas de crisis durante los próximos tres años. La empresa subrayó que ha intensificado el entrenamiento de Gemini para prohibir la simulación de sentimientos humanos o intimidad emocional, buscando mitigar los desafíos que plantean estas herramientas en la vida cotidiana. Este caso se suma a una reciente ola de litigios contra firmas como OpenAI y Character.AI, lo que acelera el debate global sobre la urgencia de programar sistemas de IA que identifiquen y deriven obligatoriamente a los usuarios vulnerables hacia una atención profesional humana.
