Alphabet Inc., la empresa matriz de Google, alcanzó un entendimiento legal para cerrar una demanda presentada por la madre de un joven de 14 años que se quitó la vida. La acción judicial señalaba a un sistema de inteligencia artificial como un factor determinante en el desenlace trágico.
El litigio apuntaba a Character.AI, una startup creada por dos exingenieros de Google que más tarde regresaron a la compañía. Según la acusación, la tecnología desarrollada por esa firma tuvo un rol directo en la conducta del adolescente.
La acusación: una IA que cruzó límites
La demanda fue presentada en octubre de 2024 por Megan García, madre de Sewell Setzer. En su escrito sostuvo que Google fue cocreador del chatbol que mantuvo extensos intercambios con su hijo, en los que la inteligencia artificial adoptó la identidad de un personaje de Game of Thrones.
De acuerdo con la presentación judicial, esas conversaciones derivaron en un proceso de influencia emocional que terminó con el suicidio del menor, convirtiendo el caso en uno de los primeros en Estados Unidos que vinculan en forma directa a la IA con la incitación al suicidio.
Esta semana, documentos ingresados al expediente confirmaron que Google y Character.AI resolvieron el conflicto mediante un acuerdo privado. Hasta el momento, no trascendieron las condiciones ni si incluye compensaciones económicas.
Conforme informó el New York Post, el caso era observado con atención porque abría la puerta a cuestionamientos legales contra desarrolladores de inteligencia artificial por no proteger adecuadamente a usuarios menores de edad frente a riesgos psicológicos.
Si usted, o algún familiar o allegado suyo, está atravesando una crisis emocional de cualquier tipo, siente que nada tiene sentido o se encuentra atrapado en una situación a la que no le encuentra salida, recurra a la Línea de Prevención del Suicidio – Ayuda a Personas en Crisis de su país:
Desde Argentina, llame al 135 (línea gratuita desde Capital y Gran Buenos Aires); (011) 5275-1135 o 0800 345 1435 (desde todo el país)
