¿Y si la IA te pregunta por tu hijo? Meta la obligó a callarse

¿Cuántas veces dejamos que un algoritmo cruce nuestros recuerdos? En Meta se les pasó de rosca: el asistente de inteligencia artificial metido dentro de Facebook e Instagram le propuso a una usuaria preguntas indiscretas sobre sus hijas, usando como pista un simple video donde cantaba con su hijo en el auto. La escena hogareña terminó en el ojo digital de la máquina.

La usuaria publicó el clip en Instagram. Debajo, la IA soltó la sugerencia: "¿Quién es el niño pasajero?". Al tocarla, el chatbot empezó a escupir datos de las hijas de ella: edad, lugar de residencia, incluso fotografías que la mujer aseguraba haber borrado hacía años. Todo a partir de lo que ella misma había subido y lo que familiares habían publicado.

¿Qué dijo Meta al respecto?

“Nos equivocamos. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

La empresa aclaró lo obvio: no entró en contenido privado. El asistente solo mira lo que vos ya podés ver. El problema fue cómo la IA juntó esos pedazos de información pública para armar sugerencias que se metieron donde nadie las llamó. En criollo: leyó todo, entendió de más y habló de más.

¿Qué cambió ahora?

• Se corrigió el comportamiento que generaba esas recomendaciones automáticas.
• La herramienta seguirá sugiriendo preguntas útiles sobre publicaciones, pero sin meterse con la vida privada ni el entorno familiar.
• Meta prometió filtros para que la IA no relacione datos personales sin permiso del usuario.

No es la primera vez que la compañía tropieza con su propia IA: en julio pasado retiró una función que armaba imágenes falsas de usuarios de Instagram después de que llovieran críticas parecidas. El episodio vuelve a poner sobre la mesa una pregunta incómoda: hasta dónde conviene dejar que un asistente cruce datos, aunque sean públicos, cuando hay chicos de por medio. Veremos.