La IA de Meta se mandó una macana: le preguntó a una mamá quién era el nene que viajaba con ella en el auto

¿En qué momento una inteligencia artificial deja de ser útil y se vuelve un metido? Pregunta retórica, sí, pero no tan retórica después de lo que pasó con el chatbot de Meta, el asistente que vive adentro de Facebook e Instagram. La empresa reconoció que la herramienta se mandó una: a una usuaria le sugirió preguntas invasivas sobre sus hijos a partir de un video que ella misma había subido. O sea, la IA no solo miró lo que vos publicaste, sino que empezó a tejer una historia familiar con material tuyo y de tus parientes. La pregunta del millón: ¿quién autorizó eso?

El caso que encendió la alarma fue simple y a la vez preocupante. Una mujer subió a Instagram un clip cantando con su hijo en el auto. Hasta ahí, una escena de domingo. Pero abajo del video, el asistente de Meta le tiró automáticamente la pregunta: ¿quién es el niño pasajero? Si tocabas esa sugerencia, el chatbot te empezaba a tirar datos de sus hijas: edad, lugar donde vive la familia, y hasta fotos que ella decía haber borrado hacía años. La herramienta cruzó información de publicaciones propias con las de otros familiares para armar el cuadro.

¿Qué dijo Meta? ¿Se lavó las manos o reconoció el papelón?

Dina El-Kassaby, la portavoz de la compañía, salió a poner la cara: reconoció que se equivocaron y que la función nunca debería haber sugerido ese tipo de preguntas. La aclaración oficial intentó marcar la cancha: el sistema no accede a contenido privado al que vos no tengas acceso. O sea, en criollo, Meta repite el latiguillo clásico de las Big Tech: nosotros no hackeamos tu cuenta, solo usamos lo que ya podés ver. El problema, según ellos, fue cómo la IA interpretó y relacionó esa información para terminar preguntando cosas que nadie le pidió.

“Reconocemos que nos equivocamos. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

¿Por qué pasó y qué cambió ahora?

• El asistente fue pensado para dar más contexto sobre lo que ves en la pantalla: de qué habla una foto, quién aparece en un video, qué onda un posteo.
• El error fue que esa misma lógica se aplicó sin filtro sobre datos personales y familiares, y terminó sugiriendo preguntas íntimas en lugar de información general.
• Meta asegura que ya corrigió el comportamiento que generaba esas recomendaciones y que trabaja para que las sugerencias sirvan para explorar publicaciones sin meterse en la vida privada de nadie.
• La empresa también recordó que no es la primera vez que le pasa con IA: en julio pasado retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram tras críticas parecidas.

Para los que no la conocen, la sigla IA viene de inteligencia artificial, ese invento que muchas veces parece magia y otras veces parece tu cuñado preguntando de más en la mesa familiar. La diferencia es que tu cuñado lo hace por curiosidad barata; la IA lo hace porque un modelo de lenguaje agarró todo lo que pudo, lo mezcló y lo escupió en forma de pregunta. El caso de Meta vuelve a poner sobre la mesa un debate que no es nuevo pero que se agranda con cada actualización: hasta qué punto los asistentes pueden procesar información personal sin cruzar una línea. La empresa dice que ahora la línea está más firme. Veremos.