Instagram detectará a los menores que mientan sobre su edad: parece buena idea, pero puede ser desastroso

Meta ha anunciado que en sus planes a futuro está el implementar un sistema de inteligencia artificial en Instagram que detectará a los usuarios menores de edad, aunque mientan sobre su edad.

La idea es que esta tecnología pueda aplicar automáticamente configuraciones de privacidad más restrictivas en las cuentas de usuarios menores de 18 años para protegerlos de contenido inapropiado.

El funcionamiento detrás de este "clasificador" de usuarios se basa en que está diseñado para analizar las interacciones y patrones de comportamiento en una cuenta de Instagram. Gracias a esto, sería capaz, al menos en teoría, de identificar si un usuario es realmente mayor de edad. Algunos factores analizados son:

1. A qué perfiles sigue el usuario.
2. Con qué contenido interactúa regularmente.
3. Menciones en publicaciones de cumpleaños de amigos para hacer una estimación.

Si se descubre que la cuenta de alguien pertenece realmente a un menor, automáticamente se cambiarán las configuraciones de privacidad a las más restrictivas, las cuales son:

1. La cuenta será privada por defecto.
2. Se limitará la capacidad de enviar mensajes a personas desconocidas.
3. Se impedirá el acceso a contenido potencialmente inadecuado.

Aunque Meta ya hace esto con quienes declaran tener menos de 18 años, ahora la compañía quiere que los menores que mienten sobre su edad entren en el mismo saco de manera obligatoria.

En caso de que el usuario intente modificar la fecha de nacimiento, Instagram le pedirá una identificación oficial, como el DNI, o les ofrecerá la opción de enviar un selfie en vídeo para que Yoti, una empresa de verificación de edad, pueda confirmar su edad utilizando un algoritmo de reconocimiento facial. Después de dicha verificación, tanto Meta como Yoti eliminan el vídeo.

Más seguridad y, ¿más caos?

No es nada nuevo que el soporte de Meta sea un auténtico agujero negro lleno de confusión y frustración, especialmente cuando ocurren cierres de cuenta injustificados o hay hackeos y robos de cuentas. De hecho, hay usuarios que han tenido que ir al juzgado para recuperar una cuenta de Facebook o Instagram hackeada.

El epicentro de este caos es que los sistemas automatizados de Instagram detectan de forma errónea que los usuarios han violado las políticas y reglas de la red social y que, por eso, se va a proceder al cierre de la cuenta, con todo lo que ello supone, más aún si se es influencer o empresa.

A esta larga lista de reglas que los usuarios deben cumplir y que, aunque las cumplan, pueden ser castigados igualmente por error, se suma la nueva variable de la edad. Si echamos de nuevo un vistazo a los factores que se usan para determinar si un usuario dice la verdad sobre su edad o no, vemos que son bastante ambiguos, lo cual puede llevar a muchas estimaciones erróneas.

Un influencer o empresario afectado por estos errores y restricciones tendría un nivel de interacción mucho más bajo, lo cual afectaría negativamente a su economía, y si quisiese apelar, se encontraría con el laberinto que es Meta en estos casos.

Aunque la posibilidad de verificar la edad mediante Yoti o documento oficial es una solución intermedia, no deja de ser una automatización con posibilidad de error, lo cual no es nada descabellado, dados los continuos errores de este tipo que hay en los productos de Meta.

Por otro lado, está el factor de la privacidad, ¿hasta qué punto es ético y seguro que una empresa como Meta, que llegó a guardar 600 millones de contraseñas sin ningún protocolo de seguridad, utilice un algoritmo para “adivinar” la edad de una persona y limitar su acceso a ciertos contenidos en función de esta estimación?

Esa es una pregunta que se choca con otra cuestión, que es la del impacto de Instagram y Facebook (al igual que otras redes sociales) en la salud mental de los jóvenes. Algunos legisladores tanto de Estados Unidos como de Europa han sido duros con las redes sociales por sus efectos negativos, como la ansiedad social y la depresión, principalmente en jóvenes.

Meta, junto con otras plataformas, ya acumula varias demandas por su supuesta contribución a la crisis de salud mental en adolescentes, y ante esto, es lógico que tomen una medida tan drástica como la de activar este "algoritmo adivinador" de edades. Sin embargo, esperamos que, mientras esto beneficia a los jóvenes, no perjudique a usuarios adultos que se ganan la vida en redes sociales.

Meta está despidiendo empleados en WhatsApp e Instagram