Meta apostará por la IA en lugar de moderadores humanos

Poco más de un año después de abandonar a los verificadores de hechos externos y revertir gran parte de su moderación proactiva de contenido, Meta anuncia que "transformará" aún más su enfoque, reduciendo drásticamente el número de moderadores humanos en favor de sistemas basados en inteligencia artificial (IA). La compañía afirma que este cambio se llevará a cabo "en los próximos años" y permitirá detectar más problemas de forma más rápida que con su método actual.

Meta no ha especificado cuántos de sus trabajadores contratados podrían ser despedidos durante esta transición. Actualmente, la empresa emplea a miles de contratistas en todo el mundo para revisar contenido marcado por sus sistemas de IA y por informes de usuarios, entre otras tareas.

La compañía ha declarado que, a medida que cambie su enfoque, los humanos seguirán desempeñando un "papel clave" en la toma de "decisiones críticas" y en la formación, así como en otras tareas. "Los expertos diseñarán, entrenarán, supervisarán y evaluarán nuestros sistemas de IA, midiendo su rendimiento y tomando las decisiones más complejas y de mayor impacto", afirmó Meta en una actualización. "Por ejemplo, las personas seguirán desempeñando un papel clave en la forma en que tomamos las decisiones de mayor riesgo y más críticas, como las apelaciones de deshabilitación de cuentas o los informes a las fuerzas del orden".

Meta lleva tiempo probando sistemas basados en modelos de lenguaje grandes (LLM) para la moderación de contenido, y asegura que las pruebas iniciales han arrojado resultados "prometedores". Otra ventaja es que su IA puede manejar idiomas utilizados por el "98% de las personas en línea", en comparación con los 80 idiomas que actualmente soportan sus capacidades de moderación.

Si bien Meta sostiene que sus reglas subyacentes no cambiarán, este nuevo enfoque podría alterar drásticamente la percepción de los usuarios sobre cómo Meta hace cumplir sus políticas. La empresa ya depende en gran medida de la IA para ciertas reglas, y muchos usuarios creen que estos sistemas cometen "demasiados errores" y dificultan que sus apelaciones lleguen a manos de personas.

Por otro lado, Meta, que podría ahorrar mucho dinero si reduce significativamente su fuerza laboral contratada, afirma que sus nuevos sistemas cometen "menos errores de sobre-aplicación" y detectan más de las violaciones "más graves".

A corto plazo, Meta está introduciendo un "asistente de soporte" impulsado por IA que ayudará a los usuarios con ciertos tipos de problemas de cuenta. Este chatbot, que se está implementando actualmente en las aplicaciones de Facebook e Instagram, podrá ayudar a los usuarios a reportar contenido y gestionar apelaciones, restablecer contraseñas y gestionar otras configuraciones de cuenta. También podrá ayudar a las personas que queden bloqueadas de sus cuentas "comenzando con casos seleccionados en EE. UU. y Canadá".