Meta entrenará IA con datos de tecleo y ratón de empleados

Meta Platforms planea recopilar y utilizar datos de tecleo y movimientos del ratón de sus empleados para entrenar sus modelos de inteligencia artificial. Esta medida, detallada en documentos internos y reportada por Business Insider, señala un cambio significativo en cómo las grandes empresas tecnológicas podrían obtener datos de entrenamiento para el desarrollo de IA, afectando potencialmente a herramientas de Meta como Llama.

La iniciativa busca recopilar datos sobre cómo los empleados interactúan con sus ordenadores, incluyendo qué aplicaciones usan y cómo navegan. Estos datos granulares de comportamiento del usuario podrían ofrecer un conjunto de datos único, aunque controvertido, para refinar modelos de IA. Para la división de investigación de IA de Meta, esto podría resultar en asistentes o herramientas internas de IA más matizados y conscientes del contexto. La familia de modelos de lenguaje abierto Llama, por ejemplo, podría beneficiarse del entrenamiento con datos que reflejen patrones complejos de interacción humano-computadora del mundo real, mejorando potencialmente su comprensión de la intención del usuario y la eficiencia del flujo de trabajo.

Preocupaciones éticas y de privacidad

Sin embargo, el plan ya ha generado importantes preocupaciones de privacidad y ética entre los empleados. La perspectiva de una monitorización constante, incluso con fines de entrenamiento de IA, plantea interrogantes sobre la vigilancia en el lugar de trabajo y la seguridad de los datos. Los empleados están preocupados por el alcance de la recopilación de datos y cómo se anonimizarán y protegerán. Este enfoque contrasta con los métodos más comunes de entrenamiento de IA, que a menudo se basan en conjuntos de datos disponibles públicamente, contenido licenciado o datos sintéticos. El potencial de amplificación de sesgos, si los datos de los empleados no representan una base de usuarios diversa, es también una consideración importante.

Las implicaciones para las herramientas de IA de Meta son dobles. Por un lado, los datos podrían acelerar el desarrollo de capacidades de IA más sofisticadas, haciendo que herramientas como Meta AI sean más intuitivas y receptivas. Por otro lado, la reacción negativa de los empleados y un posible escrutinio regulatorio podrían ralentizar o alterar la implementación de tales estrategias de recopilación de datos. Este incidente subraya la tensión continua entre la demanda insaciable de datos de entrenamiento de IA de alta calidad y el imperativo de respetar la privacidad de los empleados y construir confianza dentro de la fuerza laboral. El panorama competitivo del desarrollo de IA, donde los datos son un recurso crítico, podría ver a más empresas explorando fuentes de datos no convencionales, pero el enfoque de Meta establece un precedente potencialmente polémico.