Entrenar Inteligencia Artificial: La Controversia de la Inteligencia Artificial de Slack

Entrenar inteligencia artificial es una práctica común en muchas empresas tecnológicas, pero cuando se trata de la inteligencia artificial de Slack, el enfoque ha levantado preocupaciones significativas sobre la privacidad de los datos de los usuarios.

Slack en el punto de mira por Entrenar su IA

Este fin de semana, Slack se ha visto envuelto en una intensa polémica en redes sociales y foros de seguridad y privacidad. Se ha descubierto que Slack ha estado entrenando su inteligencia artificial con los mensajes y datos privados de sus clientes. Esta práctica y la política que la rodea han generado confusión y preocupación entre los usuarios.

Descubrimiento en Hacker News

El pasado viernes, en el foro Hacker News, se reveló que Slack estaba utilizando datos privados de sus clientes, como mensajes, contenido y archivos, para entrenar su inteligencia artificial no generativa. La polémica no solo se centra en esta práctica, sino en la confusa política de privacidad de una empresa cuyo negocio se basa en la confidencialidad de las comunicaciones internas y externas de sus clientes.

La Política de Privacidad de Slack

Slack es una herramienta de comunicación interna utilizada principalmente por profesionales para organizar tareas y comunicarse con proveedores y clientes. Las empresas confían en Slack para mantener la privacidad de sus comunicaciones en el más alto nivel. Sin embargo, ha salido a la luz que Slack ha estado utilizando datos privados de sus clientes para entrenar su IA no generativa, que recomienda canales, emojis y realiza búsquedas. Según su política de privacidad:

«No desarrollamos LLM ni otros modelos generativos utilizando los datos de los clientes. Para desarrollar modelos de IA/ML no generativos para funciones como emoji y recomendaciones de canales, nuestros sistemas analizan Datos de clientes (por ejemplo, mensajes, contenido y archivos) enviados a Slack, así como Otra información».

Reacciones y Preocupaciones de los Usuarios

Muchos usuarios se han mostrado sorprendidos e irritados al descubrir que se han utilizado datos privados de sus empresas para entrenar la inteligencia artificial de Slack. Aunque esta práctica esté incluida en la política de privacidad, lo que más molesta a los usuarios es que esta opción se active por defecto, sin previo aviso ni consentimiento explícito. Esta situación podría estar en contra del Reglamento General de Protección de Datos (GDPR) de la Unión Europea, que protege la privacidad de los datos.

Proceso para Cancelar la Participación en el Entrenamiento de la IA

Otra causa de indignación entre los usuarios es el proceso requerido para cancelar la participación en el entrenamiento de la IA. Slack requiere que se envíe un correo electrónico a través del representante de la empresa u organización para desactivar esta opción, en lugar de permitir que los usuarios individuales puedan hacerlo desde su Panel de Control.

Conclusión

La necesidad de entrenar inteligencia artificial es comprensible, ya que las empresas buscan mejorar sus servicios y productos. Sin embargo, la manera en que Slack ha manejado este proceso ha generado descontento entre sus clientes. Las empresas deben considerar métodos más transparentes y respetuosos con la privacidad de los usuarios al desarrollar y entrenar sus sistemas de inteligencia artificial.

¡También te puede interesar! Curso de IA: Aprende Inteligencia Artificial con los cursos de Google