IA y Slack: Nuevas tendencias en privacidad de datos y usos futuros

Las últimas tendencias en IA: API de Slack, modelos de lenguaje a gran escala (LLM) y el futuro de nuestra privacidad de datos

Hola, soy John, un bloguero veterano. La tecnología de IA evoluciona a diario y está a punto de traer grandes cambios a nuestro trabajo y a nuestra vida. Últimamente, puede que hayas oído hablar cada vez más de palabras clave como "API de Slack", "Modelo de lenguaje a gran escala (LLM)" y "Privacidad de datos". Sin embargo, a muchas personas les puede resultar difícil de entender. ¡No te preocupes! En este artículo, explicaremos de forma sencilla para principiantes cómo se relacionan estas tecnologías con nuestras herramientas habituales, especialmente la plataforma de comunicación Slack, y, lo más importante, "¿Están seguros nuestros datos?". Recientemente, Salesforce, la empresa matriz de Slack, anunció un cambio importante en el uso de los datos de Slack para el aprendizaje de IA (especialmente LLM). ¡Veamos qué significa esto!

Conceptos básicos: ¿Qué son la API de Slack, LLM y la privacidad de datos? ¿Y qué ha cambiado?

Primero, veamos los significados básicos de las palabras.

• API de Slack：API significa "Interfaz de programación de aplicaciones".Una "puerta de enlace" o "puente" para que diferentes programas intercambien informaciónAsí es. Con la API de Slack, puedes conectar Slack automáticamente con otras herramientas y servicios (por ejemplo, apps de calendario y herramientas de gestión de proyectos) para recibir notificaciones y compartir información en Slack.
• Modelos de lenguaje grandes (LLM):esto es,IA (inteligencia artificial) que puede comprender el lenguaje natural y generar oraciones como lo hacen los humanosEs un tipo de LLM. ChatGPT, que quizás ya conozcas, es un ejemplo de LLM. Al aprender de grandes cantidades de datos de texto, puede realizar diversas tareas, como responder preguntas, resumir textos y traducir.
• privacidad de datos:esto es,Cómo se debe recopilar, utilizar y proteger la información personalEsta es la idea subyacente. Se trata de un conjunto de normas y derechos que protegen la información que proporcionamos al usar servicios de internet y los datos que creamos en ellos (como el contenido de las conversaciones en Slack) contra el uso o la filtración por parte de empresas sin permiso.

¿Cuál es el problema y qué se está solucionando?

LLM es muy inteligente, pero para obtener esa inteligencia, necesita una gran cantidad de datos de aprendizaje. Herramientas de comunicación como Slack almacenan mucha información valiosa, como contactos laborales diarios, discusiones de proyectos e intercambio de ideas. Si estos datos de Slack se utilizan para entrenar a LLM, podría ser posible crear un asistente de IA más inteligente y especializado en tareas específicas. Por ejemplo, una IA que haya aprendido sobre interacciones pasadas dentro de la empresa puede responder preguntas de nuevos empleados y buscar información relacionada.

Pero aquí hay un gran problema.Privacidad y seguridad de datosLas conversaciones en Slack suelen contener información confidencial o personal. Existía la preocupación de que esta información pudiera utilizarse involuntariamente para el estudio de un Máster en Derecho (LLM) o filtrarse al exterior. En particular, existía una fuerte resistencia a la idea de compartir grandes cantidades de datos de Slack de la empresa con un LLM desarrollado por una empresa externa.

Por lo tanto, la empresa matriz de Slack, Salesforce, actualizará los términos de uso de la API de Slack el 2024 de mayo de 5.La exportación masiva de datos a través de la API de Slack y el uso de dichos datos para estudios de LLM están expresamente prohibidos.Esta medida busca proteger la privacidad de los datos de los usuarios y proporcionar un control más estricto sobre el uso de los datos en Slack. Este cambio tendrá un impacto significativo en la gestión de los datos de Slack por parte de las aplicaciones de IA de terceros (herramientas de IA desarrolladas por empresas externas que trabajan con Slack).

Características únicas: Novedades

A continuación se muestran algunos cambios notables en los términos de servicio de la API de Slack de Salesforce:

• Prohibición de uso de datos para fines de estudios de LLMLos datos accedidos a través de la API de Slack ya no se pueden usar para entrenar LLM. Esto representa un cambio importante en la política para muchas empresas de desarrollo de IA y para aquellas que buscan desarrollar su propia IA interna.
• Limitaciones en la exportación masiva de datos:La exportación masiva de datos de Slack a través de API ahora está prohibida, lo que dificulta que las empresas ingieran datos de Slack de forma masiva en LLM externos.
• Dirigiéndolo a la nueva API de búsqueda en tiempo realEn cambio, Slack parece haber decidido ofrecer un nuevo mecanismo llamado "API de búsqueda en tiempo real" para fortalecer la función de búsqueda dentro de Slack. Se cree que esta medida busca fomentar el uso de IA dentro de la plataforma Slack, en lugar de divulgar datos al exterior.

Estos cambios son parte de un debate más amplio sobre cómo la IA debería utilizar los datos empresariales, ya que las empresas deben encontrar un equilibrio entre cómo pueden aprovechar el poder de la IA y al mismo tiempo proteger sus valiosos datos.

Los detalles técnicos: ¿qué ha cambiado y por qué es importante?

En el centro de estos cambios se encuentran la API y el LLM, así como la gestión de los datos que los rodean. Analicémoslos con más detalle.

El papel de la API de Slack y cómo se ha utilizado

Como se mencionó anteriormente, las API permiten la integración de software. La API de Slack era una herramienta muy potente para los desarrolladores. Por ejemplo, se podía usar para:

• Desarrollo de un bot de notificación personalizado:Notificar cuando se publica un mensaje que contiene una palabra clave específica, agregar registros de errores en Slack, etc.
• Automatización del flujo de trabajoEscribir un comando específico en Slack podría crear una tarea en una herramienta de gestión de proyectos, actualizar una base de datos de clientes, etc.
• データ分析とレポート作成Analice patrones de comunicación en Slack para medir el compromiso del equipo o comprender el volumen de discusión en torno a un tema en particular.
• Desarrollo de un asistente de IA:Y esta es el área que se verá muy afectada por este cambio, pero es un intento de recopilar datos de conversaciones dentro de Slack y usar esos datos para desarrollar un chatbot de IA que conozca la información interna de la empresa.

Hasta ahora, algunas empresas y desarrolladores han estado intentando crear aplicaciones de IA más inteligentes extrayendo datos de Slack a través de esta API y usándolos como datos de entrenamiento para LLM.

Por qué los LLM "quieren" tus datos de Slack

El rendimiento del Máster en Derecho (LLM) se ve afectado en gran medida por la calidad y cantidad de los datos que utiliza. Si bien los LLM basados ​​en información general de sitios web y datos de libros son muy buenos, aprender de información real sobre empresas e industrias específicas le permitirá responder con mayor profesionalidad y una mejor comprensión del contexto.

Slack está repleto de este tipo de información "en vivo".

• Comunicación empresarial diaria¿Quién está hablando de qué y qué idioma se está utilizando?
• Progreso del proyecto:Retos, soluciones y procesos de toma de decisiones.
• Conocimiento internoResolución de problemas pasados, historias de éxito y intercambio de experiencia.

Al entrenar LLM con estos datos, es posible crear una IA capaz de generar respuestas con un buen conocimiento de las circunstancias internas de la empresa, incluso para preguntas específicas como: "Por favor, dígame la solución al problema B que surgió en el proyecto A el año pasado". Esta es la razón por la que muchas empresas prefieren usar datos de Slack para entrenar LLM.

Desafíos desde la perspectiva de la privacidad de datos

Sin embargo, este uso de Slack como datos de aprendizaje plantea importantes preocupaciones sobre la privacidad, ya que las conversaciones de Slack pueden contener la siguiente información:

• informacion personal:Nombres de empleados, información de contacto y temas personales.
• información confidencial:Información de productos inédita, estrategias comerciales y datos de clientes.
• Información negativa:Quejas de empresas y opiniones personales.

Existe el riesgo de que esta información, incluso con fines de aprendizaje, se transmita a empresas externas de desarrollo de LLM, o que el LLM la recuerde involuntariamente y la filtre en un contexto diferente. Por ejemplo, si le preguntas a un LLM "¿Sabes algo sobre el nuevo producto de X?", podría responder basándose en información interna de Slack (que no está disponible públicamente) contenida en los datos de aprendizaje.

El cambio de Salesforce (Slack) en los términos de su API y las restricciones sobre el uso de datos para la formación de LLM se debe a que se toman en serio estos riesgos. Han decidido que la protección de los datos empresariales de los usuarios y el mantenimiento de la fiabilidad de la plataforma son su máxima prioridad. En particular, como se informa en los resultados de búsqueda de Apify, como "Salesforce cambia los términos de la API de Slack para bloquear el acceso masivo a datos para LLM" y "Salesforce refuerza el control sobre los datos de Slack para bloquear a sus rivales de IA", la intención de reforzar el control sobre el uso de datos es clara.

Impacto para usuarios y desarrolladores

¿Cómo afectará este cambio en los términos de la API de Slack a las empresas que usan Slack y a los desarrolladores que crean aplicaciones integradas con Slack?

Impacto en las empresas que utilizan Slack

• Restricciones en el uso de herramientas de IA de tercerosAlgunas herramientas de IA que antes usaban datos de Slack (especialmente aquellas que entrenaban datos de Slack con LLM externos) podrían tener una funcionalidad limitada o ya no estar disponibles. Según un artículo de MarketingTechNews, las aplicaciones no oficialmente listadas en Slack podrían verse afectadas.
• Impacto en la IA desarrollada internamente:Si una empresa planeaba extraer datos de Slack y entrenar a su propio LLM para construir un sistema de IA, tal vez debiera repensar este plan.
• Expectativas para las funciones de inteligencia artificial nativas de SlackPor otro lado, esto podría fomentar el uso de las funciones de IA que ofrece Slack (por ejemplo, la nueva función "Agentes y Asistentes", anunciada recientemente, que permite a los usuarios crear aplicaciones conversacionales con LLM). Se espera que estas funciones se completen dentro de la plataforma Slack y se diseñen teniendo en cuenta la privacidad de los datos.
• Fortalecimiento de la gobernanza de datosPara las empresas, esta puede ser una buena oportunidad para reexaminar cómo se utilizan sus datos y fortalecer la gobernanza de datos (un sistema para la gestión adecuada de datos).

Impacto en los desarrolladores que crean aplicaciones integradas con Slack

• Cumplimiento de los Términos de uso de la APILos desarrolladores deben cumplir estrictamente con los nuevos Términos de Uso de la API. En particular, el uso de datos de Slack para el aprendizaje de LLM y las exportaciones masivas está expresamente prohibido, por lo que cualquier aplicación que infrinja estos términos debe modificarse o suspenderse.
• En busca de nuevos enfoques de desarrolloAl desarrollar una aplicación de IA que utilice datos de Slack, la tendencia principal será usar las nuevas API de Slack (como la API de Búsqueda en Tiempo Real) y las funciones de IA dentro de la plataforma (como Agentes y Asistentes), en lugar de extraer los datos externamente y entrenar el LLM. Tecnologías como la Recuperación-Generación Aumentada (RAG) buscan la información necesaria en tiempo real en respuesta a la pregunta de un usuario y la proporcionan al LLM para generar una respuesta. Por lo tanto, este enfoque es diferente al de usar datos de Slack como un gran conjunto de datos de preentrenamiento y podría ser una opción para el futuro.
• Garantizar la transparenciaLas aplicaciones deberán explicar más claramente a los usuarios cómo utilizan los datos de Slack y qué medidas han tomado para proteger su privacidad.

En general, estos cambios suponen un cambio radical en el modo en que se utilizan los datos en el desarrollo de IA y señalan un cambio hacia un uso de la IA más centrado en la privacidad e impulsado por la plataforma.

Casos de uso y perspectivas futuras

¿Cómo evolucionará el uso de IA en Slack ante este cambio en términos de servicio?

Casos de uso aprobados actualmente

Aunque las condiciones de uso de la API de Slack prohíben el uso de datos para fines de aprendizaje del Máster en Derecho (LLM), esto no significa que el uso de tecnología de IA esté completamente prohibido. Por ejemplo, los siguientes usos siguen siendo posibles o se consideran recomendables.

• Búsqueda y resumen en tiempo real en Slack:Una función que utiliza IA para presentar información muy relevante y resumir el contenido de hilos largos cuando los usuarios buscan información dentro de Slack, utilizando la "API de búsqueda en tiempo real" de Slack y otros servicios.
• Utilizando la Generación Aumentada por Recuperación (RAG)Cuando un usuario formula una pregunta, el LLM no genera una respuesta directamente a partir de los datos de entrenamiento, sino que primero busca información relevante en Slack (o en documentos externos permitidos) y luego construye una respuesta basándose en los resultados de la búsqueda. Esto permite al LLM responder basándose en información no entrenada o actualizada, reduciendo la dependencia de datos de preentrenamiento. La entrada del blog de AWS "Integrar agentes de Amazon Bedrock con Slack" describe cómo integrar agentes de Amazon Bedrock en un espacio de trabajo de Slack, que también puede considerarse una forma de RAG.
• Uso de las funciones oficiales de inteligencia artificial de SlackLos "Agentes y Asistentes" de Slack se presentan como una nueva forma para que los desarrolladores creen aplicaciones conversacionales con IA. Se trata de un marco para implementar funciones de IA que cumplan con las políticas de datos de Slack.
• Automatizar tareas rutinariasLa IA seguirá siendo posible en forma de bots que envían mensajes estandarizados basados ​​en desencadenantes específicos o responden automáticamente a preguntas simples, sin la necesidad de "aprendizaje" LLM, o en un alcance muy limitado.

El futuro de la IA en Slack

A primera vista, este cambio en las regulaciones puede parecer que limita la libertad de uso de la IA, pero a largo plazo puede verse como un paso importante hacia un uso más seguro y confiable de la IA.

Se espera que el uso futuro de IA en Slack avance en las siguientes direcciones:

• La evolución de la tecnología de protección de la privacidadLos avances tecnológicos mejorarán la precisión de la IA y, al mismo tiempo, protegerán la privacidad, como la anonimización de datos y la introducción de la privacidad diferencial (una técnica que reduce estadísticamente el impacto de los datos individuales). Soluciones como Skyflow LLM Privacy Vault afirman ofrecer una protección integral de la privacidad para evitar la filtración de datos confidenciales a los LLM.
• Ecosistema de IA impulsado por plataformasSlack (Salesforce) puede proporcionar herramientas y API de desarrollo de IA seguras para desarrolladores y crear un ecosistema de IA completo dentro de su plataforma. Esto permitirá a los usuarios gestionar sus datos mientras disfrutan de la comodidad de la IA.
• Aprendizaje en contexto más sofisticadoEn lugar de que los LLM "aprendan" grandes cantidades de datos de antemano, es posible que veamos un mayor énfasis en el aprendizaje en contexto, donde el LLM responde en función del contexto proporcionado por el usuario durante las interacciones con él.

La decisión de Salesforce de proteger los datos de Slack de sus competidores en IA también forma parte de una estrategia para fortalecer la colaboración con su propia IA (Einstein, etc.) y utilizar los datos de los clientes dentro de su propio ecosistema. Esta medida podría ser imitada por otras plataformas importantes, lo que pone de relieve el valor de los datos en la era de la IA y la importancia de controlarlos.

Comparación con la competencia: acceso a datos y estrategias de IA

La razón detrás de la decisión de Slack (Salesforce) de restringir el acceso a los datos radica en el gran desafío que enfrenta la industria en su conjunto: cómo equilibrar la carrera por el desarrollo de la IA con la privacidad de los datos. ¿Cómo están respondiendo otras plataformas y empresas de desarrollo de IA a este problema?

Enfoque de Slack (Salesforce)

• 特 徴:Priorizar la protección de datos, promover el uso de IA dentro de las plataformas internas y restringir el uso gratuito de datos por parte de terceros.
• el objetivo:Ganar la confianza de los usuarios, fortalecer la gobernanza de datos, fortalecer el ecosistema a través de la colaboración con los propios productos de inteligencia artificial de la empresa (por ejemplo, Salesforce Einstein) y evitar que los competidores utilicen los datos de la plataforma de la empresa.
• ImpactoA corto plazo, podría generar confusión entre algunos desarrolladores y usuarios externos. A largo plazo, se espera que cree un entorno más seguro y controlado para el uso de la IA, pero también podría obstaculizar ligeramente la libertad de innovación.

Enfoques comunes (posibles) de otras plataformas y empresas de IA

• Un enfoque abierto:Algunas plataformas y comunidades de código abierto pueden ser más abiertas respecto del uso de datos y el desarrollo de LLM, lo que podría acelerar la innovación pero plantea desafíos en la gestión de la privacidad de los datos y los riesgos de seguridad.
• Aclarar los términos de uso de datos y fortalecer la recopilación de consentimiento:Muchas empresas avanzarán hacia una mayor transparencia y procesos de consentimiento más claros para el uso de datos de los usuarios en el entrenamiento de IA, impulsados ​​por regulaciones como el RGPD.
• Promoción de LLMs presenciales y privadosPodríamos observar un aumento en la tendencia de las empresas a operar LLM en entornos bajo su propio control (locales) sin enviar datos confidenciales a servicios LLM externos, o a utilizar LLM privados entrenados únicamente con datos específicos de la empresa. El artículo de Workato "Cómo escalar el impacto de la IA con RAG y LLM" describe un caso práctico en el que el uso de agentes locales aceleró la adopción de nuevas fuentes de datos, cumpliendo a la vez con estrictas políticas de privacidad de datos.
• Utilizando metadatosEl blog de GoodData, "Por qué la IA en el análisis necesita metadatos", analiza un enfoque que aprovecha los datos sobre los datos (metadatos) en lugar de los datos en sí para evitar los riesgos de enviar datos confidenciales directamente a LLM.

Después de todo, los datos son un recurso valioso, como el petróleo moderno. Las estrategias de cada empresa para proteger, utilizar y permitir que otras empresas utilicen (o no) los datos que posee serán cruciales en la futura carrera de la IA. La última iniciativa de Slack muestra parte de esa carrera.

Riesgos y precauciones

Existen ciertos riesgos y precauciones que se deben tomar al modificar la API de Slack y usar LLM. Comprenderlos es fundamental para manejar la tecnología de IA con prudencia.

Riesgos y precauciones para los usuarios

• Cambios o interrupción de funciones de herramientas de las que dependeSi utiliza una herramienta de IA de terceros que utiliza datos de Slack, este cambio en las condiciones podría significar que ya no podrá usarla o que su funcionalidad se vea significativamente restringida. Es importante verificar si la herramienta que utiliza cumple con las nuevas condiciones.
• Abordar las preocupaciones de que "los datos se utilizarán sin nuestro conocimiento"Si bien las últimas medidas de Slack refuerzan la protección de datos, es importante revisar cuidadosamente la política de privacidad al usar servicios de IA para ver cómo se gestionan tus datos. Como se comentó en el hilo de Reddit "La inferencia en línea es una pesadilla para la privacidad", LLM, en particular, siempre corre el riesgo de sufrir fugas de datos al usarla en línea.
• Precisión de las respuestas de la IALos LLM a veces pueden generar información falsa o incierta de forma plausible (alucinación). La documentación de Cortex "Slack | Cortex" también advierte que, como ocurre con todos los Modelos de Lenguaje Grandes (LLM), el Asistente de IA podría no proporcionar respuestas precisas. No acepte ciegamente la información de la IA y asegúrese de que las decisiones importantes sean confirmadas por un humano.

Riesgos y precauciones para los desarrolladores

• Cambios frecuentes en los términos de uso de la APILos términos de uso de la API de la plataforma pueden cambiar sin previo aviso, como en este caso. Los desarrolladores deben consultar siempre los términos más recientes y estar preparados para responder con prontitud.
• El riesgo de la deuda técnicaAl construir un sistema que depende profundamente de la API de una plataforma específica, existe el riesgo de que los cambios en las especificaciones de esa API resulten en una deuda técnica significativa (costos de modificación).
• Abordar las regulaciones de privacidad de datosLas normativas de privacidad de datos, como el RGPD (UE), la HIPAA (información médica estadounidense) y la Ley de Protección de Datos Personales revisada de Japón, son cada vez más estrictas a nivel mundial. Un diseño y desarrollo que cumpla con estas normativas es esencial. El artículo de GraffersID "¿Qué son los LLM? Beneficios, casos de uso y modelos destacados en 2025" también destaca la importancia de la privacidad de datos y el cumplimiento normativo.

Preocupaciones comunes sobre la privacidad de los datos de IA

• Aprendizaje no intencional y fuga de datosSiempre existe el riesgo de que LLM "recuerde" información confidencial o personal contenida en los datos de capacitación y la muestre de forma inesperada.
• Reutilización y mal uso de datosTambién es importante considerar la posibilidad de que los datos proporcionados puedan reutilizarse de una manera distinta a su propósito original.
• Fuga de datos debido a una violación de seguridad:El propio sistema que opera LLM podría convertirse en un objetivo de ataques cibernéticos, lo que supone un riesgo de filtración de datos de entrenamiento y de usuarios.

En el futuro, será necesario que comprendamos estos riesgos y abordemos la tecnología de IA con cautela.

Opiniones y análisis de expertos (de informes extranjeros)

El reciente cambio de Salesforce en los términos de la API de Slack ha recibido una amplia cobertura en medios de TI internacionales. Analicemos algunos informes para conocer la opinión de los expertos sobre esta medida.

• Computerworld (artículo del 2025 de junio de 6: «Salesforce cambia los términos de la API de Slack para bloquear datos masivos…»)Este artículo informa que «Salesforce ha modificado los términos de la API de Slack para impedir que los LLM accedan a datos de la plataforma». En particular, enfatiza que «se prohíbe la exportación masiva de datos de Slack mediante la API, y los datos a los que se accede mediante la API de Slack ya no pueden utilizarse para el aprendizaje de LLM». Esto se interpreta como una clara señal del deseo de Salesforce de reforzar el control sobre sus propios datos y poner fin al uso gratuito de datos por parte de desarrolladores de LLM externos.
• MarketingTechNews (artículo del 2025 de junio de 6: «Slack limita el uso de datos de las aplicaciones de ayuda no oficiales»)El medio informa que "los comentaristas han señalado el deseo de la compañía de restringir el uso de los datos de mensajes de Slack para entrenar modelos lingüísticos a gran escala (LLM)". También menciona que las aplicaciones no registradas oficialmente en Slack podrían verse afectadas, lo que sugiere que el impacto en las aplicaciones de terceros es considerable.
• The Globe and Mail / TipRanks / AOL / TahawulTech (artículos del 2025 y 6 de junio de 10, “Salesforce refuerza su control sobre los datos de Slack para bloquear a sus rivales en inteligencia artificial”, etc.)Casi todos estos informes comparten el titular: «Salesforce está reforzando la gestión de los datos de Slack para bloquear a los competidores de IA». Citan la declaración de Salesforce de mayo, en la que afirmaba: «Estamos reforzando la protección sobre cómo se almacenan, utilizan y comparten los datos a los que se accede a través de la API de Slack», y presentan este cambio como una medida concreta en esa dirección. Esto sugiere que Salesforce podría estar aprovechando estratégicamente la riqueza de datos de Slack para impulsar su propia estrategia de IA (por ejemplo, Einstein GPT), a la vez que impide que sus competidores la utilicen como parte de una estrategia de contención.

Tomando todos estos informes en conjunto, los expertos parecen considerar la última decisión de Salesforce no solo como un cambio técnico en las regulaciones, sino como uno estratégico que implica una combinación de factores, entre ellos:

1. Mayor privacidad y seguridad de los datos:Una razón legítima: proteger la información confidencial de las empresas usuarias.
2. Garantizar el control de datos:No permitirán que otras empresas, especialmente aquellas que potencialmente podrían competir en el desarrollo de IA, utilicen libremente los datos, que son el “huevo de oro” de su plataforma.
3. Orientación sobre nuestros propios productos de IALas funciones de IA que utilizan datos de Slack se proporcionarán a través de las propias soluciones de IA de Salesforce (por ejemplo, nuevas funciones de IA dentro de Slack e integración con Salesforce Einstein), lo que aumentará el valor de los productos de la empresa.

Esta medida puede ser un ejemplo típico de la estrategia de datos de un proveedor de plataformas en la era de la IA.

Últimas noticias y aspectos destacados de la hoja de ruta

Resumimos las últimas tendencias y perspectivas futuras con respecto a Slack API, LLM y privacidad de datos.

Últimas noticias: Actualizaciones de las Condiciones de Servicio de la API de Slack (2024 de mayo de 5)

La noticia más importante son las nuevas condiciones de servicio de la API de Slack, publicadas el 2024 de mayo de 5. La sección "Uso de datos" de las condiciones aclara lo siguiente:

• Prohibición de utilizar datos de Slack para fines de estudio de LLM:Los datos obtenidos a través de la API de Slack no pueden usarse para entrenar modelos de lenguaje a gran escala (LLM).
• Prohibición de exportación masiva de datos:La exportación masiva de datos de Slack a través de API ahora está prohibida.
• Recomendamos utilizar la API de búsqueda en tiempo real en su lugar.:Las organizaciones tendrán acceso a la API de búsqueda en tiempo real, que está limitada a búsquedas dentro de la plataforma Slack.

Según se informa, el cambio tiene como objetivo impedir que LLM ingiera datos de Slack como parte de los esfuerzos de Salesforce por mejorar el descubrimiento y la búsqueda de datos de la empresa.

Desarrollos relacionados con IA en la hoja de ruta de Slack

Slack (Salesforce) está acelerando sus esfuerzos para integrar IA en su plataforma teniendo en cuenta la privacidad de los datos.

• Presentando agentes y asistentesEl registro de cambios de la API de Slack introduce un nuevo mecanismo llamado "Agentes y Asistentes". Se describe como "una nueva forma de crear aplicaciones conversacionales basadas en IA integrándolas con tu LLM preferido", lo que sugiere que Slack busca facilitar a los desarrolladores externos el uso controlado de LLM. Esta medida debe considerarse en conjunto con las restricciones actuales de uso de datos.
• Integración mejorada con Salesforce EinsteinSalesforce cuenta con su propia plataforma de IA, "Einstein", y busca ofrecer soluciones de IA más potentes combinando datos de CRM (gestión de relaciones con los clientes) con datos de comunicación de Slack. Esta restricción en el uso de datos de Slack se considera parte de una estrategia para evitar la filtración de datos a LLM externos, a la vez que aumenta el valor de su propia IA.
• Utilizando la tecnología RAG (Recuperación-Generación Aumentada)Como se mencionó anteriormente, RAG es un enfoque que busca la información necesaria según sea necesario y la proporciona a los LLM, en lugar de depender de grandes cantidades de datos preentrenados. Slack podría centrarse en el desarrollo de funciones de IA basadas en RAG para buscar y utilizar eficazmente la gran cantidad de información dentro de la plataforma. El artículo de Medium "Agentic RAG: Agentes de Slack con conocimiento corporativo" también presenta RAG como un ejemplo de un agente de Slack que utiliza el conocimiento corporativo.

Se espera que la hoja de ruta futura de Slack incluya funciones de inteligencia artificial más sofisticadas para mejorar la eficiencia del trabajo y el acceso a la información dentro de Slack, respetando al máximo la privacidad de los datos del usuario, pero esto estará bajo el control de Salesforce y se desarrollará de acuerdo con la estrategia de la empresa.

FAQ: Preguntas y respuestas frecuentes

Hemos recopilado algunas preguntas comunes que los principiantes pueden tener con respecto a la API de Slack, LLM y la privacidad de los datos.

P1: ¿Qué hace exactamente la API de Slack?

A1: La API de Slack es una herramienta para conectar Slack con otras aplicaciones y servicios. Por ejemplo, puedes configurarla para que los eventos de Google Calendar se notifiquen a Slack o para que otras herramientas se activen al introducir un comando específico en Slack. Si alguien con conocimientos de programación la utiliza, puede crear diversas funciones de automatización e integración para que Slack sea aún más práctico.

P2: ¿LLM (modelo de lenguaje a gran escala) es algo parecido a ChatGPT?

A2: ¡Sí, así es! LLM (Modelo de Aprendizaje del Lenguaje) es un tipo de IA que puede mantener conversaciones naturales con humanos, crear oraciones y responder preguntas, al igual que ChatGPT. Aprende el lenguaje leyendo muchas oraciones. Es un ejemplo típico de una IA inteligente.

P3: ¿Por qué Slack cambió las condiciones de servicio de su API? ¿Especialmente la parte sobre LLM?

A3: La razón principal es proteger los datos y la privacidad de todos. Slack contiene una gran cantidad de datos de conversaciones, pero si se utilizan indefinidamente para el aprendizaje de IA (especialmente LLM), existe la preocupación de que se filtre información importante involuntariamente o que la IA aprenda cosas extrañas. Por lo tanto, Salesforce, la empresa matriz de Slack, ha dejado claro que «no se pueden usar los datos de Slack para entrenar IA sin permiso». Esto podría deberse a que Salesforce quiere promocionar su propia tecnología de IA (Einstein, etc.).

P4: ¿Significa esto que los datos de Slack ya no se pueden usar para IA?

A4: No será completamente inutilizable. La principal restricción es "extraer grandes cantidades de datos de Slack y utilizarlos como 'material de aprendizaje' para LLM externos". Prevemos que el uso de las funciones de IA proporcionadas por Slack y aprobadas por esta seguirá creciendo. Por ejemplo, funciones como la búsqueda de información por IA dentro de Slack y el resumen de conversaciones se desarrollarán teniendo en cuenta la privacidad.

P5: ¿Es realmente tan importante la privacidad de los datos?

A5: ¡Muy importante! La información que solemos intercambiar en internet y en aplicaciones (como nombres, direcciones de correo electrónico y contenido de conversaciones) es nuestra propiedad. Tenemos derecho a saber quién la usa y cómo, y debe protegerse del uso no autorizado o indebido. Incluso cuando las empresas utilizan nuestros datos para entrenar a la IA, es importante que nuestra privacidad esté protegida con transparencia.

P6: ¿Los cambios en los términos de la API de Slack afectarán las funciones de Slack que uso habitualmente?

A6: Habrá poco impacto directo en la mensajería diaria de Slack o en las funciones estándar. Algunas aplicaciones de IA de terceros compatibles con Slack podrían verse afectadas. Si usa estas aplicaciones, consulte el anuncio del proveedor. Uno de los objetivos de Salesforce es mejorar la seguridad de los datos para que los usuarios puedan seguir usando Slack con tranquilidad.

Resumen: Cómo gestionar inteligentemente los datos en la era de la IA

En esta ocasión, hemos profundizado en tres palabras clave que son esenciales para hablar sobre la tecnología de IA moderna: API de Slack, modelos de lenguaje a gran escala (LLM) y privacidad de datos, así como los últimos desarrollos relacionados con ellos, en particular los cambios de Salesforce en los términos de uso de la API de Slack.

Este cambio se produce gracias al rápido desarrollo de la tecnología de IA y su conveniencia.¿Quién es el propietario de nuestros datos y cómo deben tratarse?Esto nos lleva a una pregunta fundamental: ¿Cuál es el futuro de la IA? La decisión de Salesforce (Slack) es una clara indicación de su intención de priorizar la protección de los datos de los usuarios y fortalecer el control sobre el uso de datos dentro de sus propias plataformas. Esto puede restringir el desarrollo y el uso de la IA a corto plazo, pero a largo plazo puede sentar las bases para un uso más seguro y fiable de la IA.

Para nosotros los usuarios,

• Tenga en cuenta las políticas de privacidad de los servicios que utiliza y cómo manejan sus datos.
• Esforzarse por comprender no sólo la conveniencia de la IA, sino también los mecanismos detrás de ella y los riesgos potenciales.
• Manténgase actualizado con las nuevas tecnologías y cambios regulatorios.

es cada vez más importante.

La IA tiene un gran potencial para enriquecer nuestra forma de trabajar y de vivir, pero para maximizar sus beneficios y disfrutarla con seguridad, debemos considerar constantemente el equilibrio entre los avances tecnológicos y las normas sociales. La última iniciativa de Slack será un importante caso de estudio para explorar dicho equilibrio.

Espero que este artículo te ayude a reflexionar sobre la IA y la privacidad de datos. La tecnología avanza rápidamente, pero si comprendes los conceptos básicos, te resultará más fácil adaptarte a los cambios.

Aviso legal: Este artículo es solo informativo y no recomienda el uso de ningún servicio específico ni ofrece asesoramiento de inversión. Consulte la información más reciente en el sitio web oficial para conocer los términos de uso y las políticas de privacidad de cada servicio. Actúe bajo su propia discreción y responsabilidad.

Enlaces relacionados

• Condiciones de servicio de la API de Slack | Legal
• Salesforce modifica los términos de la API de Slack para bloquear el acceso masivo de datos… (Computerworld)
• Slack limita el uso de datos por parte de aplicaciones de ayuda no oficiales (MarketingTechNews)
• Registro de cambios del desarrollador (historial de cambios de la API de Slack)
• Privacidad de datos de IA generativa con Skyflow LLM Privacy Vault (Skyflow)
• Integrar agentes de Amazon Bedrock con Slack (blog de AWS)

API de Slack, Modelo de lenguaje a gran escala, LLM, Privacidad de datos, Ética de la IA