IA en la sombra: la IA que tu equipo ya usa sin que la empresa lo haya decidido

Es usar herramientas de IA en el trabajo sin que la empresa lo haya decidido ni aprobado. Seguro que te suena: alguien pega un contrato para que se lo resuma, u otra persona sube un listado de clientes para limpiarlo. Y una tercera pide ayuda con un correo delicado y, de paso, copia el hilo entero.

Detrás de estos casos no suele haber mala intención, porque la gente usa lo que le ahorra trabajo. El problema es que la empresa no sabe qué información sale, a dónde va ni qué se hace con ella.

El primer riesgo es que datos de clientes, de empleados o de contratos acaban en cuentas personales que la empresa no controla. Si son datos personales, entra en juego el RGPD. Y si es información reservada, afecta a tus acuerdos y a tus clientes.

El segundo es dar por buena una respuesta sin comprobarla, porque la IA escribe con seguridad aunque se equivoque. Así que, si tu equipo no ha aprendido a revisarla, el error llega al cliente con buena ortografía, eso sí.

Y el tercero es que no hay un criterio común, así que cada persona decide sola qué es aceptable y cada una decide algo distinto.

El Reglamento europeo de inteligencia artificial, el AI Act, incluye en su artículo 4 una obligación de alfabetización en IA. Es decir, las organizaciones que desarrollan o usan sistemas de IA deben tomar medidas para que su personal sepa lo suficiente sobre ellos. Y se aplica desde el 2 de febrero de 2025.

No doy asesoramiento legal, pero creo que es un buen motivo para algo que te conviene de todos modos. Me refiero a que tu equipo sepa qué hace la IA, dónde falla y qué datos no se le dan.

Lo habitual es prohibirla, pero no suele funcionar. ¿Tú dejarías de usar una herramienta que te ahorra trabajo solo porque te lo prohíben? Lo normal es que la gente la siga usando a escondidas, así que pierdes la visibilidad y el riesgo sigue ahí.

Lo que funciona es ordenarla, es decir, dar a tu equipo una opción mejor que la que cada uno se ha buscado por su cuenta.

La primera pieza es una herramienta aprobada, con cuenta de empresa y condiciones claras sobre qué pasa con los datos. Y conviene que sea cómoda, porque así es más fácil que la gente deje la suya.

La segunda, una política de uso corta, que se lea en cinco minutos: para qué sí, para qué no y qué hacer si hay dudas. La tercera, unas reglas de datos sencillas sobre qué información no se pega en una IA y cuál sí.

Y la cuarta es formación práctica con los casos reales de tu equipo, sin charlas genéricas sobre el futuro. Se trata de aprender a usarla bien cada día y a revisar lo que produce. Con estas cuatro piezas, tu equipo usa la IA a la vista y con tus reglas, y tú sabes qué datos salen y a dónde.

Formo equipos para usar la IA en el trabajo, con el artículo 4 como referencia: qué herramienta aprobar, qué política de uso escribir y cómo proteger los datos. Además soy profesor colaborador de EDEM, una escuela de negocios. Allí doy parte de las asignaturas de IA del Máster en Diseño UX/UI, IA y Estrategia Digital.

Lo cuento desde dentro, porque en 2021, antes de que existiera ChatGPT, cofundé Chat Ergo Bot, una startup dedicada a la IA conversacional, y la dirigí. Hoy soy Head of AI GTM Engineering en Sesame HR, con un mandato que abarca los proyectos de IA internos de toda la empresa. Y eso me ha enseñado lo útil que es la IA y dónde se rompe.