La nueva amenaza empresarial: las empresas están incorporando IA más rápido de lo que pueden protegerla

Por Daniel Antúnez, fundador de RomaLatam

La inteligencia artificial se está incorporando a empresas de todos los tamaños, pero el crecimiento de estas herramientas también está creando nuevos riesgos. Gartner estima que el mercado mundial destinado a proteger sistemas de inteligencia artificial alcanzará casi US$4.800 millones en 2027, un crecimiento del 68,7% respecto de 2026. La cifra muestra que la seguridad comienza a convertirse en uno de los grandes negocios derivados de la expansión de la IA.

La velocidad con la que las empresas están incorporando inteligencia artificial está creando una nueva preocupación dentro de los departamentos de tecnología y seguridad: cómo controlar sistemas que tienen acceso a información empresarial, pueden conectarse con diferentes herramientas y, en algunos casos, pueden ejecutar acciones de manera autónoma.

Durante los primeros años de la inteligencia artificial generativa, muchas compañías comenzaron utilizando herramientas externas para redactar textos, resumir documentos o generar ideas. El riesgo parecía relativamente limitado porque la interacción ocurría principalmente entre un empleado y una herramienta.

Cuando la IA se conecta con los sistemas de la empresa

La situación cambia cuando la inteligencia artificial comienza a integrarse directamente con los sistemas de una compañía.

Un agente conectado al CRM puede acceder a información de clientes. Un sistema conectado al correo electrónico puede procesar comunicaciones internas. Una herramienta vinculada con documentos corporativos puede acceder a información confidencial. Y un agente con permisos para ejecutar acciones puede modificar datos, enviar comunicaciones o iniciar determinados procesos.

La expansión de estas capacidades está generando un mercado específico alrededor de la seguridad de la inteligencia artificial. Gartner informó que el mercado destinado a proteger sistemas de IA alcanzará casi US$4.800 millones en 2027, lo que representa un crecimiento del 68,7% frente a 2026. La consultora prevé además que el mercado llegue a aproximadamente US$7.700 millones en 2028.

El dato es relevante porque demuestra que la seguridad dejó de ser una preocupación secundaria dentro de la estrategia de IA. A medida que las compañías incorporan sistemas más capaces, también necesitan mecanismos para controlar qué pueden hacer, qué información pueden utilizar y qué decisiones requieren intervención humana.

Un software que no funciona como el tradicional

Uno de los problemas es que los sistemas de inteligencia artificial no funcionan exactamente como el software tradicional. Los modelos pueden interpretar instrucciones de maneras diferentes, cometer errores o generar respuestas incorrectas con apariencia de certeza. Cuando una herramienta solamente redacta un borrador, un error puede corregirse antes de que llegue a un cliente. Cuando un agente tiene autorización para ejecutar una acción, las consecuencias pueden ser mayores.

La situación se vuelve todavía más compleja cuando las empresas utilizan múltiples herramientas de IA. Un empleado puede utilizar una plataforma aprobada por la compañía, otra herramienta gratuita para una tarea puntual y un tercer servicio integrado dentro de una aplicación empresarial. Esto puede generar lo que en seguridad informática se conoce como una superficie de exposición mucho más amplia.

También aparece el problema de los datos. Una empresa puede tener información comercial, financiera, estratégica o de clientes que no debería ser procesada por cualquier sistema. Por eso, la implementación responsable de IA requiere establecer políticas claras sobre qué información puede ingresar en cada herramienta y qué sistemas tienen autorización para acceder a ella.

Las empresas que están adoptando agentes autónomos enfrentan un desafío todavía mayor. Un agente puede necesitar acceso a diferentes aplicaciones para completar una tarea, pero cada permiso adicional aumenta potencialmente el impacto de un error o de una utilización indebida.

Cómo se están preparando las grandes empresas

El crecimiento del mercado de seguridad para IA también coincide con una mayor preocupación dentro de las propias empresas. Algunos grandes grupos ya están estableciendo procesos específicos para evaluar las herramientas antes de incorporarlas. Mapfre, por ejemplo, explicó recientemente que cuenta con más de 200 casos de uso de inteligencia artificial y que mantiene un modelo híbrido entre personas e IA, con procesos de evaluación legal, técnica y de seguridad antes de implementar nuevas soluciones.

El problema no es que la inteligencia artificial sea necesariamente insegura. El problema es que una herramienta puede ser segura para una determinada tarea y resultar inadecuada para otra. Un sistema utilizado para generar ideas de contenidos no necesita los mismos permisos que un agente capaz de acceder a la base de datos de clientes.

Por eso, la seguridad de la IA comienza a convertirse también en una cuestión de estrategia empresarial. Antes de incorporar una herramienta, las compañías necesitan saber qué problema quieren resolver, qué información tendrá disponible, qué acciones podrá ejecutar y quién será responsable de supervisar sus resultados.

El riesgo también llega a las pymes

Esta discusión será especialmente importante para las pequeñas empresas. La facilidad con la que actualmente pueden contratar servicios de inteligencia artificial permite implementar soluciones en cuestión de horas, pero esa misma facilidad puede hacer que determinadas herramientas lleguen a una organización sin una evaluación adecuada.

El riesgo no consiste solamente en un ataque externo. También puede aparecer por una configuración incorrecta, un empleado que introduce información confidencial en una herramienta no autorizada, un agente con demasiados permisos o un sistema que interpreta incorrectamente una instrucción.

La carrera por adoptar IA probablemente continuará. Las empresas que no incorporen estas herramientas corren el riesgo de perder productividad frente a competidores que sí lo hagan. Pero incorporarlas sin controles puede generar nuevos problemas.

La verdadera madurez digital, entonces, no consiste simplemente en utilizar más inteligencia artificial. Consiste en saber dónde utilizarla, qué información darle, qué permisos concederle y cuándo debe intervenir una persona.

En los próximos años, las empresas no solamente competirán por tener los mejores modelos de inteligencia artificial. También competirán por construir la infraestructura necesaria para utilizarlos de manera segura.

Preguntas frecuentes

¿Por qué la seguridad de la IA se está convirtiendo en un problema empresarial?
Porque las empresas están conectando sistemas de inteligencia artificial con información, aplicaciones y procesos internos. Cuanto mayor sea el acceso de una IA a los sistemas de una compañía, mayor será la necesidad de establecer controles.

¿Cuánto crecerá el mercado de seguridad para inteligencia artificial?
Gartner estima que alcanzará casi US$4.800 millones en 2027, un crecimiento del 68,7% frente a 2026, y proyecta unos US$7.700 millones en 2028.

¿Qué información no debería compartirse con cualquier herramienta de IA?
Información confidencial, datos personales, información financiera, secretos comerciales, credenciales y datos de clientes, entre otros.

¿Los agentes de IA son más riesgosos que los chatbots?
Pueden presentar riesgos adicionales cuando tienen capacidad de acceder a sistemas o ejecutar acciones, a diferencia de un chatbot que solo responde preguntas.

¿Una PyME necesita preocuparse por la seguridad de la IA?
Sí. La escala de la empresa no elimina los riesgos, y debería establecer reglas básicas sobre qué herramientas puede utilizar su equipo.

¿La inteligencia artificial puede utilizarse de manera segura?
Sí, siempre que se establezcan permisos, controles de acceso, políticas sobre datos, supervisión humana y procesos de evaluación previos.

Daniel Antúnez es fundador de RomaLatam, agencia especializada en posicionamiento de marca y optimización para motores generativos (GEO).