Seguritecnia 509

/ Septiembre-Octubre 2024 84 A vista de de miembro de CEUSS, aportó una pers- pectiva sobre los riesgos estratégicos asociados a la IA, en especial su capa- cidad para procesar grandes cantidades de datos. En su opinión, la amenaza más evidente reside en la exposición de información crítica al utilizar IA en los procesos empresariales. “Si volcamos la información de la empresa en la IA, es- tamos revelando cómo trabajamos hoy y cómo lo haremos mañana; pero si hay una brecha de datos, todo nuestro know how e información acaba en manos de alguien que está en su casa”, alertó Sán- chez Ruiz, quien describió este fenóme- no como una “amenaza terrorífica” para las organizaciones. Además de este riesgo estratégico, mencionó otros peligros más tácticos, como la intrusión en dispositivos conec- tados al Internet de las Cosas (IoT), que pueden ofrecer información valiosa a los ciberdelincuentes. Para ello puso un ejemplo sencillo pero muy ilustrativo: “Si hackeo una Roomba, puedo obtener el plano de un edificio”. En este sentido, insistió en la impor- tancia de que las organizaciones cuen- ten con IA propias, diseñadas específica- mente para los intereses de la empresa, en lugar de depender de modelos co- merciales. Un filón para los malos Todas estas prácticas son conocidas por los delincuentes y las están poniendo en funcionamiento. José Carlos Vaquero Triguero , especialista en IA y Big Data en GMV, detalló cómo los ciberdelincuentes están explotando la IA para mejorar sus operaciones delictivas o, directamente, atacar la propia tecnología. “La IA es vista como un filón por aquellos que no tienen limitaciones normativas”, afirmó Vaquero, describiendo el aumento de ataques dirigidos a modelos de machine learning . Estos modelos son suscepti- bles a los “ataques de envenenamien- to”, en los que se introducen datos falsos para alterar su comportamiento. Vaquero también mencionó otro tipo de ataque preocupante: la exfiltración de datos utilizados para entrenar los mode- los de IA. Los ciberdelincuentes podrían acceder a información valiosa simple- mente interactuando repetidamente con un sistema de IA, lo que abre nuevas vías para el espionaje corporativo y la mani- pulación de información. Aplicación policial Frente a todas las amenazas derivadas del uso malicioso de la IA, el teniente coronel Juan Antonio Rodríguez Álva- rez de Sotomayor , jefe Departamento Contra el Cibercrimen de la Guardia Civil, ofreció una visión desde el ámbito de la investigación criminal. En su inter- vención, destacó cómo la IA está trans- formando la forma en que se investiga el crimen, pero también alertó sobre los desafíos. Por ejemplo, en investigacio- nes como las de pornografía infantil, la IA permite procesar grandes volúmenes de fotos, pero parametrizar el sistema para obtener resultados óptimos es una tarea titánica, relató. Rodríguez Álvarez de Sotomayor ex- plicó que, desde el punto de vista poli- cial, la IA tiene dos perspectivas: “la del aprovechamiento por parte de los delin- cuentes y la del uso para la investigación criminal”. Respecto a esta última, añadió ejemplos prácticos como la elaboración de informes o de sentencias judiciales, en el caso de los Tribunales. No obstan- te, indicó, estas acciones están sujetas a la supervisión de un humano para vali- dar los resultados. Buscar el equilibrio A lo largo de la jornada, quedó claro que la IA ofrece tantas oportunidades como riesgos en el ámbito de la segu- ridad. Las empresas y los organismos gubernamentales se enfrentan al reto de equilibrar el uso de la IA para mejorar la eficiencia y la seguridad, sin perder de vista las posibles amenazas que esta tecnología plantea. En palabras de Al- berto Sánchez Ruiz: “La IA tiene tantos beneficios como riesgos. Pero a la ve- locidad que esto avanza, las empresas no pueden permitirse no contar con ella porque los competidores lo harán”. Los expertos coincidieron en que, para protegerse de las amenazas emergen- tes, es imprescindible desarrollar nuevas metodologías de seguridad adaptadas a las particularidades de la IA. Además, recalcaron la importancia de seguir in- vestigando y regulando el uso de esta tecnología, especialmente en lo que res- pecta a la protección de datos o los de- rechos fundamentales de las personas. La jornada concluyó con un llamado a la acción: aunque la IA está transforman- do la seguridad de maneras sorprenden- tes, es fundamental que tanto el sector privado como el público trabajen juntos para mitigar los riesgos y aprovechar sus beneficios de forma responsable. Las organizaciones se enfrentan al reto de equilibrar el uso de la IA para mejorar la seguridad, sin perder de vista las posibles amenazas