Publicamos regularmente nuevos blogs para tratar los últimos temas y tendencias sobre cómo proteger sus innovaciones e inversiones.

Artículos para mantenerle informado de las últimas noticias y novedades en el mundo de la propiedad intelectual y la protección de activos digitales.

Blog sobre protección y auditoría de software | Vaultinum

AI Audit de uso y valoración de la tecnología de IA: garantizar la autenticidad en los sistemas de IA

Una de las principales AI Audit que ofrece Vaultinum es la auditoría de uso de IA, que desempeña un papel fundamental para las empresas que buscan demostrar la autenticidad y el valor de sus sistemas de IA, especialmente cuando se preparan para una venta o inversión. En el entorno actual, con un gran interés por la IA y los riesgos de la inteligencia artificial asociados a las actividades de lavado y las sobrevaloraciones de la IA, las empresas necesitan evaluaciones creíbles para distinguir las capacidades auténticas de la IA de las afirmaciones exageradas. 

Cuando una empresa desea valorar y validar sus capacidades de IA, puede contratar a Vaultinum para llevar a cabo una AI Audit del uso de la IA. Vaultinum emplea un enfoque exhaustivo que incluye un cuestionario, entrevistas con empleados clave y un escaneado de códigos del sistema de IA. 

Durante el proceso de AI Audit, Vaultinum examina el sistema de IA para evaluar su complejidad, nivel de inversión y escalabilidad. La AI Audit proporciona un informe detallado que ofrece información sobre la sofisticación del modelo de IA, la potencia informática necesaria y el volumen de inversión dedicado a su desarrollo. Vaultinum utiliza los resultados de la AI Audit para elaborar una tarjeta de puntuación que puede transmitirse a posibles inversores y partes interesadas para demostrar la verdadera integración de la IA en los sistemas. 

Para las empresas que planean vender o buscan inversión, un resultado positivo de la AI Audit sobre el uso de la IA puede mejorar significativamente su valoración y credibilidad. Las empresas pueden demostrar de forma efectiva a posibles compradores o inversores que no están realizando AI washing sometiéndose a una evaluación exhaustiva y recibiendo un informe de auditoría favorable. 

Esta AI Audit es igualmente valiosa para los inversores de capital riesgo que operan en el entorno de la IA. Con el auge del mercado de la IA y la proliferación de startups de este tipo, los inversores hacen frente al reto de distinguir las auténticas capacidades de la IA de las afirmaciones exageradas. Las AI Audit de uso de la IA de Vaultinum permiten a los inversores tomar decisiones fundamentadas al proporcionar claridad sobre factores clave como la complejidad del modelo de IA, el potencial de escalabilidad y el nivel de inversión en el desarrollo de la IA. 

En última instancia, el objetivo de las AI Audit de uso de la IA es garantizar la transparencia y autenticidad de los sistemas de IA. Al aprovechar la experiencia de Vaultinum en los procesos de due diligence tecnológica debida de la IA, tanto las empresas como los inversores pueden participar con confianza en las operaciones sabiendo que están adquiriendo o invirtiendo en tecnología de IA auténtica que se alinea con sus expectativas y objetivos. 

Perturbación de la IA - AI Audit de estrategia tecnológica: garantizar inversiones preparadas para el futuro

En una era de crecimiento exponencial de la IA, tanto los inversores como las empresas hacen frente al acuciante reto de anticipar y aprovechar el impacto de la IA en sus sectores. El riesgo de que surjan tecnologías de IA perturbadoras tras una adquisición o inversión pone de relieve la necesidad de realizar AI Audit proactivas de la estrategia tecnológica de IA. 

Abordar la preocupación por las disrupciones en el mercado

Imaginemos que los inversores se fijan en una empresa de software de un sector específico. Temen que los futuros avances de la IA puedan dejar obsoletas sus inversiones y perturbar el mercado con alternativas más baratas y eficientes. Para mitigar estos riesgos de la inteligencia artificial y garantizar una inversión sólida, estos inversores pueden recurrir a Vaultinum para una AI Audit de la estrategia tecnológica de IA. 

La AI Audit de la estrategia tecnológica de Vaultinum evalúa el impacto potencial de los elementos perturbadores de la IA —amenazas futuras tanto cercanas como lejanas— que podrían afectar a la inversión. Esta evaluación estratégica proporciona una perspectiva inestimable de la dinámica del mercado y, además de identificar las perturbaciones, pone de relieve los posibles catalizadores de la IA que la empresa adquirida puede adoptar para reforzar la eficiencia y la competitividad. 

Posibilitar la toma de decisiones estratégicas

El objetivo principal de esta auditoría es doble. En primer lugar, permite a los inversores tomar decisiones fundamentadas mediante la identificación y el análisis de los elementos perturbadores de la IA en el entorno de mercado. En segundo lugar, ayuda a identificar los catalizadores internos de la IA que pueden impulsar la eficiencia operativa y las perspectivas de crecimiento futuro tras la adquisición. 

Tipos de AI Audit de la estrategia tecnológica de IA

Vaultinum ofrece dos tipos de AI Audit de la estrategia tecnológica de IA adaptadas a las necesidades de los inversores: 

Esta rápida evaluación, realizada en menos de diez días por los expertos en IA de Vaultinum, examina la solución de la empresa objetivo, analiza el mercado, los competidores y las tecnologías emergentes para identificar posibles elementos perturbadores o catalizadores de la IA relevantes para el sector de la empresa objetivo. 

Una evaluación exhaustiva basada en los mismos temas de investigación que la Auditoría rápida, solo que más exhaustiva, e incluye un análisis de costes detallado de la implantación de sistemas de IA en un sector específico. Esta AI Audit detallada proporciona a los inversores o a las empresas información crítica sobre la viabilidad y el coste de la implantación interna de la IA, proporcionando así una hoja de ruta para lograr ventajas competitivas. 

Inversiones preparadas para el futuro con IA 

Mediante las AI Audit de la estrategia tecnológica de IA de Vaultinum, los inversores y las empresas pueden operar con confianza en el dinámico entorno de la innovación en IA. Estas auditorías no solo protegen las inversiones de perturbaciones imprevistas, sino que también descubren oportunidades para aprovechar la IA como un activo estratégico para el crecimiento sostenido y el liderazgo en el mercado. 

Ponte en contacto con nosotros para obtener más información sobre la auditoría de IA

Las opiniones, presentaciones, cifras y estimaciones expuestas en el sitio web, incluido este blog, tienen únicamente fines informativos y no deben interpretarse como asesoramiento jurídico.  Para obtener asesoramiento jurídico debe ponerse en contacto con un profesional del derecho de su jurisdicción.

El uso de cualquier contenido de este sitio web, incluido este blog, para cualquier fin comercial, incluida la reventa, está prohibido, a menos que se obtenga primero el permiso de Vaultinum.  La solicitud de permiso debe indicar el propósito y el alcance de la reproducción.  Para fines no comerciales, todo el material de esta publicación puede ser citado o reproducido libremente, pero se requiere un reconocimiento, junto con un enlace a este sitio web.

Jean Albert es un abogado registrado especializado en derecho internacional y es el presidente de las Comisiones de Estrategia y Legal de Vaultinum.

Jean Albert

Con el aumento exponencial del interés por la IA, han surgido dos preocupaciones en el mundo de la inversión. En primer lugar, ¿cómo se puede evaluar una empresa que desarrolla modelos de IA, en un mundo repleto de AI Washing? En segundo lugar, a la hora de invertir en un sector, ¿cuál es el potencial que tienen los sistemas de IA para perturbarlo?  

Para ayudar a tomar decisiones fundamentadas sobre las evaluaciones de los modelos de IA y el impacto potencial de la IA en las industrias, ahora resulta imperativo llevar a cabo un exhaustivo proceso de due diligence tecnológica debida de la IA. 

La due diligence tecnológica debida en IA de Vaultinum, que abarca AI Audit de uso de IA y evaluaciones de la estrategia tecnológica, ayuda a inversores, partes interesadas y empresas a identificar posibles riesgos de la inteligencia artificial y oportunidades que pueden influir en el éxito de una inversión. Las AI Audit de Vaultinum incluyen cuestionarios exhaustivos, entrevistas y escaneado de códigos. 

Descubra por qué resulta esencial la AI Audit en el entorno tecnológico actual. Descubra cómo un proceso de due diligence tecnológica debida exhaustiva de la IA, que incluya AI Audit de uso y evaluaciones de la estrategia tecnológica, ayuda a los inversores y a las empresas a conocer los riesgos de la inteligencia artificial y las oportunidades.

El papel fundamental de la AI Audit en la inversión tecnológica para evaluar riesgos de la inteligencia artificial y oportunidades.

La tendencia de la IA: más que una palabra de moda 

El verdadero cambio radical en los últimos años ha sido el auge de la Generative AI. Este tipo de IA va más allá de las funcionalidades predefinidas de las aplicaciones anteriores, aventurándose en el terreno de la creación de nuevos contenidos, ya sean textos, imágenes o incluso código. La introducción de interfaces fáciles de usar, como las que se ven en los modelos de inteligencia artificial estilo GPT, ha hecho que estas capacidades avanzadas de IA sean más accesibles e intrigantes para el público general y el mundo empresarial. 

Para los inversores, este panorama en evolución supone tanto oportunidades como retos. Aunque el potencial de innovación y perturbación es inmenso, también requiere una comprensión matizada de lo que realmente es la IA y, lo que es quizá más importante, de lo que no es. Invertir en tecnología de IA requiere una inmersión profunda en los mecanismos, capacidades y limitaciones de los distintos modelos de inteligencia artificial. Esta comprensión es necesaria no solo para tomar decisiones de inversión fundamentadas, sino también para evaluar la viabilidad a largo plazo y las consideraciones éticas de las empresas impulsadas por la IA. 

El espectro de la IA: de la IA limitada a la amplia 

Aunque la innovación y el potencial de la IA son evidentes, resulta útil profundizar en sus diversas formas para apreciar todo su alcance e impacto, especialmente para quienes invierten en esta tecnología.  

La IA limitada, o ANI, como su nombre indica, está especializada en la realización de tareas específicas. Algunos ejemplos son los sistemas de IA diseñados para jugar al ajedrez, reconocer el habla o identificar objetos en imágenes. Estos sistemas son muy eficientes en las tareas que se les encomiendan, superando a menudo las capacidades humanas. Sin embargo, su experiencia se limita a un ámbito estrechamente definido.  

La IA amplia representa una forma más avanzada y versátil de IA, capaz de realizar múltiples tareas dentro de un ámbito específico. Este tipo de IA es especialmente pertinente en campos en los que la complejidad y la variabilidad son elevadas. En sanidad, por ejemplo, la IA amplia no solo puede interpretar imágenes médicas, sino también analizar historiales de pacientes, resultados de laboratorio y sugerir planes de tratamiento. 

La IA general, a menudo denominada Inteligencia General Artificial (AGI) o Superinteligencia Artificial (ASI), es el santo Grial de la investigación en IA. Aspira a reproducir las capacidades humanas de razonamiento y resolución de problemas en una amplia gama de ámbitos. A diferencia de la IA limitada o amplia, la IA general no se limita a tareas o campos específicos. Comprender estos diferentes tipos de IA es solo el primer paso. Igualmente importante es reconocer cómo se integra la IA en los productos y servicios, lo que nos lleva a la cuestión del AI Washing y la necesidad de una verdadera utilización de la IA. 

La integración de la inteligencia artificial en dispositivos y sistemas se ha visto revolucionada por la llegada de las API proporcionadas por grandes actores como OpenAI, Google y Anthropic. Este avance tecnológico ha simplificado el proceso de integración de la IA en diversos productos y servicios. Como resultado, hemos asistido a la aparición de lo que comúnmente se conoce como "wrappers" de IA, en los que las capacidades de IA se integran a un nivel superficial, a menudo sin una funcionalidad profunda e intrínseca. 

Sin embargo, esta facilidad de integración de la IA conlleva una advertencia. Como señala Kjell Carlsson, responsable de estrategia de IA en Domino Data Lab, la creación de productos transformadores basados en IA requiere una mejora significativa de las capacidades internas de IA. Sin ella, las empresas solo podrían alcanzar capacidades limitadas de la Generative AI. Esta situación conduce a menudo a un " AI Washing ", en el que las funcionalidades de la IA, que han estado disponibles durante décadas, se renombran como innovaciones de vanguardia sin mejoras sustanciales en sus capacidades. 

El "AI Washing” representa un reto importante en la industria tecnológica. Se trata de una práctica de marketing engañosa en la que se tergiversa el grado de uso de la IA en productos o servicios. A menudo, las empresas utilizan el término "IA" a la ligera para describir lo que son esencialmente sistemas básicos de automatización o basados en reglas. Estos sistemas carecen de auténticas capacidades de aprendizaje y adaptación, que constituyen las características de la verdadera IA. 

Esta tergiversación no solo es un perjuicio para los consumidores, sino que también plantea un reto importante para los inversores a la hora de diferenciar entre la auténtica innovación en IA y la mera marca de IA. 

La prevalencia del AI Washing es alarmante, como se ha visto en numerosas startups que han exagerado sus capacidades de IA para atraer financiación y clientes. Un ejemplo llamativo de ello fue una startup que afirmaba que su "IA asistida por humanos" podía permitir el desarrollo de aplicaciones móviles con el mínimo esfuerzo y tiempo. Esta afirmación dio lugar a importantes inversiones, incluidos casi 30 millones de dólares de fondos de capital riesgo centrados en la IA. Sin embargo, una investigación del Wall Street Journal reveló que la supuesta IA dependía en gran medida de la "inteligencia humana" de los ingenieros de software. 

Este incidente no constituye una anomalía. Según un estudio de MMC Ventures, en el que se analizaron 2830 startups europeas, un sorprendente 40 % de las empresas que afirmaban ser empresas emergentes de IA presentaban un uso real mínimo de la IA. Este hallazgo, junto con el aumento de la supervisión normativa, pone de relieve la necesidad crítica de que los inversores lleven a cabo una diligencia debida tecnológica exhaustiva al evaluar las empresas centradas en la IA. 

El prisma normativo: la SEC y la FTC sobre el AI Washing 

Organismos reguladores como la Comisión del Mercado de Valores (SEC) y la Comisión Federal de Comercio (FTC) están cada vez más atentos a las prácticas de AI Washing. Su preocupación radica en la posibilidad de que el AI Washing induzca a error a los inversores, los consumidores y el mercado en general, dando lugar a prácticas desleales y a una distorsión del panorama competitivo. La SEC, preocupada principalmente por proteger a los inversores y mantener unos mercados justos, ordenados y eficientes, ha adoptado una postura clara contra el AI Washing, sobre todo en el contexto de la divulgación de información por parte de las empresas cotizadas. El presidente de la SEC, Gary Gensler, ha insistido en la importancia de presentar de forma veraz y precisa las capacidades de IA de una empresa. Su comparación del AI Washing con el lavado ecológico es especialmente convincente, en vista del historial de la SEC en la lucha contra el lavado verde, lo que proporciona un modelo útil para su enfoque al AI Washing. 

Michael Atleson, abogado de la FTC, ha expuesto la postura del organismo en una entrada de su blog, en la que destaca la importancia de que los productos basados en IA se etiqueten de forma veraz. La FTC espera que las empresas eviten la exageración en sus afirmaciones sobre IA y se aseguren de que cualquier afirmación sobre el rendimiento esté respaldada científicamente y sea aplicable universalmente, no solo en condiciones específicas. 

Para los inversores en tecnología, este entorno normativo significa que la diligencia debida debe ir más allá de los datos financieros y abarcar la veracidad de las declaraciones de una empresa relacionadas con la IA. Las empresas que exageren sus capacidades o su potencial de IA podrían enfrentarse a un escrutinio normativo y a sanciones económicas, lo que afectaría a sus valoraciones y al atractivo de sus inversiones. 

Diligencia debida de la IA: un factor crítico para los inversores 

Para los participantes de una operación, el riesgo de que se exageren las valoraciones debido a la tergiversación de las capacidades de la IA es una preocupación acuciante. Más allá de las repercusiones financieras, existe la posibilidad de que se produzcan daños a la reputación y un escrutinio normativo. 

Para capear este complejo terreno, resulta imprescindible que los inversores contraten a expertos en diligencia debida tecnológica especializados en la evaluación de tecnologías de IA. Estos expertos ofrecen un profundo conocimiento de la inteligencia artificial y sus aplicaciones prácticas, ayudando a los inversores a discernir las auténticas innovaciones de IA de las meras marcas de IA. 

Principales áreas de interés para los expertos en tecnología 

La diligencia debida tecnológica en la IA abarca varias áreas críticas: 

Los expertos en tecnología empiezan por evaluar si la tecnología en cuestión posee realmente capacidades de IA. Esto implica comprender si la IA es una mera extensión de los sistemas básicos de automatización o basados en reglas, o si incorpora técnicas avanzadas de aprendizaje automático. 

¿Qué nivel de aprendizaje automático se utiliza? (por ejemplo, supervisado, no supervisado, aprendizaje por refuerzo) 

¿De qué tipo de datos aprende la IA y cómo se adapta a nuevos datos o comentarios? 

¿Puede el sistema de IA mejorar su rendimiento con el tiempo? ¿Existen pruebas científicas que respalden las afirmaciones sobre su rendimiento? 

Otro aspecto vital es la capacidad del sistema de IA para manejar datos inesperados o fuera de distribución. Los expertos en tecnología evalúan si la IA puede adaptarse a nuevas situaciones o si requiere un nuevo entrenamiento. Esta evaluación es necesaria para comprender la viabilidad a largo plazo de la IA y su adaptabilidad a las cambiantes condiciones del mercado. 

Resulta esencial realizar una evaluación exhaustiva de los riesgos centrada en lo que podría ocurrir si la IA no funciona según lo previsto. Esto incluye el escrutinio de las salvaguardias establecidas para evitar decisiones tendenciosas o discriminatorias y las posibles repercusiones de estos riesgos en las operaciones y la reputación de la empresa. 

Conclusión: un llamamiento a las estrategias prudentes de inversión en IA

Para los inversores y los participantes de las operaciones, el atractivo de la innovación impulsada por la IA es innegable. Sin embargo, en una era en la que predomina el AI Washing, resulta fundamental hacer un ejercicio de discernimiento. Comprender el verdadero alcance de la integración de la IA y sus aplicaciones prácticas resulta clave para tomar decisiones de inversión fundamentadas. Al dar prioridad a las prácticas responsables de IA y a una diligencia debida tecnológica, los inversores pueden capear el complejo entorno de la IA con confianza. 

Póngase en contacto con nosotros para obtener más información sobre la evaluación de la IA

Kristin es abogada colegiada estadounidense especializada en las áreas de propiedad intelectual y derecho tecnológico. Es miembro de las Comisiones de Estrategia y Jurídica de Vaultinum, encargadas de supervisar y aplicar las políticas y procesos relacionados con la protección de los activos digitales.

Kristin A.

Las opiniones, presentaciones, cifras y estimaciones expuestas en el sitio web, incluido este blog, tienen únicamente fines informativos y no deben interpretarse como asesoramiento jurídico. Para obtener asesoramiento jurídico debe ponerse en contacto con un profesional del derecho de su jurisdicción.

El uso de cualquier contenido de este sitio web, incluido este blog, para cualquier fin comercial, incluida la reventa, está prohibido, a menos que se obtenga primero el permiso de Vaultinum. La solicitud de permiso debe indicar el propósito y el alcance de la reproducción. Para fines no comerciales, todo el material de esta publicación puede ser citado o reproducido libremente, pero se requiere un reconocimiento, junto con un enlace a este sitio web.

https://aibusiness.com/ml/ces-2024-expect-lots-of-ai-washing-in-gadgets#close-modal (última visita: 25 de enero de 2024). 

https://www.forbes.com/sites/forbestechcouncil/2023/08/17/why-companies-should-stop-ai-washing-their-products/ (última visita: 25 de enero de 2024). 

https://cybernews.com/tech/ai-washing-the-new-greenwashing/ (última visita: 25 de enero de 2024). 

https://www.wsj.com/articles/sec-head-warns-against-ai-washing-the-high-tech-version-of-greenwashing-6ff60da9 (última visita: 25 de enero de 2024). 

https://www.stateofai2019.com/chapter-7-europes-ai-startups/ (última visita: 25 de enero de 2024). 

https://www.legaldive.com/news/avoid-regulatory-risk-ai-washing-greenwashing-artificial-intelligence-FTC-SEC-scrutiny/704507/ (última visita: 25 de enero de 2024). 

https://www.wsj.com/articles/ai-startup-boom-raises-questions-of-exaggerated-tech-savvy-11565775004 (última visita: 25 de enero de 2024). 

Con la llegada de tecnologías como ChatGPT, la inteligencia artificial (IA) ha pasado a ser algo más que un término tecnológico: es una parte importante de nuestro léxico cotidiano. Sin embargo, este aumento de popularidad no implica que la IA sea un concepto novedoso. La IA es un elemento básico de la tecnología de consumo desde hace años, evidente en dispositivos como los teléfonos inteligentes, los dispositivos domésticos inteligentes, los rastreadores de fitness portátiles y las aplicaciones de navegación. Sin embargo, estas aplicaciones representan solo la punta del iceberg de las capacidades y el potencial de la IA.

Descubra por qué resulta crucial analizar los diferentes aspectos del AI Washing antes de invertir en una empresa tecnológica.

AI Washing: por qué hay que tener cuidado al invertir

AI Washing: cómo evaluar el valor real de la IA

Un sistema de IA es un sistema basado en máquinas que está diseñado para funcionar con diversos niveles de autonomía y que puede mostrar capacidad de adaptación tras su despliegue, y que, para objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, cómo generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. 

¿Qué es la "Oficina de Inteligencia Artificial"?

"Oficina de Inteligencia Artificial": la función de la Comisión de contribuir a la aplicación, el seguimiento y la supervisión de los sistemas de IA, los modelos de IA de propósito general y la gestión de la IA. Se entenderá que las menciones en la Ley relativa a la IA de la Oficina de Inteligencia Artificial se refieren a la Comisión. 

La "alfabetización en IA" se refiere a las capacidades, conocimientos y comprensión que permiten a los proveedores, usuarios y personas afectadas, teniendo en cuenta sus respectivos derechos y obligaciones en el contexto de la Ley de IA, hacer un despliegue informado de los sistemas de IA, así como concienciarse sobre las oportunidades y riesgos de la IA y los posibles daños que puede causar. 

¿Qué es un "espacio aislado de regulación de la IA"?

Un "espacio aislado de regulación de la IA" es un marco concreto y controlado establecido por una autoridad competente que ofrece a los proveedores o posibles proveedores de sistemas de IA la posibilidad de desarrollar, entrenar, validar y probar, en su caso en condiciones del mundo real, un sistema de IA innovador, con arreglo a un plan de espacio aislado durante un tiempo limitado bajo supervisión reguladora; 

"Plan de espacio aislado" significa un documento acordado entre el proveedor participante y la autoridad competente en el que se describen los objetivos, las condiciones, el calendario, la metodología y los requisitos de las actividades realizadas dentro del espacio aislado. 

"Representante autorizado" significa una persona física o jurídica situada o establecida en la Unión que ha recibido y aceptado un mandato escrito de un proveedor de un sistema de IA o de un modelo de IA de propósito general para, respectivamente, ejecutar y llevar a cabo en su nombre las obligaciones y procedimientos establecidos por la Ley de IA. 

¿Qué es una "herramienta básica de IA"?

Una herramienta básica de IA es un sistema de inteligencia artificial basado en reglas, compuesto por un conjunto de reglas codificadas por el ser humano que dan lugar a resultados predefinidos. Estos sistemas son adecuados para proyectos y aplicaciones que requieren pequeñas cantidades de datos y reglas sencillas y directas. 

¿Qué es un "sistema de categorización biométrica"?

Un "sistema de categorización biométrica" es un sistema de IA destinado a asignar personas físicas a categorías específicas sobre la base de sus datos biométricos, a menos que sea auxiliar de otro servicio comercial y estrictamente necesario por razones técnicas objetivas. 

Los "datos biométricos" son los datos personales resultantes de un tratamiento técnico específico relativo a las características físicas, fisiológicas o de comportamiento de una persona física, como las imágenes faciales o los datos dactiloscópicos. 

¿Qué es la "identificación biométrica"?

La "identificación biométrica" es el reconocimiento automatizado de rasgos humanos físicos, fisiológicos, conductuales o psicológicos con el fin de establecer la identidad de una persona física mediante la comparación de datos biométricos de dicha persona con datos biométricos de individuos almacenados en una base de datos. 

¿Qué es la "verificación biométrica"?

La "verificación biométrica" es la verificación automatizada de la identidad de personas físicas mediante la comparación de sus datos biométricos con datos biométricos facilitados previamente (verificación uno a uno, incluida la autenticación). 

¿Qué es un "sistema de identificación biométrica a distancia"?

Un "sistema de identificación biométrica a distancia" es un sistema de IA destinado a identificar a personas físicas, sin su participación activa, normalmente a distancia, mediante la comparación de los datos biométricos de una persona con los datos biométricos contenidos en una base de datos de referencia. 

¿Qué se entiende por "sistema de identificación biométrica a distancia en tiempo real"?

Por "sistema de identificación biométrica a distancia en tiempo real" se entiende un sistema de identificación biométrica a distancia en el que la captura de los datos biométricos, la comparación y la identificación se producen sin demora significativa. Esto comprende no solo la identificación instantánea, sino también demoras breves limitadas para evitar la elusión. 

¿Qué es un "sistema de identificación biométrica a distancia posterior"?

Un "sistema de identificación biométrica a distancia posterior" es un sistema de identificación biométrica a distancia distinto de un sistema de identificación biométrica a distancia en tiempo real. 

¿Qué significa "marcado CE de conformidad"?

"Marcado CE de conformidad" (marcado CE) significa un marcado por el que un proveedor indica que un sistema de IA es conforme a los requisitos establecidos en el capítulo III, sección 2, y en otra legislación de armonización de la Unión aplicable que armonice las condiciones de la comercialización de los productos ("legislación de armonización de la Unión") y que disponga su colocación. 

¿Qué significa "especificación común"?

"Especificación común" significa un conjunto de especificaciones técnicas, tal como se definen en el artículo 2, punto 4, del Reglamento (UE) nº 1025/2012, que proporciona medios para cumplir determinados requisitos establecidos en virtud de la Ley relativa a la IA. 

¿Qué es una "evaluación de la conformidad"?

"Evaluación de la conformidad" es el proceso de demostrar si se han cumplido los requisitos establecidos en el capítulo III, sección 2 de la Ley de IA relativos a un sistema de IA de alto riesgo. 

¿Qué es un "organismo de evaluación de la conformidad"?

Un "organismo de evaluación de la conformidad" es un organismo que realiza actividades de evaluación de la conformidad por terceros, incluidos los ensayos, la certificación y la inspección. 

La gestión del contexto implica integrar los cambios en el contexto para permitir que el modelo de IA mantenga los niveles de rendimiento en un mundo real en evolución. Por otro lado, el almacenamiento en caché implica la reutilización de los datos almacenados para minimizar el uso de recursos. Ambos son elementos importantes para la mejora continua de los modelos de IA. 

¿Qué son las "infraestructuras críticas"?

 Una "infraestructura crítica" es un bien, una instalación, un equipo, una red o un sistema, o una parte del mismo, que sea necesario para la prestación de un servicio esencial en el sentido del artículo 2, punto 4, de la Directiva (UE) 2022/2557. 

El aumento de datos es una técnica utilizada para ampliar y diversificar artificialmente los conjuntos de datos de formación. Esto ayuda a mejorar la calidad y cantidad de los datos disponibles sin consumir recursos. Esto es esencial en DL, donde unos datos limitados podrían conllevar un sobreajuste. 

La visualización de datos es importante en términos de transparencia, ya que tiende un puente entre la toma de decisiones de la IA y los usuarios. Convierte los complejos resultados de la IA en formatos intuitivos y visuales, haciendo accesibles y comprensibles los patrones abstractos y a menudo intrincados de los algoritmos de IA. 

Un "deep fake" es un contenido de imagen, audio o vídeo generado o manipulado por IA que se asemeja a personas, objetos, lugares, entidades o acontecimientos existentes y que a una persona le parecería falsamente auténtico o veraz. 

El aprendizaje profundo es un tipo de IA y ML que utiliza redes multicapa para construir modelos inspirados en el cerebro humano.

Un "implantador" es una persona física o jurídica, autoridad pública, agencia u otro organismo que utilice un sistema de IA bajo su autoridad, excepto cuando el sistema de IA se utilice en el curso de una actividad personal no profesional. 

¿Qué es un "perturbador" en el contexto de los modelos de IA?

En el contexto de la perturbación económica, se refiere al proceso de poner en riesgo los modelos de negocio y las industrias tradicionales, lo que puede modificar sectores enteros o causar una importante perturbación económica. 

Un "distribuidor" es una persona física o jurídica de la cadena de suministro, distinta del proveedor o del importador, que comercializa un sistema de IA en el mercado de la Unión. 

Un "proveedor intermedio" es un proveedor de un sistema de IA, incluido un sistema de IA de propósito general, que integra un modelo de IA, con independencia de que el modelo de IA sea proporcionado por ellos mismos e integrado verticalmente o proporcionado por otra entidad sobre la base de relaciones contractuales. 

¿Qué es un "sistema de reconocimiento de emociones"?

 Un "sistema de reconocimiento de emociones" es un sistema de IA destinado a identificar o deducir emociones o intenciones de personas físicas a partir de sus datos biométricos.

¿Qué se entiende por "habilitador" en el contexto de los modelos de IA?

En el sentido social y económico, se entiende que mejora la productividad y, en particular, aumentando las capacidades humanas (ayudando a realizar tareas con mayor rapidez, eficacia y precisión, ayudando a analizar enormes cantidades de datos con mayor rapidez para tomar decisiones más rápidas y mejor informadas), resuelve problemas sociales como los relacionados con el cambio climático, el crecimiento demográfico o los problemas de salud, y fomenta la innovación ayudando a generar nueva tecnología. 

Los experimentos pueden implicar diversas pruebas, y su seguimiento es importante desde el punto de vista de la eficiencia y la productividad. Los experimentos suelen incluir el uso de datos de entrenamiento y de prueba, modelos con distintos hiperparámetros, ejecución de códigos diferentes, ejecución del mismo código pero en distintas configuraciones de entorno, etc.

La IA explicable (XAI) engloba técnicas y procesos diseñados para que las decisiones y resultados de los modelos de IA sean comprensibles y transparentes para los usuarios humanos. El objetivo de estos métodos es fomentar la confianza y la claridad en las aplicaciones de IA aclarando cómo obtienen sus predicciones los modelos, facilitando tanto la confianza de los usuarios como el cumplimiento normativo.

¿Qué es un "bucle de retroalimentación"?

Un bucle de retroalimentación es esencial para que el modelo de IA confirme o invalide sus decisiones. Permite ajustar los parámetros para mejorar el rendimiento. Un bucle de retroalimentación beneficioso suele implicar la introducción en el sistema de información externa imparcial.

¿Qué es una "operación en coma flotante"?

Por "operación en coma flotante" se entiende cualquier operación matemática o asignación que implique números en coma flotante, que son un subconjunto de los números reales típicamente representados en los ordenadores por un número entero de precisión fija escalado por un exponente entero de base fija. 

¿Qué es un "modelo de IA de propósito general"?

Por "modelo de IA de propósito general" se entenderá un modelo de IA, incluso cuando dicho modelo de IA se entrene con una gran cantidad de datos utilizando la autosupervisión a escala, que muestre una generalidad significativa y sea capaz de realizar de forma competente una amplia gama de tareas distintas, independientemente de la forma en que se comercialice el modelo, y que pueda integrarse en una variedad de sistemas o aplicaciones posteriores. Esto no incluye los modelos de IA que se utilicen para actividades de investigación, desarrollo o creación de prototipos antes de su comercialización. 

¿Qué es un "sistema de IA de propósito general"?

Por "sistema de IA de propósito general" se entiende un sistema de IA que se basa en un modelo de IA de propósito general y que tiene capacidad para servir a diversos fines, tanto para su uso directo como para su integración en otros sistemas de IA. 

La IA generativa utiliza el ML y la DL (a través de técnicas como las redes generativas adversarias (GAN) y los autocodificadores variacionales (VAE)) para generar contenidos nuevos y únicos, como imágenes, vídeos o incluso texto. 

 "Norma armonizada": una norma europea tal como se define en el artículo 2, apartado 1, letra c), del Reglamento (UE) nº 1025/2012. 

¿Qué son las "capacidades de alto impacto"?

Por "capacidades de alto impacto" en los modelos de IA de propósito general se entienden las capacidades que igualan o superan las capacidades registradas en los modelos de IA de propósito general más avanzados. 

Un "importador" es una persona física o jurídica situada o establecida en la Unión que comercializa un sistema de IA que lleva el nombre o la marca comercial de una persona física o jurídica establecida en un tercer país. 

El "consentimiento informado" es la manifestación libre, específica, inequívoca y voluntaria de un sujeto de su voluntad de participar en un ensayo concreto en condiciones reales, tras haber sido informado de todos los aspectos del ensayo que son relevantes para la decisión del sujeto de participar. 

Por "datos de entrada" se entiende los datos proporcionados a un sistema de IA o adquiridos directamente por éste, a partir de los cuales el sistema produce un resultado. 

Por "instrucciones de uso" se entiende la información facilitada por el proveedor para informar al usuario, en particular, sobre la finalidad prevista y el uso adecuado de un sistema de IA. 

La "finalidad prevista" es el uso al que el proveedor destina un sistema de IA, incluidos el contexto y las condiciones de uso específicos, tal como se especifica en la información facilitada por el proveedor en las instrucciones de uso, el material promocional o de venta y las declaraciones, así como en la documentación técnica. 

Una invarianza es una propiedad por la que una salida permanece invariable independientemente de las transformaciones aplicadas a la entrada. Por ejemplo, en el tratamiento de imágenes, esto podría significar que el contenido de una imagen sigue siendo relevante y reconocible independientemente de si la imagen se amplía o gira. Identificar estas invarianzas es crucial para garantizar que los modelos de IA sigan siendo sólidos y precisos a pesar de las diversas modificaciones de las entradas. 

¿Qué se entiende por "autoridad policial"? 

(a) cualquier autoridad pública competente en materia de prevención, investigación, detección o enjuiciamiento de infracciones penales o de ejecución de sanciones penales, incluida la salvaguardia y prevención de amenazas para la seguridad pública; o  

(b) cualquier otro organismo o entidad al que la legislación de un Estado miembro encomiende el ejercicio de la autoridad pública y de los poderes públicos con fines de prevención, investigación, detección o enjuiciamiento de infracciones penales o de ejecución de sanciones penales, incluidas la salvaguardia y la prevención de amenazas para la seguridad pública. 

¿Qué se entiende por "aplicación de la ley"?

Por "aplicación de la ley" se entienden las actividades llevadas a cabo por las autoridades policiales o judiciales o en su nombre para la prevención, investigación, detección o enjuiciamiento de delitos o la ejecución de sanciones penales, incluida la protección contra las amenazas a la seguridad pública y su prevención. 

¿Qué es el "aprendizaje automático" (ML)?

El aprendizaje automático es un tipo de IA que utiliza algoritmos para aprender y mejorar a partir de datos de entrenamiento.

Por "comercialización" se entiende el suministro de un sistema de IA o de un modelo de IA de propósito general para su distribución o uso en el mercado de la Unión en el transcurso de una actividad comercial, ya sea a cambio de una remuneración o de forma gratuita. 

1 https://data.consilium.europa.eu/doc/document/ST-5662-2024-INIT/en/pdf

Kristin es una abogada registrada en los EE. UU. especializada en las áreas de propiedad intelectual y derecho tecnológico. Ella es miembro de las Comisiones de Estrategia y Legal de Vaultinum encargada de supervisar e implementar las políticas y procesos relacionados con la protección de activos digitales.

Nuestro amplio glosario le guiará a través del lenguaje de la Inteligencia Artificial (IA). Esta colección se ha recopilado meticulosamente a partir de términos que figuran en la Ley de Inteligencia Artificial de la UE[1], junto con vocabulario adicional esencial para comprender la IA. Vaultinum, como proveedor líder de servicios de evaluación de IA, comprende la importancia de la claridad y la comprensión a la hora de navegar por este campo en evolución. Con la intención de ayudar a profesionales, aficionados y partes interesadas por igual, hemos elaborado este glosario para ofrecer definiciones y explicaciones concisas de los términos clave recogidos en la Ley relativa a la IA. Tanto si es usted un experto como si acaba de iniciar su andadura en el ámbito de la regulación de la IA, este recurso le servirá como valioso punto de referencia.  

Le invitamos a explorar estos términos a su conveniencia de cara a dotarse de los conocimientos necesarios para participar eficazmente en los debates en torno a la ética, la gestión y el cumplimiento en materia de IA.

Descifrar la gestión de la IA: descubra nuestra Guía sobre los términos esenciales de las leyes relativas a IA a través de este glosario

Glosario de términos relacionados con la Ley de Inteligencia Artificial de la UE

Glosario de la Ley relativa a la IA: Términos esenciales y definiciones

La diligencia debida en materia de ciberseguridad es el proceso de identificación y tratamiento de estas posibles ciberamenazas para que no puedan ser explotadas por los ciberdelincuentes. Suele llevarse a cabo mediante una auditoría de ciberseguridad que evalúa la infraestructura de TI de una empresa con respecto a una norma específica que valida si se cumplen las necesidades exactas en términos de seguridad de la red.

La diligencia de ciberseguridad proporciona información sobre el programa actual de gestión de riesgos de una organización, los procedimientos de protección de datos, las certificaciones y las protecciones de la infraestructura, para garantizar que la organización recibirá resultados que le permitan abordar los retos a los que podría enfrentarse en el panorama cibernético en constante evolución.

Todas las empresas, independientemente de su sector o tamaño, deben ser cautelosas en cuanto a su capacidad de recuperación en materia de ciberseguridad. Además, cuando se trata de la diligencia de ciberseguridad, deben hacerse preguntas como las siguientes

¿Tiene la empresa la certificación ISO/9001, ISO/27001 o cuenta con una atestación SOC-2? 

¿Se almacenan los datos del cliente, se accede a ellos o se transmiten fuera del país del que proceden? 

¿Con qué frecuencia se cambian las contraseñas del router y del cortafuegos? 

Estas preguntas sobre la solidez de la ciberseguridad de una organización pueden obtenerse mediante una auditoría de ciberseguridad.

¿Quién debe llevar a cabo la diligencia de ciberseguridad?

La diligencia de ciberseguridad puede ser llevada a cabo por organizaciones de todos los sectores, que saben que deben poner en marcha los procesos correctos para protegerse contra la ciberdelincuencia. Las auditorías de ciberseguridad permiten a las organizaciones mejorar su concienciación en materia de ciberseguridad, mitigar los riesgos y establecer políticas y procedimientos de ciberseguridad recomendados basados en las normas del sector, todo lo cual les protegerá a lo largo de su trayectoria de crecimiento. 

Por otro lado, los inversores utilizan la diligencia debida en materia de ciberseguridad como parte del proceso general de diligencia debida para comprender mejor las posibles amenazas que una empresa objetivo podría plantear a través de vulnerabilidades como un algoritmo de cifrado débil o riesgos de violación de datos. Mediante la realización de auditorías de ciberseguridad, los responsables de las fusiones y adquisiciones pueden obtener información esencial sobre la resistencia cibernética de un objetivo y, por tanto, mejorar su toma de decisiones.

Importancia de la resiliencia en ciberseguridad

Es más importante que nunca que las organizaciones obtengan una visión de su nivel de resistencia cibernética y tomen medidas para implementar políticas y procedimientos para mitigar el riesgo cada vez mayor. No hacerlo tiene un gran coste, que incluye posibles sanciones económicas, daños a la reputación, pérdida de datos y productividad.  Para los inversores, no llevar a cabo la diligencia de ciberseguridad y auditar adecuadamente la resistencia de la ciberseguridad de un objetivo puede dejarlos expuestos a una serie de riesgos, incluyendo la disminución de los ingresos, los beneficios, el valor del mercado y la cuota de mercado.

Realización de una auditoría de ciberseguridad

Llevar a cabo la diligencia de ciberseguridad con una auditoría de ciberseguridad requiere experiencia y conocimientos que se obtienen mejor de un experto independiente y que puede garantizar una auditoría de 360° de su panorama de ciberseguridad.

Con esto en mente, Vaultinum ha desarrollado su auditoría de ciberseguridad.  

Con 45 años de experiencia, Vaultinum se ha comprometido a ayudar a las empresas a llevar a cabo la diligencia de ciberseguridad de manera que se garantice que: las vulnerabilidades, los riesgos y las amenazas que podrían ocurrir se evalúan en las siguientes áreas:

IDENTIFIQUE Y MITIGUE SUS RIESGOS DE CIBERSEGURIDAD

¿Cómo funciona la Auditoría de ciberseguridad de Vaultinum?

La auditoría de ciberseguridad de Vautinum es accesible en una plataforma en línea fácil de usar que ofrece a los clientes la combinación única de autoevaluación, escaneo de código fuente y pen test para permitir la más profunda diligencia de ciberseguridad.

La auditoría básica incluye un cuestionario de autoevaluación que evalúa la preparación en materia de ciberseguridad y la resistencia de la organización en términos de seguridad de la red con respecto a los puntos de referencia del sector, proporcionando al cliente un informe con una tarjeta de puntuación y recomendaciones de mejora. La autoevaluación de la ciberseguridad, desarrollada en consonancia con las normas y las mejores prácticas internacionales por un equipo de expertos en gestión de riesgos de ciberseguridad, ofrece una puntuación precisa y recomendaciones pertinentes y actualizadas.

La autoevaluación de ciberseguridad tarda aproximadamente 1 hora y 30 minutos en completarse y, para facilitar el proceso, recomendamos que un experto residente en la materia realice la evaluación para garantizar la puntuación más precisa y, por tanto, las recomendaciones.

Los clientes pueden optar por realizar una auditoría de ciberseguridad completa añadiendo un escaneo en profundidad del código fuente y una prueba de penetración que revela toda la información sobre las vulnerabilidades de seguridad existentes en el código fuente, como un algoritmo de cifrado débil, riesgos de fuga de contraseñas, ofreciendo un servicio completo de diligencia de ciberseguridad.

Para lograr la máxima seguridad, el código fuente cargado se cifra inmediatamente utilizando el cifrado SHA256 y se borra inmediatamente del sistema una vez que se ha completado el análisis, lo que le proporciona una total tranquilidad.

Los resultados de la autoevaluación y del escaneo del código fuente son revisados por nuestros expertos en diligencia de ciberseguridad, que identifican las áreas de mejora y ofrecen evaluaciones y recomendaciones destinadas a optimizar los procesos y las operaciones de una empresa.

Ya has oído el viejo proverbio. Una cadena es tan fuerte como su eslabón más débil.  Nunca ha sido más cierto que en el contexto de la ciberseguridad.  

Hoy en día, con el uso de software de terceros y la integración de sistemas en muchas organizaciones, a menudo existe una compleja red de cadenas formada por numerosos eslabones que se conectan, y cada uno de ellos supone una amenaza potencial para toda la organización. ¿Cómo asegurarse de que estos eslabones son fuertes? Realizando la diligencia debida en materia de ciberseguridad.

La solución de diligencia debida en ciberseguridad de Vaultinum ayuda a las empresas a descubrir y prevenir los riesgos mediante la evaluación de las áreas clave de las ciberamenazas

¿Qué es la diligencia debida de ciberseguridad ? | Vaultinum

¿Qué es la diligencia debida de ciberseguridad?

Definición de auditoría de ciberseguridad

Una auditoría de ciberseguridad puede definirse como una inspección minuciosa del sistema de información de una empresa en su totalidad y en detalle. El objetivo es verificar y probar la integridad de las infraestructuras físicas y de software frente a las distintas amenazas.

Este análisis también tiene por objeto verificar la utilización de las distintas herramientas y su mantenimiento. Al final de la auditoría se formulan recomendaciones para subsanar las lagunas detectadas y corregir las actitudes de riesgo de los usuarios.

Una auditoría puede llevarse a cabo internamente si se dispone de los recursos necesarios (departamento de TI y RSSI). De lo contrario, es necesario recurrir a los servicios de una empresa especializada o de un consultor. En la mayoría de los casos, dada la complejidad de la tarea, es aconsejable recurrir a un experto acreditado en seguridad informática.

¿Qué tipo de empresa debe realizar auditoría de ciberseguridad ?

Todas las organizaciones conectadas a Internet están expuestas a ciberataques. Estos ataques pueden adoptar muchas formas, como ataques de denegación de servicio (DoS), phishing o incluso ransomware o secuestro de datos que puede congelar todo el sistema y paralizar así la empresa. Estos ataques aprovechan vulnerabilidades de software o humanas, como los malos hábitos de uso de los empleados, para accerder a los sistemas de información. Con una empresa atacada cada once segundos en todo el mundo, cualquier empresa, por grande o pequeña que sea, es un objetivo y debe asegurarse de que su sistema de seguridad es sólido. Una auditoría de seguridad informática puede ayudar a garantizarlo.

Desde que el reglamento europeo entró en vigor el 25 de mayo de 2018, todas las empresas deben cumplir con los requisitos del RGPD o Reglamento General de Protección de Datos. De hecho, todas las empresas están, por tanto, afectadas por la seguridad informática. En efecto, en caso de fuga o robo de datos tras un ciberataque, la empresa puede ser objeto de acciones judiciales colectivas por parte de las víctimas o incluso de una condena penal.

¿Cuándo debe realizarse auditoría de ciberseguridad

Las buenas prácticas para mejorar la seguridad informática sugieren que se lleve a cabo una auditoría de ciberseguridad al menos una vez al año. Su coste debería incluirse en el presupuesto de su sistema informático.

También es aconsejable realizar una auditoría de seguridad del sistema de información en caso de sospecha de ataque o robo de datos. En este caso, es necesario reaccionar lo más rápidamente posible para solucionar los problemas y poner en marcha una protección eficaz y duradera. En algunos casos, las amenazas también pueden proceder de los socios con los que trabaja la empresa. Las interconexiones entre estos socios y la empresa, tanto en términos de intercambio de datos como de derechos compartidos, pueden aumentar los riesgos y hacer vulnerable el sistema.

Todo lo que necesita saber sobre las auditorías de ciberseguridad para empresas. Cómo detectar vulnerabilidades y prevenir posibles ataques.