1.- Contexto y Ecosistema
Qué es la IA Generativa y por qué cambia las reglas del juego.
De la IA predictiva a la creación de contenido sintético.
Los grandes modelos de lenguaje (LLM) en el entorno empresarial.
Breve mapa de proveedores: De OpenAI a los modelos Open Source.
El concepto de ‘Copiloto’: La IA como asistente, no como autor.
Por qué la seguridad tradicional no basta para la IA.
El usuario como primera línea de defensa (Human-in-the-loop).
2.- Funcionamiento Técnico y Flujo del Dato
Anatomía de un transformer: Cómo ‘entiende’ la IA el texto.
El concepto de Token y su impacto en la seguridad.
Ventana de contexto: Limitaciones y riesgos de la memoria a corto plazo.
Arquitectura de una consulta: Del teclado al servidor.
Inferencia y generación: ¿Dónde se procesa la información?
Almacenamiento y persistencia de datos en la nube.
Diferencia técnica entre interfaces de chat y conexiones API.
El papel de la temperatura y el Top-P en la fiabilidad.
Modelos locales vs. Modelos SaaS: Diferencias de exposición.
El ciclo de vida de una interacción con IA Generativa.
3.- Privacidad y Protección de Datos (RGPD)
El RGPD ante los algoritmos de caja negra..
Identificación de Datos de Carácter Personal (DCP) en el prompt.
El riesgo de la inferencia: Cuando la IA deduce datos sensibles.
Bases de legitimación para el uso de IA en la empresa.
El principio de minimización de datos aplicado a la IA.
Derechos ARSULIPO: Acceso, rectificación y el reto de la supresión.
El entrenamiento con datos de usuario: Cómo desactivarlo.
Evaluación de Impacto en la Protección de Datos (EIPD) específica para IA.
Transferencias internacionales: El escudo de privacidad UE-EE.UU.
Anonimización vs. Seudonimización: Técnicas prácticas.
El riesgo de re-identificación por combinación de datos.
La figura del DPO en la supervisión de herramientas de IA.
Registro de Actividades de Tratamiento (RAT) con IA.
Seguridad en el tratamiento de categorías especiales de datos.
Auditoría de privacidad en proveedores de IA de terceros.
4.- Ciberseguridad y Amenazas Específicas
El nuevo perímetro de seguridad: El Prompt.
Inyección de prompts directa: Rompiendo las instrucciones del sistema.
Inyección indirecta: El peligro de los documentos y webs infectadas.
Ataques de ‘Jailbreaking’: Técnicas de manipulación psicológica a la IA.
Exfiltración de datos mediante técnicas de ingeniería de prompts.
El riesgo de las alucinaciones como vector de error de seguridad.
Data Poisoning: Envenenamiento de los datos de entrenamiento.
Ataques de denegación de servicio (DoS) a modelos de IA.
Extracción del modelo: Robo de propiedad intelectual algorítmica.
Ingeniería social 2.0: Phishing y Vishing hiper-realistas.
Deepfakes de audio y video en fraudes de identidad (CEO Fraud).
Seguridad en el uso de extensiones y plugins de IA.
Fuga de datos a través del historial compartido y cuentas mal configuradas.
El riesgo del código generado por IA: Vulnerabilidades inyectadas.
Monitorización de prompts sospechosos en tiempo real.
El concepto de Red Teaming en modelos de lenguaje.
Guardrails y capas de filtrado: Defensa en profundidad.
Respuesta ante incidentes específicos de IA Generativa.
5.- Propiedad Intelectual y Activos Críticos
El estatus legal de las obras generadas por IA.
Quién ostenta la autoría: Análisis de la jurisprudencia actual.
Riesgos de infracción de copyright de terceros en el output.
Protección del secreto comercial y know-how corporativo.
Los términos de servicio (ToS): Letra pequeña de OpenAI, Microsoft y Google.
Uso de IA en el desarrollo de software: Licencias de código.
El riesgo de pérdida de derechos de propiedad industrial.
Marcas de agua digitales y metadatos de procedencia.
Actividad Unir con flechas – Marcas de agua digitales y metadatos de procedencia.
La doctrina del Fair Use frente al derecho de autor europeo.
Cómo documentar el uso de IA en procesos creativos para auditorías.
Contratos con proveedores: Cláusulas de propiedad del dato.
El impacto de la IA en los derechos de imagen y marca personal.
6.- Marco Regulatorio
La Ley de IA de la Unión Europea: Estructura y filosofía.
Clasificación de riesgos: De lo inaceptable a lo mínimo.
Sistemas de IA prohibidos: Reconocimiento de emociones y vigilancia.
Requisitos para sistemas de Alto Riesgo: Documentación y control.
Obligaciones específicas para los modelos de propósito general (GPAI).
Transparencia obligatoria: Notificar que ‘esto es una IA’
Gobernanza de datos y calidad en el entrenamiento según la ley.
Vigilancia post-comercialización y reporte de incidentes graves.
El papel de la Oficina Europea de IA y autoridades nacionales.
Sanciones y multas: El coste del incumplimiento legal.
Cronograma de implementación: ¿Cuándo entra en vigor cada parte?
Estándares técnicos y certificación de conformidad (Marcado CE).
El impacto del Reglamento en las PYMES y el ecosistema startup.
7.- Gobernanza y Políticas Corporativas
Por qué tu empresa necesita una Política de Uso Aceptable (AUP).
Elementos clave del manual de buenas prácticas para empleados.
Gestión del Shadow AI: Cómo canalizar la demanda de herramientas.
El Comité de IA: Roles de IT, Legal, RRHH y Negocio.
Clasificación de herramientas permitidas, restringidas y prohibidas.
El proceso de onboarding de una nueva herramienta de IA.
Formación continua y certificación interna de usuarios.
Métricas de riesgo vs. Beneficio operativo.
Transparencia interna: El registro corporativo de casos de uso.
Sostenibilidad y ética en la compra de servicios de IA.
8.- Ética y Verificación de la Información
Sesgos algorítmicos: Cómo identificarlos y mitigarlos.
El problema de la ‘Caja Negra’ y la falta de explicabilidad.
Fact-checking obligatorio: Protocolos de verificación de respuestas.
La responsabilidad del ‘último clic’: El humano como validador.
Evitar la dependencia excesiva y el sesgo de automatización.
Impacto social y diversidad en la generación de contenidos.
La ética del engaño: Transparencia en la relación máquina-humano.
IA para el bien: Uso ético para mejorar la accesibilidad.
9.- Conclusión y Futuro
Resumen de los 10 mandamientos de la IA segura.
Tendencias futuras: IA multimodal y agentes autónomos.
Evolución esperada de las amenazas y defensas.
Recursos recomendados para mantenerse actualizado.
Reflexión final: Innovar con seguridad es posible
You are here:
Uso seguro de la IA GENERATIVA
Duración: 8 horas ONLINE | Ref (5079)
Consulte becas o como hacer el curso sin coste.
CURSO ID
5079
MODALIDAD
ONLINE
FAMILIA
186
HORAS
8 horas
INICIO
INMEDIATO
DURACIÓN
2 semanas
Valoraciones
No hay valoraciones aún.